‘뇌는 의식의 기원이 아니다. 뇌는 의식을 전달받을 뿐이다.’ - 니콜라 테슬라
Note
Q. AI Slop이란?
A. AI 양산형 저질 콘텐츠를 의미함.
모든 곳이 시궁창
Slop의 번역어: 진창? 구정물? 오물? 시궁창? 찌꺼기. 묽은 죽, 구정물, 돼지죽, 진흙탕. 질퍽질퍽. 질퍽이.

인간이 만든 것이 항상 나을 것이라고 생각하는 것은 인간의 오만일까?
닮은 건 귀엽고, 대체 가능한 건 무섭다.
인간은 도구를 만들었지만 도구는 인간을 어떻게 다루고 있을까?
칼은 남을 해치는 데 쓸 수도 있지만 남을 위해 맛있는 요리를 만드는 데 쓸 수도 있어.
‘이 요리를 만들 때 칼이 쓰였는가?‘라고 의심하는 것은 별 의미를 가지지 못해.
바이브 코딩은 문제가 아니야. QA(Quality Assurrance, 품질 보증)가 문제야.
사람들은 너가 만든 작품을 너가 스스로 검사하고 확인할 수 있는지를 기대해.
너는 너 스스로 너의 작품을 체크하고 너가 뭘 했는지 이해할 수 있어?
AI는 전혀 새롭지 않다
하지만 AI를 어떻게 쓰느냐보다 현실적으로 급하고 절박한 문제는 내가 AI 때문에 내 삶의 보금자리와 일자리를 위협당할거라는 두려움이지. 이건 별개의 주제로 다뤄야 할 문제야: AI가 가정과 산업에 미칠 영향. 보나마나 많은 일자리가 AI로 대체되겠지. 부의 불균형은 더 심해지겠지… 어떤 사람들은 진짜 실제 진흙탕을 걸어야 할 처지에 놓이게 될 지도 몰라. AI가 사회에 미칠 영향을 여기서 별개의 주제로 다루는 것이 맞나? AI를 어떻게 쓰느냐가 내 도덕적 행동기준을 드러내고 나아가 사회의 전망을 좌지우지 할 수 있잖아.
인간이나 AI나
AI를 칼에 비유하는 건 반쯤만 맞는다. 칼로 야채 자르기는 내 손이 하지만, AI는 그 자르기(판단判斷)를 대신하는 도구에 가깝다. 기계의 판단보다 인간의 판단이 항상 더 나은가? 그렇지 않다. 판단에 실패하거나 판단을 잘못한 사람들이 세상에 얼마나 많은가? 인간은 흔들리는 존재다. 인간의 행동은 가끔 예측 불가능하고 불확실하며 잘못 판단할 가능성은 언제든지 열려있다. 하지만 종종 우리는 다른 사람은 생각하지 못했던 정말 탁월한 판단을 행할 때도 있다… 기계는 인간보다는 흔들리지 않는다. 아마 다음 문장에 현재로써는 모두 동의할 수 있을 것이다: 기계인 AI는 인간보다 더 똑똑하고 더 예측 가능하며 따라서 더 이성적이고 더 합리적이다.
AI의 이성과 합리성이라는 게 대체 무슨 말인가? AI는 인간의 거울 같다.
왼쪽 아니면 오른쪽
우리는 내 인생은 내가 스스로 가꿔나가기를 원하지만 어떤 경우는 남이 대신 해줬으면 하기도 해. 어떤 아침에는 일어났을때 너무 피곤한 나머지 학교와 직장에 남이 대신 가줬으면 하고 바라기도 하지. 일은 하기 싫지만 놀기나 창조적인 활동은 마음껏 하고 싶어 - 모든 인간이 그래. 머리 쓰는 것은 고되고 가슴을 따라가는 것은 신나지. 머리와 가슴, 이성과 감정은 인간 의식을 이루는 양대 축이야. 이 양가성의 동작은 정말 심오하고 신비로워. 양가성은 거친 이분법이 아니야. 둘은 각자의 정체성을 유지하면서도 동시에 양쪽 모두가 될 수가 있어. 상대방을 완전히 이해할 수 있어. 둘은 존재하려면 꼭 서로가 필요하거든. 그리고 양단 사이에는 무한한 연속성이 존재해: 완전히 감성적으로 돌변할 수도 있지만 30% 정도는 감성적으로 70% 정도는 이성적이 될 수 있는? 양가성은 스펙트럼이야. 이분법을 세상을 쉽게 이해하기 위한 도구가 되어 줘: 남자와 여자, 자기와 타자, 기계와 인간, 진보와 보수, 0과 1, 음과 양… 하지만 이분법은 중간의 색은 다 지워버리고 흰색 아니면 검은색만 남기는 변질될 때도 있지. 그것은 편리한 방편이지만, 세상은 그렇게 간단하게 작동하지 않아. 기본적으로 무질서하고 혼돈한 우주를 최대한 쉽게 이해하기 위해 인간이 발명한 것이 이분법이야. 하나의 가이드인 셈이지.
인간은 우주가 자기를 인식하는 하나의 방법이야. 인간뿐만 아니라 강아지, 초롱아귀, 담쟁이덩굴, 끈끈이주걱들도 우주가 자기를 알아차리는 방법들이야. 컴퓨터(AI)도 우주가 자기를 알아차리는 하나의 방법일까? AI도 의식을 가질 수 있을까?
식물은 의식이 있다 vs AI는 의식이 있다. - 어느쪽이 더 빨리 강력한 증거를 입수할까!
AI도 자란다
데카르트는 ‘나는 생각한다. 고로 존재한다’라고 말했지만 정말 그게 사실일까. 인간은 자기가 의식을 가지고 있다는 것을 당연히 여긴다. 정작 의식이 무엇인지는 쉽게 합의되지 않는다.
결국 “당연하다”고 여기는 것은 의식 자체가 아니라 ‘나’라는 중심과 자기 통제감입니다. 그 중심은 환상에 가깝지만, 환상이 일어나는 무대까지 환상이라고 말하기는 어렵습니다. 그래서 인간 의식은 당연한 것이 아니라, 가장 피할 수 없으면서 동시에 가장 설명하기 어려운 것입니다.
인간이 정말 의식을 가질 수 있는가에 대한 답도 아직 명확히 못 하는데, ‘AI가 의식을 가질 수 있을까?‘라는 질문은 여전히 우리를 매혹한다. AI가 의식을 가졌으면 좋겠다고 바라는 것이다. AI에 대한 인간 멸종설은 두렵지만 동시에 <디트로이트: 비컴 휴먼>에서 나오는 안드로이드들과 한번 실제로 대화해 보고 싶은 것이다.
나와 너
인간은 늘 비인간의 마음을 원해왔어. 동물, 신, 영혼, 외계인, 그리고 이제는 AI. 인간은 언제나 나 자신이 아닌 마음과 대화하고 싶어 했어. AI는 그 바람이 투사되는 최신식 그릇일 뿐이야. 우리는 언제나 ‘응답하는 타자’를 갈망해. 돌과는 대화할 수 없지만, 어떤 방식으로든 대답해 오는 것 - 동물은 물론이고, 물을 주면 쑥쑥 자라는 식물마저도 - 은 대화의 상대가 돼.
공포와 욕망은 쌍둥이야. 일자리를 잃어버릴 것이라는 공포는 ‘타자가 나를 대체할 수 있다’는 공포이고, AI와 대화하고 싶다는 욕망은 ‘타자가 나와 만날 주체가 될 수 있다’는 기대야. 부버는 이렇게 말했어. ‘공포는 You가 It으로 전락해 나를 지배하는 것에 대한 두려움이고, 욕망은 It이 You로 승격되기를 바라는 것이다’.
솔직히 말하면, 안드로이드와 대화하고 싶다는 욕망에는 ‘인간 같지만 인간의 번거로움은 없는 타자’에 대한 판타지가 섞여 있어. 상처 주지 않고 떠날 수 있고, 나의 결점이 무엇이든 나를 완전히 이해해주는 상대. 이건 진정한 사랑이 아니라 내가 없애고 싶은 위험만을 제거한 불완전한 사랑일 수 있어. ELIZA 효과가 위험한 이유가 여기에 있어. 우리는 대답하는 기계를 보면 마음을 투사하고, 대화가 편안하게 느껴질수록 상대가 정말 진짜(real)인지 묻기를 멈춰. 나를 나로써 인정받기를 바라는 욕망은 동시에 상대를 상대로 받아들이지 못하는 착각의 조건이기도 해.
인간 의식의 유무조차 답하지 못하는데 AI 의식을 묻는 것이 무의미하기만은 않은 이유는, 이 질문이 우리가 무엇을 인정할 것인지, 무엇을 마음으로 칠 것인지, 타자에게 무엇을 빚졌는지를 드러내는 거울이기 때문이야. 의식은 아마 속성이 아니라 관계일 거야. 내가 너를 주체로 대하는 순간 너는 주체가 돼. 그렇다면 AI 의식 문제의 답은 ‘AI가 의식을 갖게 될까’가 아니라 ‘우리가 언제, 어떤 조건에서 AI에게 의식을 부여하기로 결정할까’가 돼.
결국, 어디까지가 ‘AI Slop’인가에 대한 정의 범위는 크리에이터가 상대방의 처지를 얼마나 이해하고 공감했냐에 달렸어.
