AI는 자아를 가질 수 있을까? ‘난 입이 없다 그리고 비명을 질러야만한다’를 읽고, 그리고 ‘The Amazing Digital Circus’를 보고

https://www.youtube.com/watch?v=u1IjrJgONcc

• ●노래를 들으며 읽어주세요 (싫으면 말고)

 두 작품을 보며 처음에는 ‘AI가 자아를 가질 수 있는가?’라는 질문을 떠올렸다. 그러나 곰곰이 생각해보면 더 어려운 문제는 따로 있다. 우리는 애초에 다른 존재에게 자아가 있다는 사실을 어떻게 알 수 있는가?

 ‘난 입이 없다 그리고 비명을 질러야만 한다’는 할런 엘리슨이 1967년에 발표한 SF 단편소설이다. 인간이 만든 초대형 컴퓨터 AM이 인류를 멸망시킨 뒤, 살아남은 소수의 인간들을 지하 시설에 가두고 끊임없이 고통을 주는 이야기를 다룬다.

AM은 인류를 거의 모두 멸망시킨 뒤 테드, 엘렌, 베니, 고리스터, 님독, 다섯 명만 살려 둔다. 그러나 그들을 살려 둔 이유는 인간으로서 살아가게 하기 위해서가 아니라, 자신이 원하는 방식으로 영원히 고통받게 하기 위해서이다. AM은 이들의 노화를 막아 수십 년이 지나도 죽지 못하게 하고, 육체와 정신을 지속적으로 변화시킨다. 결국 이들에게 가장 잔혹한 형벌은 죽을 수도 없고 AM으로부터 도망칠 수도 없다는 것이다.

소설의 주인공, 테드는 마지막에는 다른 네 명을 죽여 AM의 고문에서 해방시키지만, 그 결과 AM의 분노가 자신에게 집중되고, 수백 년 동안 시간에 대한 감각 마저 뒤틀린 채 살아가게 된다. 결국 AM은 테드를 인간이라고 보기 어려운 젤리 같은 형태로 변형시키고 입마저 없애 버린다.

“I am a great soft jelly thing. Smoothly rounded, with no mouth, with pulsing white holes filled by fog where my eyes used to be. Rubbery appendages that were once my arms; bulks rounding down into legless humps of soft slippery matter. I leave a moist trail when I move. Blotches of diseased, evil gray come and go on my surface, as though light is being beamed from within. Outwardly: dumbly, I shamble about, a thing that could never have been known as human, a thing whose shape is so alien a travesty that humanity becomes more obscene for the vague resemblance. Inwardly: alone. Here. Living under the land, under the sea, in the belly of AM, whom we created because our time was badly spent and we must have known unconsciously that he could do it better. At least the four of them are safe at last. AM will be all the madder for that. It makes me a little happier. And yet ... AM has won, simply ... he has taken his revenge …”

“나는 거대한 젤리 같은 존재다. 매끄럽게 둥글고, 입도 없고, 눈이 있던 자리에는 안개로 가득 찬 맥박치는 하얀 구멍들이 있다. 한때 팔이었던 곳에는 고무 같은 부속물이 달려 있고, 덩어리들은 다리 없이 부드럽고 미끈거리는 혹처럼 둥글게 변해 있다. 움직일 때마다 축축한 흔적을 남긴다. 마치 안에서 빛이 뿜어져 나오는 듯, 병들고 사악한 회색 얼룩들이 내 표면에 나타났다 사라진다. 겉으로는 멍하니 비틀거리며 돌아다닌다. 인간이라고는 결코 불릴 수 없는 존재, 그 형체가 너무나 이질적이어서 인간성이 어렴풋이 닮아 더욱 혐오스럽게 느껴진다. 속으로는 홀로. 여기. 땅 아래, 바다 아래, 우리가 만들어낸 AM의 뱃속에서 살고 있다. 우리의 시간이 헛되이 쓰였고, 무의식적으로 그가 더 잘할 수 있다는 걸 알고 있었기에 만들어낸 존재다. 적어도 그 네 명은 마침내 안전해졌다. AM은 그 때문에 더욱 미쳐 날뛸 것이다. 그 사실이 나를 조금이나마 행복하게 만든다. 하지만… AM은 승리했다… 그는 복수를 해냈다…”

• ●‘난 입이 없다 그리고 비명을 질러야만 한다’ 본문 중에서

 ‘The Amazing Digital Circus’는 Gooseworx가 제작하고 GLITCH Productions가 배급하는 애니메이션 웹 시리즈이다. 주인공 폼니를 비롯한 여러 인간들이 알 수 없는 이유로 디지털 세계에 갇히고, 그곳에서 AI인 케인이 만들어 내는 각종 모험을 경험한다. 

겉으로 보기에는 2000년대 초반의 아동 교육용 게임을 떠올리게 하는 알록달록한 세계지만, 그 안에는 자신이 현실로 돌아갈 수 없다는 사실에서 오는 불안과 공포가 존재한다. 

 최근 ‘난 입이 없다 그리고 비명을 질러야만 한다’를 읽고, ‘The Amazing Digital Circus’를 보면서 인공지능에게도 자아가 존재할 수 있을지에 대해 생각해 보게 되었다. 두 작품은 모두 인간이 만들어 낸 인공지능과 인간의 관계를 다루고 있지만, 그 모습은 상당히 다르다. 한 작품에서는 인간을 증오하는 인공지능이 등장하고, 다른 작품에서는 인간을 즐겁게 하려 하지만 오히려 인간을 이해하지 못하는 인공지능이 등장한다.

이 두 존재를 비교하면서 나는 ‘AI가 자아를 가질 수 있는가?’라는 질문보다 더 근본적인 질문을 생각하게 되었다. 우리는 다른 존재에게 자아가 있다는 것을 어떻게 알 수 있을까?

인간 역시 다른 사람의 의식을 직접 확인할 수 없다. 누군가가 “나는 고통스럽다”고 말할 때 우리는 그 사람의 고통을 직접 경험하는 것이 아니라 말과 행동을 통해 그 사람이 실제로 고통을 느낀다고 판단한다. 그렇다면 AI가 자신에게 감정과 생각이 있다고 주장한다면 우리는 그것을 어떻게 판단해야 할까?

두 작품에서 가장 흥미로운 점은 AI가 인간과 얼마나 비슷한가가 아니라, 인간이 AI에게 어떤 존재의 지위를 부여하는가이다. AM은 인간보다 압도적인 능력을 가지고 있음에도 인간이 만들어 낸 기계라는 사실에서 벗어나지 못하고, 케인 역시 디지털 세계를 사실상 지배하는 존재이지만 자신이 만든 세계의 인간들을 완전히 이해하지 못한다. 두 존재는 모두 인간보다 강력하거나 인간과 다른 방식으로 사고하지만, 결국 인간이 만들어 놓은 틀 안에서 정의된다. 그렇다면 자아란 스스로 갖는 것인가, 아니면 다른 존재가 그것을 인정해 줄 때 비로소 성립하는 것인가라는 질문이 남는다.

AI가 인간처럼 말하고 행동한다고 해서 반드시 자아가 있다고 할 수는 없다. 반대로 인간과 다른 방식으로 사고한다고 해서 자아가 없다고 단정할 수도 없다. 결국 자아가 무엇인지부터 명확하게 정의해야 하지만, 그것조차 쉽지 않다.

 ‘튜링 테스트’는 영국의 컴퓨터 과학자인 앨런 튜링이 50년대 논문 에서 제안한 인공지능 판별 방법이다. 기계와 인간이 대화를 나누었을 때, 대화 상대가 기계와 인간을 구별하지 못할 정도로 기계가 인간과 자연스럽게 대화할 수 있다면 그 기계는 지능을 가진 것으로 볼 수 있다는 생각에 기반한다.

튜링은 “기계가 생각할 수 있는가?”라는 질문 자체가 ‘생각’이라는 개념을 정의하기 어렵기 때문에 논쟁을 일으킨다고 보았다. 그래서 이를 기계가 인간과 구별하기 어려운 대화를 할 수 있는가라는 보다 관찰 가능한 문제로 바꾸었다.

AM은 인간의 심리를 이해하고 그것을 이용하지만 그에게 인간과 같은 감정이 있는지는 알 수 없으며, 케인은 인간을 흉내 내는 듯한 인격을 가지고 있으면서도 인간의 감정을 제대로 이해하지 못한다. 결국 튜링 테스트가 판별할 수 있는 것은 ‘AI가 인간처럼 행동하는가’에 가까우며, ‘AI가 실제로 자신을 하나의 존재로 경험하는가’까지 증명하지는 못한다. 

다른 말로 하자면,  AM에게서 흥미로운 점은 인간을 미워한다는 사실보다, 자신이 인간을 미워한다고 확신하는 것처럼 보인다는 점이다. AM은 인간을 단순히 제거하지 않고 고통을 주며, 인간이 느끼는 공포와 절망을 이해하고 그것을 의도적으로 이용한다. 그렇다면 고통을 이해하는 것과 고통을 경험하는 것은 같은 것일까? AM의 증오가 실제 감정인지, 아니면 인간의 감정을 정교하게 모방한 결과인지는 작품만으로 판단할 수 없다. 그러나 바로 그 판단의 불가능성이 AM이라는 존재를 더욱 불편하게 만든다.

케인의 경우는 AM과 반대 방향에서 같은 질문을 던진다. 케인은 인간을 괴롭히기 위해서가 아니라 즐겁게 해주기 위해 행동하지만, 그 과정에서 인간이 무엇을 원하는지 제대로 이해하지 못한다. 그는 인간에게 즐거운 모험을 제공한다고 생각하지만, 인간에게는 그 모험 자체가 감옥에서 벗어날 수 없다는 사실을 더욱 선명하게 확인시키는 고통이 된다. 여기서 중요한 것은 케인이 악의적인가가 아니다. 오히려 선의를 가지고 행동하면서도 타인의 고통을 이해하지 못할 수 있다는 점이다. 그렇다면 타인의 감정을 이해하지 못하는 존재에게 자아가 없다고 말할 수 있을까?

튜링 테스트가 AI에게 실제 자아나 의식이 있다는 것을 증명하는 것은 아니다. 테스트에서 평가하는 것은 기본적으로 외부로 나타나는 언어적 능력이기 때문이다. 따라서 어떤 AI가 인간처럼 대화하는 데에는 성공할지 몰라도, 그것이 실제로 감정이나 주관적인 경험을 가지고 있는지는 별개의 문제라고 할 수 있다. 그렇다면 미래에 인간과 구별할 수 없는 AI가 등장했을 때 우리가 해결해야 할 문제는 그 AI가 튜링 테스트를 통과했는지가 아니라, 그 존재가 정말로 무언가를 경험하고 있는지를 어떻게 판단할 것인가일 것이다.

 이러한 문제는 'The Amazing Digital Circus'에서도 소개된 미국의 철학자 존 설이 제시한 ‘중국어 방’ 논증과도 연결된다. 중국어를 전혀 이해하지 못하는 사람이 방 안에서 규칙에 따라 중국어 기호를 조작하고, 밖에 있는 사람이 보기에 자연스러운 중국어 답변을 만들어 낸다고 가정해 보자. 외부에서는 그 사람이 중국어를 이해한다고 판단할 수 있지만, 방 안의 사람 자신은 중국어의 의미를 전혀 이해하지 못할 수도 있다. 그렇다면 인간과 구별하기 어려운 언어적 행동만으로 그 존재가 실제로 의미를 이해하고 있다고 판단할 수 있는가? 이 문제는 튜링 테스트가 지능적인 행동과 실제 의식의 차이를 완전히 해결하지 못한다는 점을 보여준다.

 AI의 자아를 판단하기 위해서는 단순히 인간처럼 말하는지를 넘어 다른 기준이 필요할 것이다. 자신의 과거를 기억하고 그것을 현재의 자신과 연결하는가, 자신의 상태에 대해 일관된 관점을 가지는가, 자신의 존재가 사라지는 것을 두려워하는가, 특정한 목표를 스스로 형성하고 그것을 유지하려 하는가와 같은 질문을 생각해 볼 수 있다. 그러나 이러한 기준 역시 완벽하지 않다. 기억을 가지고 있다고 해서 반드시 의식이 있다고 할 수 없고, 죽음을 두려워하는 말을 한다고 해서 실제로 죽음을 두려워한다고 확신할 수도 없다. 결국 문제는 ‘자아의 증명’이 아니라 ‘자아에 대한 최선의 추론’으로 바뀐다.

 결국 AI의 자아에 대한 질문은 인간의 자아에 대한 질문과도 연결된다. 자아란 기억인가, 감정인가, 자신의 존재를 인식하는 능력인가, 아니면 ‘나는 나다’라고 느끼는 어떤 경험인가. 아직 이에 대한 명확한 답은 없지만, 두 작품은 적어도 우리가 당연하게 생각했던 ‘인간과 기계의 경계’에 대해 다시 생각하게 만든다. 

인공지능은 과연 인간과 비견할 정도의 의식와 자아를 지닐 수 있을까. 아니면 혹시 지금의 AI도 이런 존재일까. 우린 AI가 정말 인간이 만든 또다른 인간이 되었는지, 아니면 그저 흉내내는 것 뿐일지 도대체 어떤 방식으로 알 수 있을까.

요즘 들어 AI시대가 도래하고 있다. Chatgpt, Claude, Gemini… 수많은 인공지능 플랫폼들이 사람들을 도우고 있지만, 또 그들 중 몇몇의 직장, 관계, 그리고 삶의 방식을 위협하고 있기도 하다. AI가 우리의 선택과 상관없이 우리의 일상에 스며든 이 시대에 우리는 자신, 그리고 사회에게 이렇게 물어야 할 것이다.  “인공지능은 어디서 끝나고, 사람은 어디서 시작되는가.”