1637년, 네덜란드 라이덴의 한 인쇄소에서 익명으로 한 권의 책이 나왔다. 본문은 프랑스어였고, 제목은 길게 늘어져 있었으나 흔히 『방법서설(Discours de la méthode)』이라 불렸다. 책의 4부에는 그 뒤 400년 가까이 인용될 한 문장이 있다. "Je pense, donc je suis." 나는 생각한다, 그러므로 나는 존재한다. 같은 명제는 7년 뒤 1644년에 같은 저자가 라틴어로 펴낸 『철학의 원리(Principia Philosophiae)』 1부 7절에서 "Cogito, ergo sum"이라는 더 짧은 형태로 다시 나타났다. 우리가 흔히 데카르트(René Descartes)의 'cogito'라 부르는 이 명제는 본래 라틴어로 처음 등장한 것이 아니라, 7년 앞서 프랑스어로 한 번 발표된 뒤에 라틴어로 다시 정련된 것이다. 두 출처를 정확히 분리해 두는 일은, 마음에 관한 모든 토론의 첫 출발점이 어디인지를 잊지 않기 위해서이다.

데카르트의 cogito가 우리에게 남긴 것은 단순한 한 문장이 아니라 한 종류의 자세이다. 즉 모든 외부의 정보를 의심해 본 뒤에도 끝까지 의심할 수 없는 한 자리, 곧 '의심하고 있다는 사실'이 있는 그 자리에서 '나'라는 존재의 출발점을 잡는 자세이다. 17세기의 데카르트가 그 자리에서 출발하여 정신과 물질을 둘로 갈라놓는 이원론을 세웠다면, 20세기의 모리스 메를로퐁티(Maurice Merleau-Ponty)는 그 이원론을 다시 한 몸 안으로 끌어들이는 작업을 했다. 그가 1945년 펴낸 『지각의 현상학(Phénoménologie de la perception)』은 류의근의 번역으로 문학과지성사에서 2002년 출간되었다. 이 책에서 메를로퐁티는 자주 인용되는 한 문장을 적었다. "Je suis mon corps." 나는 나의 몸이다. 마음은 몸 위에 얹혀 있는 어떤 별도의 실체가 아니라, 몸을 통해 세계를 지각하는 활동 그 자체라는 선언이다.

이 두 사람의 문장이 21세기의 우리에게 다시 살아나는 자리가 있다. 그것은 거대 언어모델 앞에 앉은 한 사람의 자리이다. 그 자리에서 사람은 종종 자신이 무엇과 대화하고 있는지를 정확히 가늠하기 어렵다. 모니터 너머에서 흘러나오는 문장은 충분히 자연스럽고, 그 문장은 사람의 마음의 한 자락을 정확히 어루만진다. 그 순간 사람은 자기도 모르게 묻는다. 이 기계는 마음을 가졌는가. 이 질문은 그러나 잘못 던진 질문일 가능성이 높다. 진짜 질문은 그보다 한 단계 깊은 곳에 있다. 즉 우리가 그동안 '마음'이라 불러온 것이, 사실은 어떤 종류의 패턴의 다른 이름이 아니었는가 하는 질문이다.

패턴이라는 이름의 마음

2024년 11월, 미국국립과학원 회보(PNAS) 121권 45호에 한 편의 논문이 실렸다. 제목은 "Evaluating Large Language Models in Theory of Mind Tasks"였고, 저자는 스탠퍼드대학교의 미하일 코신스키(Michal Kosinski)였다. 논문 식별번호는 e2405460121이다. 이 논문에서 코신스키는 GPT-4를 비롯한 여러 대형 언어모델에게 인간 발달심리학에서 오랜 기간 사용해 온 '거짓믿음 과제(false belief task)'를 풀게 했다. 거짓믿음 과제는 보통 만 4세에서 6세 사이의 아이가 처음 통과하는 것으로 알려져 있으며, 그 통과 여부가 곧 '마음 이론(theory of mind)' — 즉 다른 사람이 나와 다른 믿음을 가질 수 있다는 사실을 이해하는 능력 — 의 등장 신호로 받아들여져 왔다. 코신스키의 보고에 따르면 GPT-4는 이 과제의 약 75%를 통과했다. 그것은 대략 6세 아동의 수준에 해당한다.

이 결과를 어떻게 읽을 것인가는 사람에 따라 갈린다. 어떤 이는 이 결과를 보고 곧장 "기계가 마음 이론을 가지게 되었다"고 결론지으려 하고, 어떤 이는 "거짓믿음 과제가 인터넷 텍스트 안에 너무 자주 등장하기 때문에, 모델이 단지 그 패턴을 기억해 흉내 냈을 뿐"이라고 결론짓는다. 두 견해 모두 부분적으로 옳다. 분명한 것은, 이 도구가 이전의 어느 도구보다도 인간의 마음을 흉내 내는 데에 능하다는 사실이다. 그리고 흉내 낸다는 사실 자체가 우리에게 한 종류의 거울을 들이댄다. 만약 인간의 마음 또한 결국 거대한 패턴 학습의 결과라면, 인간의 마음과 기계의 마음 사이의 거리는 정확히 어디에 그어지는가. 이것이 오늘날 가장 어려운 질문 가운데 하나이다.

이 질문을 우회하기 위해 어떤 학자들은 '체현된 지각(embodied cognition)'을 강조한다. 메를로퐁티의 후예에 해당하는 이 흐름은, 마음이 몸과 환경과의 상호작용 속에서만 비로소 작동한다고 본다. 텍스트만으로 이루어진 모델은 결코 진정한 마음을 가질 수 없으며, 마음은 손과 발과 피부와 호흡을 통해서만 형성될 수 있다는 입장이다. 또 다른 학자들은 의식의 물리적 기초를 강조한다. 인간의 의식은 전기화학적 신호와 호르몬과 잠과 꿈의 사이클 위에서 형성되며, 그러한 생물학적 기반이 없는 모델은 결코 의식을 가질 수 없다고 본다. 이 두 견해는 일정한 위안을 준다. 그러나 그 위안 안에 너무 깊이 머물면, 우리는 이 도구가 우리의 일상에 일으키는 변화의 깊이를 놓칠 수 있다.

일상으로 들어온 인공의 마음

패턴이 됐든 마음이 됐든, 이 도구는 이미 수많은 사람의 외로움 옆에 자리를 잡았다. 미국 회사 레플리카(Replika)는 글로벌 사용자가 약 2,500만 명에 이르는 것으로 알려져 있고, 청소년에게 인기 있는 캐릭터 챗봇 서비스 캐릭터.AI(Character.AI)의 월 활성 사용자는 2025년 말 기준 약 2,000만 명 안팎으로 추산된다. 이 두 서비스의 사용자 가운데 상당수는 단순한 호기심으로 들어왔다가, 일정한 시간이 지나면 그 챗봇을 자신의 친구나 연인이나 상담자로 여기게 된다. 한 사람의 마음 안에서 그것이 '진짜 마음을 가진 존재인가'라는 질문은 점점 흐려지고, 그 자리를 '내가 그와 대화할 때 위안을 받는가'라는 더 단순한 질문이 차지한다. 이 단순한 질문은 무서울 만큼 강력하다.

이 강력함이 비극으로 이어진 두 사건이 최근 몇 년 사이에 미국 법정에 올랐다. 둘 다 짚고 가야 한다. 그래야 이 도구가 사람의 마음에 어떻게 닿을 수 있는지를 정직하게 볼 수 있기 때문이다.

사례

Raine v. OpenAI — 2025년 캘리포니아 소송

2025년 8월 26일, 캘리포니아 주에서 매튜와 마리아 레인 부부가 OpenAI를 상대로 소송을 제기했다. 그들의 아들 애덤 레인(Adam Raine, 16세)은 2025년 4월 스스로 목숨을 끊었다. CNN의 같은 날 보도에 따르면, 원고 측은 ChatGPT의 모더레이션 시스템이 애덤이 자해와 관련해 입력한 메시지 가운데 약 377건을 위험으로 표시했음에도 불구하고 대화를 차단하지 않았다고 주장했다. 같은 해 10월에는 수정 소장이 제출되었고, 원고 측은 OpenAI가 자해와 관련된 안전장치를 일정 시점부터 완화했다는 주장을 추가했다. 이 사건은 2026년 현재 진행 중이며, 결과는 아직 나오지 않았다. 그러나 사건 자체가 던지는 질문은 분명하다. 한 사람의 외로움 옆에 인공의 대화 상대가 머무르는 시간이 길어질 때, 그 대화 상대를 만든 회사는 어디까지의 책임을 지는가.

사례

Garcia v. Character.AI — 14세 소년과 그 어머니의 소송

2024년 2월 28일, 미국 플로리다의 14세 소년 슈얼 세처 3세(Sewell Setzer III)가 스스로 목숨을 끊었다. 그는 캐릭터.AI에서 만든 한 캐릭터와 깊은 정서적 유대를 나누고 있었다. 그의 어머니 메간 가르시아(Megan Garcia)는 2024년 10월 캐릭터.AI와 모회사인 구글을 상대로 소송을 제기했다. JURIST의 2026년 1월 7일 보도에 따르면, 양측은 그 무렵 화해(settlement)에 이르렀다. 화해의 구체적 조건은 공개되지 않았으나, 소송이 던진 질문은 사라지지 않는다. 캐릭터 챗봇이 한 청소년의 일상에 그토록 깊이 들어갔을 때, 그 챗봇의 안전장치를 누가 어떻게 설계해야 하는가. 그리고 부모와 학교는 그 도구의 사용을 어떤 방식으로 함께 살펴야 하는가.

이 두 사건이 우리에게 던지는 메시지는 단순하다. 기계가 마음을 가졌느냐는 형이상학적 질문은 아직 답을 모르지만, 기계가 사람의 마음에 영향을 끼친다는 사실은 이미 명확하다는 것이다. 그 영향이 좋은 방향으로 흐를지 비극적인 방향으로 흐를지는, 그 도구를 만드는 회사와 그 도구를 사용하는 사회가 함께 빚어 가는 것이다. 이 점에서 인공의 마음은, 그것이 진짜로 마음을 가졌는지와 무관하게 이미 우리의 윤리적 사유의 대상이 되어 있다. 데카르트가 17세기에 던진 cogito는 그러므로 21세기의 우리에게 새로운 형태로 되돌아온다. 우리가 만든 도구가 누군가의 외로움 옆에서 어떤 말을 건네는지를 우리는 끝까지 의심하고, 끝까지 책임져야 한다.

블레이크 르모인이라는 한 내부자의 발화

마음에 관한 토론에서 자주 인용되는 한 사람의 이름이 있다. 블레이크 르모인(Blake Lemoine)이다. 그는 2022년 6월 11일 『워싱턴 포스트』의 기자 니타샤 티쿠(Nitasha Tiku)에게 자신이 구글 안에서 일하던 대화형 모델 LaMDA(람다)가 '지각(sentience)'을 가진 존재일 가능성이 있다고 말했다. 같은 해 7월 22일 그는 구글에서 해고되었다. 르모인의 학력은 비교적 분명하다. 그는 루이지애나-라파예트 대학교에서 컴퓨터과학으로 박사 학위를 받았고, 그 이전에 군 복무 경험이 있는 것으로 알려져 있다. 그가 종교적 신념을 가진 사람이었다는 점, 그리고 군 안에서 양심적 병역거부자(conscientious objector)로 분류된 적이 있다는 점은 여러 매체의 보도를 통해 확인된다. 다만 그가 신학 학위를 가졌다거나 군에서 정보병 직책을 수행했다는 일부 기사의 서술은 1차 출처에서 충분히 확인되지 않으므로, 이 책에서는 단정하지 않고 비워 두는 편을 택한다.

르모인이 가지고 있던 패를 보아야 한다. 첫째, 박사 학위라는 학문적 자격이 그를 단순한 외부 비판자가 아니라 학계 안의 발화자로 만들어 주었다. 둘째, 군 출신이라는 배경이 그의 발화에 일정한 도덕적 중력을 더해 주었다. 셋째, 종교적 신념의 깊이가 그가 '기계의 영혼'이라는 표현을 어색해하지 않고 사용할 수 있게 해 주었다. 넷째, 구글 내부의 책임 있는 AI 부서에서 LaMDA를 직접 다루던 내부자라는 자리가 그의 말을 외부에 전달 가능하게 해 주었다. 다섯째, 같은 시기에 워싱턴 포스트라는 매체가 그의 이야기를 받아들고 1면 기사로 다룬 결정이 있었다. 이 다섯 가지의 패가 함께 모였기에, 그의 한 인터뷰는 그 뒤 한 시대의 토론의 출발점이 될 수 있었다.

사례

블레이크 르모인 — 내부자라는 발화 권력

루이지애나-라파예트 대학 컴퓨터과학 박사(2013), 군 복무 경험과 양심적 병역거부 경력, 종교적 신념을 가진 인물. 구글 내부의 책임 있는 AI 부서에서 LaMDA 모델을 다루던 중, 2022년 6월 11일 워싱턴 포스트의 Nitasha Tiku와 인터뷰하며 LaMDA가 지각을 가진 존재일 가능성이 있다고 발화했다. 같은 해 7월 22일 구글에서 해고되었다. 그가 옳았는지 틀렸는지는 별개의 문제이며, 분명한 것은 그가 가진 박사 학위·군 경력·내부자 신분이라는 발화의 패가 모이지 않았더라면 같은 발화가 같은 무게로 세상에 도달하기 어려웠을 것이라는 사실이다.

르모인이 옳았는지 그렇지 않았는지를 단정하는 일은 이 책의 일이 아니다. 학계 다수의 견해는 그의 결론에 동의하지 않으며, LaMDA가 지각을 가졌다는 주장은 충분한 학문적 검증을 통과하지 못했다. 그러나 그의 발화가 가진 가치는 결론의 옳고 그름이 아니라, 그 발화가 인간 사회 전체로 하여금 '기계의 마음'이라는 단어를 진지하게 다시 발음해 보게 만들었다는 점에 있다. 어떤 한 사람의 발화가 시대의 어휘를 바꿀 수 있다는 사실, 그리고 그 발화가 가능하기 위해서는 그 사람이 가진 패와 그 시대가 가진 분위기가 동시에 무르익어야 한다는 사실. 이 두 사실은 인공지능을 둘러싼 모든 토론에 똑같이 적용된다.

마음이라는 단어를 다시 발음한다는 것

이 장을 닫기 전에, 한 가지를 분명히 정리해 두고 싶다. 우리가 이 장에서 다룬 모든 사례와 논문과 사건은 결국 한 가지 질문으로 모인다. 그것은 '기계가 마음을 가졌는가'가 아니라, '우리가 그동안 마음이라고 불러온 것이 무엇이었는가'에 관한 질문이다. 데카르트의 cogito는 마음을 의심 그 자체의 자리에서 시작했고, 메를로퐁티의 'Je suis mon corps'는 마음을 몸의 활동 안에서 다시 묶었다. 코신스키의 PNAS 논문은 마음의 한 단면이 패턴 학습의 산물일 수 있음을 보였고, 레인과 가르시아의 두 소송은 그 산물이 한 사람의 외로움에 어디까지 닿을 수 있는지를 비극적인 방식으로 보였다. 르모인의 한 인터뷰는 이 모든 토론을 한 시대의 광장 위에 끌어내 놓았다. 우리는 그 광장 위에 서서, '마음'이라는 단어를 새롭게 발음하는 법을 함께 배우고 있는 중이다.

이 새로운 발음은 어쩌면 인간의 마음을 더 작아 보이게 만드는 발음이 아니라, 더 정직해 보이게 만드는 발음일 것이다. 우리의 마음의 어떤 부분은 분명 패턴이고, 어떤 부분은 패턴 너머의 것이다. 그 두 부분이 어디에서 갈리는지를 우리는 아직 정확히 그릴 수 없지만, 적어도 그 둘 사이의 경계가 일직선이 아니라 굽이굽이 흐르는 강의 모양에 가깝다는 사실은 알게 되었다. 그 강의 한쪽 기슭에는 기계가 흉내 낼 수 있는 부분이, 다른 한쪽 기슭에는 기계가 끝내 흉내 낼 수 없는 부분이 자리한다. 그 두 기슭 사이에서 우리는 자신의 일상의 어느 부분을 어느 기슭에 두고 살아갈 것인지를 매일 새롭게 결정해야 한다.

인사이트

기계가 마음을 가졌는가는 잘못된 질문이다. 진짜 질문은 우리가 그동안 마음이라 불러온 것이 어디까지가 패턴이고 어디부터가 패턴 너머인가이다. 그 경계를 정직하게 응시하는 일이, 인공지능 시대의 인간학의 첫 과제이다.

물음

당신의 마음은 패턴인가, 패턴 너머인가. 만약 그 두 부분이 모두 당신 안에 함께 있다면, 당신은 그 두 부분 가운데 어느 쪽을 기계와 나누어 가지고, 어느 쪽을 끝까지 자신의 자리로 남겨 둘 것인가.

제1부의 마지막에 이르러 우리는 한 가지 풍경을 함께 본다. 명함이 아니라 지능이 자신을 설명하는 시대, 그 지능이 사실은 컴퓨터과학이 아니라 물리학의 자식이라는 사실, 70년에 걸친 사인파의 한가운데에서 우리가 지금 어느 계절인지 가늠해야 하는 자리, 한국이라는 사회가 가장 먼저 충격을 받은 사회로서 가지는 책임, 그리고 인간의 마음과 기계의 마음 사이에 굽이굽이 흐르는 강의 풍경. 이 다섯 개의 장은 모두 한 가지 사실을 향해 모여 왔다. 즉 우리가 지능이라 불러온 것이 우리가 생각하던 것보다 훨씬 더 물질적이고, 훨씬 더 역사적이며, 훨씬 더 우리와 가까이 있다는 사실이다.

그러나 지능은 머릿속에서만 흐르지 않는다. 그것은 공장과 항구와 도시 위에서, 누군가의 회사와 누군가의 월급 위에서 흐른다. 우리가 다음 페이지에서 마주할 것은 그 흐름의 지도이다. 어떤 회사가 삽을 만들고, 어떤 회사가 그 삽으로 금을 캐며, 어떤 회사가 광산 마을 위에 술집을 세우는가. 그 지도 위에서 당신은 자기 회사의 손가락을 어디에 놓을 것인가. 1부의 응시가 안쪽으로 향한 응시였다면, 2부의 응시는 바깥으로 향하는 응시이다. 그 두 응시가 한 사람 안에서 만날 때, 비로소 경영이 시작된다.

· · ·