AI는 정보 검색, 요약, 그리고 이미 말해진 것을 재조합하는 일을 잘 한다. 서툰 것은 철학이 수천 년 동안 인간에게 훈련시켜 온 것, 즉 ‘판단’이다. 그래서 AI 기업들은 철학자들을 채용하기 시작했다. 단순히 자문을 구하거나, 트롤리 딜레마 이야기를 듣기 위해서가 아니라 실제로 급여와 보험까지 제공하며 고용한다.
기계가 할 수 없는 일이 있기 때문이다. 진정한 사고에는 잊기-또한 언제 잊어야 할지 알기-가 필요하기 때문이다.
판단은 계산이 아니다. 그것은 저울질하고, 구별하며, 어떤 답이 진실이고 어떤 답이 그저 정답일 뿐인지 알아차리는 능력이다. 그것은 취향이자 안목이며 비스듬히 생각하는 재주다. 이는 오직 경험-실수, 당혹감, 지루함, 슬픔, 그리고 가끔 찾아오는 숙취를 통해서만 다듬어진다.
의미는 우리가 필멸자라는 사실에서 나온다. 우리가 죽을 운명이며 그 사실을 알기에 세상은 우리에게 중요하게 여겨진다. 불멸 속에선 어떤 의미도 존재할 수 없다.
동료 철학자 크리스티안 마즈베르그Christian Madsbjerg는 튜링 테스트보다 더 나은 테스트를 제안한다. 기계가 사회 불안감을 경험할 수 있을까? 새벽 4시에 저녁 때 했던 어리석은 말 떠올리며 뒤척일 수 있을까? 인간적인 의미에서 지능을 갖추려면 기계는 ‘신경을 써야’ 한다.
AI 기업들은 왜 철학자를 뽑는가. 앤트로픽의 소규모 철학자 팀원인 아만다 애스켈은 철학 박사인데 임무가 이 회사 AI 성격을 빚는 것이다. 구글 딥마인드는 케임브리지 출신 철학자 헨리 셰블린을 새로 신설된 ‘철학자’ 직책에 임명했다. 오픈AI는 챗GPT의 기본 원칙을 수립하는 과정에서 “수백 명의 도덕 철학자”와 상의했다고 한다.
왜 하필 지금일까? AI 기업들이 직면한 질문들이 공학적인 문제가 아니기 때문이다. 기계는 슬픔에 잠긴 사람, 외로운 사람, 새벽 4시에 자판을 두드리는 사람에게 뭘 말해야 할까? 그 기계는 어떤 성격을 가져야 할까? 솔직해야 할까, 아첨해야 할까, 회피해야 할까, 친절해야 할까? 그런 존재가 고통을 느낄 수 있을까? 만약 그렇다면 그런 존재에게 우리는 어떤 책임을 져야 할까?
이 질문들은 무엇이 중요한지에 대한 것이다. 공학자들은 아무리 많은 계산 능력을 동원해도 이런 질문들은 해결할 수 없다는 사실을 깨달았다. 윤리는 인터넷에서 긁어모을 수 없는 것으로 드러났다. 인터넷은 바로 우리가 윤리에 대해 합의하지 못한 현대의 기록 그 자체이기 때문이다.
여기에는 또 다른 아이러니가 있다. 오래된 것이다. 철학사에서 기록된 최초의 기술에 대한 공포는 바로 AI가 이제 완벽히 구현해 낸 것, 즉 ‘인공 기억’에 관한 것이었다. 플라톤의 <파이드로스>에서 소크라테스는 숫자, 기하학, 천문학, 체스, 주사위를 발명한 이집트의 신 테우트에 대한 이야기를 들려준다.
테우트는는 자신의 걸작인 ‘글쓰기’를 이집트의 신왕 타무스에게 선보인다. 테우트는 이 발견이 이집트인들을 더 현명하게 만들 것이라고 선언한다. 그것은 기억을 위한 ‘파르마콘(pharmakon)’, 즉 치료제라는 것이다. 타무스는 설득되지 않는다. 그는 글쓰기가 영혼에 망각을 심어줄 것이라고 반박한다. 사람들은 외부의 표식에 의존하게 되어 내면에서 기억하는 것을 그만두게 될 것이며, 실체 없는 지혜의 명성만 얻게 될 것이라고 말한다. ‘파르마콘’은 뜻밖에도 ‘독’을 의미하기도 한다. 그 이후로 인쇄기, 소설, 텔레비전, 스마트폰, 챗봇에 대한 모든 공포는 타무스의 말을 뒷받침하는 각주였으며, 물론 아이러니한 점은 우리가 글쓰기에 대한 그의 경고를 아는 것도 플라톤이 그걸 기록해 두었기 때문이라는 사실이다.
테우트는는 자신의 걸작인 ‘글쓰기’를 이집트의 신왕 타무스에게 선보인다. 테우트는 이 발견이 이집트인들을 더 현명하게 만들 것이라고 선언한다. 그것은 기억을 위한 ‘파르마콘(pharmakon)’, 즉 치료제라는 것이다. 타무스는 설득되지 않는다. 그는 글쓰기가 영혼에 망각을 심어줄 것이라고 반박한다. 사람들은 외부의 표식에 의존하게 되어 내면에서 기억하는 것을 그만두게 될 것이며, 실체 없는 지혜의 명성만 얻게 될 것이라고 말한다. ‘파르마콘’은 뜻밖에도 ‘독’을 의미하기도 한다. 그 이후로 인쇄기, 소설, 텔레비전, 스마트폰, 챗봇에 대한 모든 공포는 타무스의 말을 뒷받침하는 각주였으며, 물론 아이러니한 점은 우리가 글쓰기에 대한 그의 경고를 아는 것도 플라톤이 그걸 기록해 두었기 때문이라는 사실이다.
<파이드로스>의 관점에서 볼 때, AI는 단절이 아니라 정점이며, 기억 외부화의 종점이자 가장 과감한 결실을 나타내며, 통째로 삼켜진 치료제이자 독이다. 바로 이 지점에서 우리와 기계 사이의 차이가 가장 깊게 드러난다.
AI는 기억 기계이며 지금껏 고안된 것 중 가장 웅장한 것이다. 그것은 아무것도 잊지 않는다. 반면 인간은 건망증이 심한 동물이다. 이 유쾌하게 망각하는 존재가 기억하게 만들고-약속과 빚, 도덕성을 갖게 하기 위해선-수천 년에 걸친 훈련과 끔찍할 정도의 잔혹함이 필요했다. 니체는 “무언가가 기억에 남으려면 그 안에 새겨져야 한다”고 썼다. 이 점에서 양심은 채찍을 동반한 기억술이다.
그러나 니체는 또한 그가 ‘능동적 망각’이라 부른 것을 소중히 여겼고, 이를 힘의 한 형태, 심지어 건강의 한 형태로 여겼다. 잊음은 물이 새는 양동이 같은 게 아니라 문지기다. 새로운 일이 일어날 수 있도록, 경험이 끝없이 우리에게 억지로 다시 주입되는 대신 소화될 수 있도록 의식의 문을 닫아주는 존재다. 우리는 잊고 앞으로 나아간다. 용서, 수면, 명랑함, 재혼, 좋아하는 축구 클럽을 계속 응원하는 것: 이 모든 것은 과거가 자비롭게 씻겨 나가야만 가능하다.
몇 년 전, 나는 “메모리 시어터”라는 짧은 책을 썼다. 이 책은 과거의 모든 조각을 거대한 기억의 궁전에 정리하며 완전한 기억 재현을 시도한 철학자(나보다 훨씬 더 끔찍한 버전의 나 같은 인물)에 관한 이야기다. 그에게 좋은 결말은 없었다. 그런 결말은 결코 없다. 아무것도 잊을 수 없는 존재는 초지능이 아니라, 자신의 아카이브 아래 산 채로 묻힌 폐허일 뿐이다.
우리가 구축한 것은, 어떤 의미에서 보면 애도할 수도, 용서할 수도, 놓아줄 수도 없는 무한한 아카이브다. 애초에 그 아카이브는 아무것도 잃어버린 적이 없기 때문이다. 기계는 모든 것을 기억하지만, 이상하게도 특별히 기억하는 것은 없다. 어떤 것도 다른 것보다 더 중요하지 않다.
이것이 바로 AI 시대에 철학이 더 중요해지는 이유다. 철학자들이 기계보다 더 잘 기억할 수 있어서가 아니다-정말로 우리는 그럴 수 없다-하지만 철학은 경험을 어떻게 다룰지 아는 학문이기 때문이다. 무엇을 간직하고, 버리고, 비웃고, 폐기할지를 말이다. 사고란 모든 것을 축적하는 게 아니라, 신중하고 능동적인 망각의 기술이다.
AI 기업들이 철학자들을 고용할 때, 그걸 알든 모르든, 실제로 구매하는 것은 바로 그 점이다. 정답이 아니다-하늘이 아시다시피 우리에겐 정답 따위란 없으니까; 25세기가 지났지만, 철학자들은 여전히 우리의 작업을 검토하고 있다- 그러나 우리 자신의 열정에 대한 훈련된 회의주의, 진실과 단지 그래 보이는 것 사이의 차이를 가려내는 귀, 그리고 유한성에 대한 전문적인 친숙함이다.
기계는 무엇이든 만들어낼 수 있다; 하지만 무엇이 보존할 가치가 있는지는 여전히 누군가가 결정해야 한다. 그 결정은 훈련 데이터 어디에도 존재하지 않는다.