AI가 사람들의 읽기는 물론 글쓰기에도 빠르게 진입하고 있다. 업무에서 편리와 유용성을 반기는 사람도 있겠지만, 인류 정신 문화의 파수꾼인 작가들의 세계가 위협받기 시작했다.
글을 읽고 쓰는 챗GPT가 처음 나왔을 때 유발 하라리가 '인류 문명의 운영체계 해킹'이라고 한 말이 생각난다. 이제 깊은 차원에서 인간 문화 전반에 대한 혼란과 전복 수준의 도전과 시련이 시작된 것인지도 모른다. 가령, 인간끼리 기량을 자랑하고 겨루는 스포츠 경기에 기계의 지원이나 참여가, 그것도 모호하게 침투하기 작됐을 때 그 경기가 온전히 남아 날까?
며칠 전 뉴욕 타임스에 실린 외부 서평가(유명 작가)의 리뷰가 독자의 의혹 제기 끝에, 본인이 AI를 사용하고도 사실을 밝히지 않은 것으로 확인되고, AI가 손본 글에 가디언 리뷰 일부가 포함된 것으로 드러나 파문이 일었다. 이제는 작가 글을 학습한 AI가 작가보다 더 ‘그럴듯하게’ 글을 뽑아내기에 이르러, AI와는 무관한 경우에도 의혹의 눈길을 감수해야만 할 상황에 놓이게 됐다.
작가와 편집자/독자, 심지어 작가들 상호간(사실상 문학 생태계 전반)의 암묵적 신뢰 관계에도 금이 가기 시작한 것은 물론이다. 이 파괴적 기술은 결국 무엇이 파괴되는지도 모르는 사람들에 의해 트로이의 목마처럼 거침없이 성안으로 진입하고 있다. 또 다른 (이번엔 아주 특별한) 공유지가 파괴 내지는 최소한 치명적으로 훼손되고 있는 것이다. 마을의 우물에 석연치 않은 것이 섞여들기 시작했을 때 우리는 뭘 마시게 되는 걸까. 뭘 마시는지 의심스러워질 때 그 우물을 마시려 들까. (그게 무슨 문제인가라는 포용론이 이미 고개 들기 시작했다. 여기서 짧게 논할 문제는 아니라고만 적어 둔다.)
글을 읽고 쓰는 챗GPT가 처음 나왔을 때 유발 하라리가 '인류 문명의 운영체계 해킹'이라고 한 말이 생각난다. 이제 깊은 차원에서 인간 문화 전반에 대한 혼란과 전복 수준의 도전과 시련이 시작된 것인지도 모른다. 가령, 인간끼리 기량을 자랑하고 겨루는 스포츠 경기에 기계의 지원이나 참여가, 그것도 모호하게 침투하기 작됐을 때 그 경기가 온전히 남아 날까?
며칠 전 뉴욕 타임스에 실린 외부 서평가(유명 작가)의 리뷰가 독자의 의혹 제기 끝에, 본인이 AI를 사용하고도 사실을 밝히지 않은 것으로 확인되고, AI가 손본 글에 가디언 리뷰 일부가 포함된 것으로 드러나 파문이 일었다. 이제는 작가 글을 학습한 AI가 작가보다 더 ‘그럴듯하게’ 글을 뽑아내기에 이르러, AI와는 무관한 경우에도 의혹의 눈길을 감수해야만 할 상황에 놓이게 됐다.
작가와 편집자/독자, 심지어 작가들 상호간(사실상 문학 생태계 전반)의 암묵적 신뢰 관계에도 금이 가기 시작한 것은 물론이다. 이 파괴적 기술은 결국 무엇이 파괴되는지도 모르는 사람들에 의해 트로이의 목마처럼 거침없이 성안으로 진입하고 있다. 또 다른 (이번엔 아주 특별한) 공유지가 파괴 내지는 최소한 치명적으로 훼손되고 있는 것이다. 마을의 우물에 석연치 않은 것이 섞여들기 시작했을 때 우리는 뭘 마시게 되는 걸까. 뭘 마시는지 의심스러워질 때 그 우물을 마시려 들까. (그게 무슨 문제인가라는 포용론이 이미 고개 들기 시작했다. 여기서 짧게 논할 문제는 아니라고만 적어 둔다.)
<생각하지 않는 사람들>의 저자이자 날카로운 미디어 비평가인 니컬러스 카가 이 문제를 다룬 에세이를 블로그에 올렸다. 생성형 AI가 인류 문명에 대해 갖는 함의를 한나 아렌트의 ‘호모 파베르’ 개념과 귄터 안데르스의 ‘프로메테우스의 수치Promethean shame’ 개념을 결합해 풀어냈다. 발췌 번역해 올린다.
마키나 파베르(machina faber)라고 부를 수 있는 AI를 창조함으로써, 우리는 도구성을 초월하는 도구를 세상에 불러들였다. 도구는 그 자체로서 창조자가 되며, 현재와 미래의 결점이 무엇이든 간에 아렌트가 인간의 본질로 보았던 것, 즉 우리 자신을 위한 세상을 만들어가는 능력에 침범하는 기계가 된다.
원래 호모 파베르는 장인이었다. 그는 자기 손으로 유용하지만, 단지 유용한 것에만 그치지 않는 물건들을 창조했다. 그렇게 만들어진 물건들은 오늘날 우리가 ‘소비재’나 ‘일회용품’이라 부르는 것보다 훨씬 더 큰 의미가 있었다. 정성과 기술로 빚어진 호모 파베르의 인공물들은 식탁이든 대성당이든 견고하고 내구성이 뛰어났다. 시간의 흐름을 견뎌내며, 그것들은 제작자와 최초의 사용자들보다 더 오래 살아남았다. 종합적으로 봤을 때, 그것들은 문명의 토대를 형성하고 세대에 걸쳐 인간 사회에 연속성을 부여했다. 모든 개인은 필멸하지만, ‘인간의 인공물’은 영원히 남는다고 아렌트는 <인간 조건>에서 말했다.
사물로 이뤄진 인간이 만든 세계, 즉 호모 파베르가 세운 인간의 인공물은 필멸하는 인간들의 안식처가 된다. 이 인공물이 주는 안정성은 오로지 소비를 위해 생산된 사물의 순수한 기능주의와 사용되기 위해서만 생산된 물건의 순수 실용성을 초월할 때에만 비로소 인간의 삶과 행동의 끊임없이 변화하는 흐름을 견뎌내고 그보다 더 오래 생명력을 이어갈 수 있다.
그러나 아렌트가 강조했듯이, 호모 파베르는 장인일 뿐만 아니라 예술가이기도 하다. 시인의 말, 음악가의 노래, 화가와 사진가의 이미지, 조각가의 형상, 이 모든 것은 시간과 공간을 초월해 인간과 인류의 이야기를 전달한다. 이들은 물리적 인공물이 아닌 지적 미적 인공물-즉 역사와 통치, 지식, 재치, 아름다움-의 연속성을 제공한다.
필멸자들이 지상에 집을 짓기 위해 건축 장인의 도움이 필요하다면, 행동하고 말하는 인간들은 호모 파베르로서 가장 높은 능력, 즉 예술가, 시인, 역사학자, 기념비 건축가 혹은 작가들의 도움이 필요하다. 왜냐하면 그들 없이는 행동하고 말하는 활동의 유일한 산물인, 그들이 연기하고 전하는 이야기가 살아남지 못할 것이기 때문이다.
그렇기에 호모 파베르는 자신의 일에 자부심을 느꼈다. 그의 기술은 무생물의 자연물을 인간의 목적에 맞게 변형시킬 힘을 주었으며 그 자부심은 온 인류가 공유했다. 귄터 안데르스는 이것을 두고 진흙으로 인간을 창조한 그리스 신의 이름을 따서 ‘프로메테우스의 자부심’이라 불렀다.
그러나 안데르스에 따르면, 산업 혁명으로 인해 이 이야기는 어두운 국면으로 접어들었다. 호모 파베르가 상품을 생산하기 위해 점점 더 복잡한 기계에 의존하게 되면서 자신이 만든 제품으로부터 소외되기 시작했다. 그 제품들은 더 이상 그의 손으로 만든 산물이 아니었다. 그는 단지 작은 역할만 맡은 기계적 과정 속에서 탄생한 것이었다. 상품을 구매하는 이들도 비슷한 소외감을 느꼈다. 그들은 상품 속에서 더 이상 인간의 흔적을 찾아볼 수 없었다. 그 제품들로 더 이상 집(안식처)을 짓는다는 상상을 할 수 없게 된 것이다.
안데르스는 저서 <인간의 진부화The Obsolescence of the Human)에서 오늘날 우리는 우리 자신이 만든 것으로는 보이지 않는 제품들에 둘러싸여 있다고 썼다. 우리는 제품의 설계와 생산을 산업 기술에 너무나 많이 맡겨버렸기에 더 이상 그 발명과 제조에 대해 공동의 자부심이라고는 느낄 수 없게 되었다. 실제로 그 제품들은 우리와 분리되어 있을 뿐만 아니라 우리보다 우월해 보이는 타자성을 띠게 되었다. 빛나는 제품들은 우리를 한물간 살과 뼈의 덩어리라고 조롱한다.
안데르스는 오늘날의 제품들은 그저 ‘거기’ 있을 뿐이라고 했다.
우리는 주로 그것들을 필요하거나, 바람직하거나, 불필요하거나, 감당할 수 있거나, 감당할 수 없는 소비재로 마주하며, 구매한 후에야 비로소 ‘내 것’이 된다. 그런 점에서 그것들은 개인의 능력을 증명하기보다는 자신의 부족함을 드러내는 증거가 될 가능성이 훨씬 더 크다.
이런 부족감으로 ‘프로메테우스의 자부심’은 ‘프로메테우스의 수치심’으로 바뀌었다. 즉, 현대인은 자신이 만들어진 존재가 아니라 태어난 존재라는 것, 기술적 과정이 아닌 자연적 과정의 산물이라는 점에서 오히려 수치심을 느낀다. 안데르스는 “사물들이 할 수만 있다면 그를 경멸하듯, 그는 자신을 경멸한다”고 썼다. 그는 사람이 처음으로 이른바 ‘사고하는 기계’를 마주할 때 그 수치심이 특히 날카로워진다고 덧붙였다:
작동하는 계산 기계를 처음 마주한 사람에게 자기 과시와 자부심이란 더욱 낯선 감정이다. 그런 기계를 마주하고 “세상에, 우리가 이런 일을 해낼 수 있다니, 우리 참 대단한 자들이야!”라고 외치는 관찰자는 광대일 뿐이며, 상상 속의 허구일 뿐이다. 사실은 정반대다! 그는 오히려 고개를 저으며 중얼거린다. “세상에, 이 기계가 해내는 일이 정말 믿기지 않아!” 동시에 그는 인간으로서의 자신의 처지에 극도로 불편함을 느낀다. 기계는 반은 소름 끼치게 하고, 반은 부끄러움을 안겨주기 때문이다.
75년 전에 쓰인 문장이지만, 마지막 문장은 생성형 AI와 마주한 인간의 심정을 예리하게 묘사한 대목으로 느껴진다. “그는 피조물로서의 자신의 처지에 극도로 불편함을 느낀다. 기계는 반은 소름 끼치게 하고, 반은 부끄러움을 안겨주기 때문이다.”
AI라는 형태로 마키나 파베르가 등장함에 따라, 파베르(장인)는 더 이상 우리 인간에게 적용하기에는 적절하지 않은 용어처럼 느껴진다. 이제는 픽토르(fictor, 조작자)가 더 맞는 표현 아닌가. 라틴어에서 픽토르는 파베르와 마찬가지로 제작자를 뜻하지만(나무나 금속 같은 단단한 재료보다는 점토 같은 가소성 있는 재료를 다루는 제작자이긴 하다), 이 단어는 영어의 fabricator와 마찬가지로 위조나 기만을 암시하는 뉘앙스도 있다.
이 단어는 ‘만들다’와 ‘가장하다’, 둘 다를 뜻하는 동사 핑게레(fingere)에서 유래했다. 호모 픽토르는 자신이 만든 것에 대해 거짓말을 할 수도 있는 제작자다. 그의 작품은 아무리 유용하고 우아하더라도 항상 의심을 받을 것이다. 그 작품들은 언제나 사기의 뉘앙스를 띠게 될 것이다. 과연 그가 만든 것일까, 아니면 AI가 만든 것일까?
마키나 파베르는 제작자들에게 성취의 자부심을 앗아간다. 만약 당신이 AI를 이용해 무언가를 ‘쓰거나’, ‘코딩하거나’, ‘디자인하거나’, ‘작곡하거나’, ‘발명한다’면, 진정한 성취감은 당신에게서 멀어질 것이다. 늘 사기꾼 느낌에 시달리게 될 것이다. 그 수치심을 부정하고 있다 하더라도 항상 자신을 내심 부끄러워할 것이다.
안데르스가 썼듯이, “이런 형태의 수치심이 있다는 사실을 부정하는 사람은 누구나, 우리가 그토록 영광스럽게 먼 길을 걸어왔음에도 이제는 사물 앞에서 수치심을 느끼게 되었다는 사실을 인정하는 것 자체가 그들을 수치심으로 얼굴을 붉히게 만들 것이기 때문이다.”
하지만 여기서 비극적인 점은 그 수치심은 작업에 AI를 사용하는 장인이나 예술가들에게만 국한되지 않는다는 것이다. 그 수치심은 모든 이에게 드리워져 있다. AI 사용을 삼가는 사람들, 심지어 공개적으로 AI를 거부하는 것을 자랑으로 여기는 사람들조차 예외는 아니다.
최근 AI 작품 의혹으로 출판사가 출간을 취소한 <Shy Girl>을 둘러싼 논란에 관한 뉴욕 타임스 기고문에서 소설가 안드레아 바츠는 이렇게 썼다:
독자들이 내 스릴러 소설에 대해 질문할 때, 니는 그 작품의 주제와 등장인물, 글쓰기의 영감에 대해 이야기하는 것을 좋아한다. 하지만 생성형 AI가 출판업계에 서서히 스며들면서 나는 속이 메스꺼워질 만한 질문을 받을 각오를 하고 있다. “이걸 정말 직접 썼나요?”
공평하든 않든, 이제는 모든 창작자가 피할 수 없는 질문이다. AI가 만들어낸 오물slop에 자신은 관여하지 않는다 해도 AI로 인한 오염smog에서 자유롭지 못하다. 그 냄새는 어디에나 퍼져 있고 그 냄새가 품은 수치심도 마찬가지다. 누구도 의심의 눈초리를 피할 수 없다. 순수한 것은 아무것도 없다.