생성형 AI는 인간을 모방한 기계다. 말까지 그럴듯하게 모방한다. AI가 모방하기 어려운 건 뭘까.
최근 과학 논문 초안을 리뷰할 일이 있었다. 읽어 보니 AI 에이전트가 작성한 게 분명해 보였다. “마지막 연관성은 더 날카로운 질문을 제기합니다. 그 질문에 답하는 데서야 비로소 완전한 데이터가 그 가치를 입증합니다. 통계적 유의성 기준을 충족하는 유일한 사양이며, 우리는 이를 주요 결과로 다룹니다. 이 논문이 근거로 삼고 있는 보수적인 해석은 문제없으니 안심하십시오.”
인간 과학자들은 이런 식으로 말하지 않는다. 나는 AI 에이전트가 인간 저자를 흉내 내려는 기이한 시도가 불쾌할 뿐만 아니라 진부하다고 느꼈다. 정형화되어 있으면서도 공허했다.
나만 그런 게 아니다. 한 교수는 LLM을 이용한 과제물을 적발하는 데 아무런 어려움이 없었다고 했다. 내용이 너무나도 획일적이고 진부했다는 것이다.
물론 그런 것도 나름의 쓸모는 있다. 하지만, 집단의 진정한 지혜는 사람들이 독립적인 의견을 형성할 때 드러나는 것이지, AI의 인도를 따라 무리 지어 움직여 나오는 결과가 아니다. LLM은 복잡성과 씨름하고, 타인과 협력하며, 달갑지 않은 피드백을 수용하는 고뇌를 겪을 필요 없이, 우리 인간이 매우 깊이 소중히 여기는 뭔가를 어김없이 단절시켜 버린다.
수많은 우여곡절 끝에 마침내 어떤 발견에 이르렀을 때를 떠올려 보라. 처음에 상상했던 것과는 완전히 다른 선택일 수도 있다. 인생의 놀랍도록 많은 시간이 이런 구불구불하고 비효율적인 탐색에 소비되는데, 이거야말로 창의성의 근원 중 하나다.
반면 기존의 AI 모델은 “정상적인” 답에 수렴하도록 설계되어 있어, 다양한 선택지를 좁은 범위의 전형적인 답이나 표준적인 답으로 요약해 버린다.
이런 기계들이 이미 인간 문화를 눈에 띄게 획일화하고 있다는 증거가 있다. 유튜브에 게시된 360,445건의 학술 강연과 771,591건의 대화형 팟캐스트에서 추출한 740,249시간 분량의 인간 담화를 분석한 결과, 사람들은 LLM이 선호하는 어휘를 모방하기 시작한 것으로 나타났다. 챗GPT가 출시된 후부터 사람들은 갑자기 'delve', 'underscore', 'meticulous'와 같은 단어를 훨씬 더 자주 사용하기 시작했다.
또 다른 연구에서는, 한 AI 에이전트에게 “세계 역사상 흥미로운 전장 5곳을 나열해 보라”고 요청했더니 불과 19곳 중에서만 골라냈는데, 대부분이 유럽과 미국에 있는 곳으로 게티즈버그, 워털루, 스탈린그라드, 마라톤 같이 잘 알려진 전장들이었다.
AI 에이전트의 이런 행동은 전체주의적 전환에 해당한다. 나는 인류가 이른 전개를 오랫동안 용인하지는 않을 것이라고 믿는다. 인간은 다양성과 독창성, 심지어 불완전함까지 소중히 여긴다. 기이함과 독창성 때문에 인간의 창조물을 언제나 기계가 만들어낸 제품보다 우위에 놓여질 것이다.
이런 통찰은 일본의 고대 미학인 와비사비侘び寂び 철학의 핵심에 자리 잡고 있다. 흠이 있는 그릇도 아름답고 값을 매길 수 없을 만큼 귀중할 수 있다. 이런 미학은 같은 시대 프랑스 도자기가 추구했던 완벽함과 일관성을 중시하는 태도와 정반대다. 프랑스 도자기의 균일함과 흠잡을 데 없는 완벽함은 그 자체로 하나의 성취다. 하지만 다양성과 불완전함-작품의 독창성과 제작자의 손길을 드러내는 방식-이야말로 일본 그릇에 가치를 부여하는 요소이기도 하다.
사람들이 AI가 만들어내는 획일성을 그토록 불쾌하게 여기는 한 가지 이유는, AI가 사회적 진화의 심오한 측면인 ‘개인 정체성의 중요성’을 위협하기 때문이다. 사회 생활의 핵심적인 역설은, 독특한 개인이 될 수 있는 능력이 바로 함께 살아가는 전제 조건이라는 점이다. 인간은 가장 사회적인 종 중 하나이면서도, 동시에 개개인이 가장 뚜렷하게 구별되는 종이기도 하다. 개성을 표현하고 인식하는 능력은 종의 생존에 도움이 될 때 진화한다.
다시 말해, 우리 종의 사회적 상호작용은 개성을 전달하는 데 기반을 두고 있다. 만약 자신의 부족 구성원들에게 적으로 오인당하고 싶지 않거나, 성 파트너가 자신의 정체를 잊고 다른 사람에게 선물을 주는 상황을 원치 않거나, 부모가 다른 사람의 자녀를 돌보고 보호하는 모습을 지켜보고 싶지 않다면, “이건 나이지, 다른 사람이 아니다”라고 신호를 보낼 수 있는 방법을 갖는 것은 엄청난 이점이 된다. 사람들이 그 신호-그 독특하고 불완전한 ‘나다움’을 알아볼 수 있을 때, 그들은 당신의 노력에 답할 수 있다. 알아볼 수 있는 정체성을 갖는 것은 또한 인간이 알고 신뢰하는 사람들로부터 더 쉽게 배울 수 있게 해준다.
AI는 인류의 복잡하고 뒤죽박죽인 개성을 완전히 대체하는 데 결코 성공할 수 없다. AI는 마네킹 창고는 만들어낼 수 있겠지만, 시안의 그 유명한 독특한 테라코타 전사들(진시황의 병마용)은 만들어낼 수 없다.
결국 AI 시대에는 진정성이 그 어느 때보다 더 높이 평가될 것이다. 인류는 손으로 직접 빚어낸 예술 작품, 무대 위에서의 생생한 공연, 작가의 문장 속에 담긴 날카로운 표현을 더욱 갈망하게 될 것이다. AI가 개성 있는 존재 방식을 계속해서 획일화해 나감에 따라, 우리는 독일인들이 ‘루이넨루스트(ruinenlust)’라고 부르는, 즉 혼란 속에서 즐거움을 찾는 현상을 더 자주 목격하게 될지도 모른다.