AI가 빠르게 일상으로 파고 들면서 얻는 것도 있지만 잃는 것도 적지 않다. 득과 실의 수나 양보다 더 중요한 것이 얻고 잃는 것의 의미와 가치다. 얻는 것은 쉽게 눈에 들어 오지만 잃는 것은 잘 알아채기 힘든 경우가 많다. 가치 있는 것일수록 그렇다. 글쓰기를 AI에 의지할 때 우리는 무엇을 얻고 무엇을 잃는가. 얻는 것은 속도와 효율이다. 잃는 것 중에는 무엇보다 진정성과 상호 신뢰가 있다. 그것은 왜 중요한가. 이 문제를 이야기하는 글을 소개한다.
원문: You Can’t Trust Anything Anyone Writes
원문: You Can’t Trust Anything Anyone Writes
지금 생성형 AI는 사람들이 정보를 찾고, 아이디어를 공유하며, 이미지를 제작하는 과정에 점점 더 깊이 스며들고 있다.
직장에서도 이를 적극 수용해 생산성을 획기적으로 높이고 있다는 인상을 주길 기대하는 것은 놀랄 일이 아니다. 클릭과 조회수를 갈망하는 사람들이 생성한 질 낮은 AI 콘텐츠가 소셜 미디어를 도배하는 상황도 마찬가지다.
하지만 나는 생성형 AI가 소통의 민주화나 새로운 창조의 르네상스를 의미한다는 주장에 동의하지 않는다. 심지어 (제대로 정의된) 생산성 측면에서 특별히 긍정적이라는 주장에도 동의하지 않는다. 닐 포스트먼이 약 30년 전 말했듯이 “‘새로운 기술이 무엇을 할 것인가?’라는 질문 못지않게 중요한 것은 ‘새로운 기술이 무엇을 무너뜨릴 것인가?’이다.”
이제 AI가 화면을 통한 모든 인간적 대화의 대용품으로까지 제시되는 걸 보면 AI는 꽤 많은 걸 무너뜨릴 가능성이 있다. 여기에 걸려 있는 것은 다름 아닌 진정성 그 자체다.
진정한 표현은 우리가 진실을 이해하는 데 도움을 준다. 대문자 ‘T’로 표기되는 객관적 진실 말고, 개인의 내면을 반영하는 소문자 ‘t’의 주관적인 진실 말이다. 의식이나 삶의 경험이 없는 시스템에 의해 생성된 AI 콘텐츠는 정의상 진정성이 있을 수 없다.
그게 왜 문제일까? 진정성은 신뢰의 토대이기 때문이다. 신뢰는 인간 관계를 묶어주고 우리가 공동의 목표를 향해 나아갈 수 있게 해주는 실과 같다. 소통에서 진정성을 전제로 하지 않는다면, 사회 제도에 남아 있는 작은 신뢰마저 더 무너질 위험에 처하게 된다. 일상 경험은 더욱 냉담하고 냉소적이며 가식적으로 변할 것이다.
가령 직장인이 프로젝트를 성공적으로 끝내고 상사로부터 축하 이메일을 받는다고 치자. AI 특유의 어색한 어조와 상투적 표현 등의 흔적을 보면 이 메시지가 어떻게 작성된 건지 금방 알 수 있을 것이다. 내용과 상관없이 이메일은 공허해 보인다. 이런 소통 속에서 진정한 의욕이 생길까?
더 우려되는 것은 이로 인한 ‘최저 수준 경쟁’이다. 동료들도 소통 과정에서 자신의 표현을 봇에 외주를 주고 있다고 의심하게 될지 모르고, 자신도 그런 쪽으로 결심할지 모른다. 어차피 아무도 진심을 담으려 애쓰지 않는다면, 이메일 작성 시간을 절약해 프로젝트 사이에 유튜브 영상 하나 더 보는 게 낫지 않겠는가. 그런 식으로 메시지는 기계적으로 오가고 직장의 유대감은 약해지고, 신뢰는 사라지며, 인간미는 옅어진다.
사회과학자 로버트 퍼트넘은 <나홀로 볼링>에서 “다른 사람들이 공정하게 행동하고 자기 몫을 다하고 있다고 느껴지면 우리도 그렇게 행동한다. 그렇지 않다고 느껴지면 자신도 그렇게 하지 않는다”라고 썼다.
퍼트넘은 신뢰가 그저 허공에서 생겨나는 게 아니라고 주장했다. 신뢰에는 신뢰할 만한 근거가 필요하다. 퍼트넘의 주장을 확장해 보면, 신뢰도가 높은 공간에서는 정신적으로 건전한 사람이라면 별다른 이유가 없는 한 상대방의 진정성을 전제로 할 것이라고 말할 수 있다.
불행히도, 지금처럼 AI 사용이 널리 퍼져 있고, 거의 공개되지 않으며, 종종 맥락을 고려하지 않고 이뤄진다면 온라인 소통에서 진정성을 전제로 하는 것은 훨씬 더 어려워진다.
물론, 생성형 AI가 등장하기 훨씬 전부터도 ‘진정성 부족’은 늘 있어 왔다. 사무실에서 교회 모임에 이르기까지 사회적 공간은 언제나 깊은 관계의 형성을 방해하는 사회적 허세에 취약했다. 기술적 변화는 진정성 부족으로 이끄는 유인을 더욱 강화했다고 볼 수 있다. AI는 이런 추세의 논리적 귀결일 뿐인지도 모른다.
정치학자 소냐 아마데는 ‘gamification’이라는 개념을 통해, 언어를 표현적 목적이 아닌 전술적 목적으로 사용하는 사회에서 결국 AI 생성 콘텐츠를 받아들이는 것은 예측 가능한 결과라고 주장한다. 사람들이 진정한 생각과 감정을 전달하기 위해서가 아니라 전략적 목적을 달성하기 위한 수단으로 언어를 사용할 때, 의사소통을 봇에게 완전히 외주화하려는 경향이 나타나는 것은 당연한 일이다.
물론, 불완전한 진정성이나 의사소통에서의 전략, 표현보다는 실용적 목적을 달성하기 위한 편집이나 맞춤화에도 나름의 자리가 있다. 예술성과 인위성 사이의 경계는 늘 모호했으며, 대부분의 상호작용에서 둘은 뒤섞인 혼합물로 존재한다.
하지만 진정성을 정량화하기 어렵다고 해서 소중히 여기지 않아도 되는 것은 아니다. 우리의 전술적 목표가 소문자 't'의 진실을 희생시키는 정도가 커질수록, 우리는 자신과 주변 세상으로부터 점점 더 단절되어 간다.
생각과 말, 말과 행동 사이의 연속성은 지극히 중요하다. 언어는 현실을 묘사할 뿐만 아니라, 현실을 창조하기 때문이다. 언어에는 기적적인 힘이 있다. 언어는 우리가 내면의 세계를 타인에게 조금이나마 드러내고, 그 대가로 타인의 내면을 엿볼 수 있게 해주는 필수적인 인간 기술이기 때문이다.
의사소통에서 AI의 부상하는 역할에 경탄하는 이들은 나무만 보고 숲을 보지 못하는 것일지도 모른다. 그들은 자기 표현을 콘텐츠로 전환할 수 있는 알고리즘을 칭송하면서, 축소되는 표현 자체는 간과하고 있다.
인간의 표현은 경탄할 만한 가치가 있다. 한 번 심겨진 생각의 씨앗은 아이디어로 꽃을 피우고, 이는 대화를 낳으며, 대화가 행동을 키우다 보면, 한때 상상조차 못 했던 가능성들이 세상에 펼쳐지며 더 큰 발견을 위한 비옥한 토양을 가꿔 나간다. 이 과정을 잊는다면 우리가 누구인지를 잊는다는 뜻이다.