AI 시대 글의 진정성

인공지능이 사람처럼 글을 쓸 수 있는 시대. 글의 초안을 잡는 것은 물론 자료를 찾아 줄 수도 있고, 원하는 내용과 스타일의 글을 통째 대신 써줄 수 있는 시대다. 업무용 글은 물론 문학 창작의 영역에서도 인공지능의 도움을 받는 일이 늘어나고 있는 추세다. 이제는 인공지능 사용 여부나 정도를 따지고 검증하는 것 자체가 사실상 실효가 없고 따라서 무의미해졌다는 말도 나온다.

이제 사람들은 글 잘 쓰는 인공지능 작가에게 열광하게 될까? 사이버 가수나 배우의 전례를 떠올려 보면, AI 작가가 인간 작가를 능가하는 인기를 얻을 것 같지는 않다. 왜 그럴까? 왜 여전히 사람들은 적어도 창작에 관한 한 글 자체의 완성도 못지않게 글의 진짜 저자가 누구인지, 그 글에 담긴 저자의 이력이나 의도는 무엇인지에 대해 관심을 갖는 걸까? 아무리 호평을 받은 작품이라도 그것이 표절이거나 위작으로 드러나거나, 작가에게 무슨 (특히 도덕적) 흠결이 발견되면 단번에 외면당하게 되는
걸까?

글을 쓰고 읽는 이유가 단지 정보나 콘텐츠의 교환이라면 굳이 사람이 전달자로 수고해야 할 까닭은 없다. 그렇다면 인공지능 시대에 인간의 글쓰기에 기대하는 것은 무엇이고 끝끝내 살아 남는 것은 무엇일까? 이 문제를 깊이 있게 다룬 글이 있어 발췌해 소개한다.

원문: We’ll soon find out what is truly special about human writing

AI는 많은 글쓰기 작업을 대신할 수 있다. 하지만 저자가 배후에 있는 텍스트에는 대체할 수 없는 무언가가 있다. 인간이 쓰는 글의 진정한 특별함이 무엇인지 우리는 차차 알게 될 것이다.

LLM은 대부분의 기능적 기준에서 볼 때 이제는 유능한 인간의 글과 구별할 수 없는 산문을 생성할 수 있다. 산문 생산이 더 이상 글 뒤에 있는 정신의 존재를 보장하지 않게 되면 글쓰기는 어떻게 될까?

답이 있다면 글쓰기가 항상 글 쓰는 사람에게 요구해 온 것, 즉 말 뒤에 서서 그 말을 진심으로 뜻하고, 자신이 썼다고 주장한 데 따른 결과를 받아들일 의지에서 찾을 수 있을 것이다.

글쓰기는 언제나 인간 사고의 흔적으로 이해되어 왔다. 글을 읽을 때 우리는 그 이면에 그 단어들을 선택한 의식, 배열을 신중히 고려한 사고, 그리고 그 주장에 대해 책임을 지는 사람이 있다고 가정한다. 이 가정은 글 읽는 문화에 너무나 깊이 뿌리내려 있어 명시적으로 언급하는 일은 거의 없다. 그것은 글쓰기의 의미에 포함돼 있다.

생성형 AI는 이런 전제를 뒤흔든다. AI가 만들어내는 텍스트에는 앞서 말한 의미의 저자가 존재하지 않으며, 그 텍스트에 의도를 담은 사람도, 그에 대한 책임을 질 수 있는 사람도, 그리고 그것을 작성하는 행위로 인해 변화된 사람도 없다.

단어는 존재하지만 한때 작가와 독자를 연결해 주던 유대는 끊어졌다. 이런 단절이 초래하는 직업적 결과는 이미 눈에 띄고 있다. 저널리즘, 비평, 그리고 전업적 글쓰기의 광범위한 생태계는 이미 20년 동안 계속 축소되어 왔으며, 이는 무자비한 '주의력 경제'의 논리에 의해 압박받아 왔다.

생성형 AI는 바로 이 시점에 가속제로 등장해, 한때 글쓰기를 일로 지탱해 주었던 거래 관계, 즉 시간을 텍스트로, 텍스트를 돈으로 교환하는 과정을 더 크게 무너뜨리고 있다.

글쓰기는 과거의 기술적 격변을 견뎌냈다. 하지만 이번 위협은 이전과는 다른 성격이다. 독자가 텍스트를 마주할 때 이젠 더 이상 그 텍스트가 인간이 작성한 것이라고 당연시할 수 없게 되었다.

인쇄기는 글쓰기를 파괴하지 않았고, 유통을 민주화함으로써 책을 저렴하고 풍부하게 만들었고, 새로운 대중과 장르를 창출했다. 이전 시대 필사자와 텍스트 사이의 친밀한 관계, 즉 각 필사본이 제작자의 흔적을 지닌 유일무이한 물건이라는 인식은 덜 개인적인 무언가로 대체되었다.

19세기 후반까지 필기는 창작 문학적 표현의 주된 형태였다. 이는 1870년대에 상업용 타자기가 시장에 등장하면서 바뀌었다. 필기가 오랫동안 신체의 연장선이자 일종의 필적 지문으로 여겨졌던 반면, 타자기로 찍힌 문장은 획일적이고 기계적이며 비인격적이었다. 타자기로 글을 쓴 최초의 작가들인 헨리 제임스와 마크 트웨인은 이 기계가 산문의 외관뿐만 아니라 글을 쓰는 느낌까지 바꿨다고 했다. 키보드의 타닥거리는 소리는 새로운 리듬을 부여했고 수정 작업과의 관계도 바뀌었다. 무언가 사라졌지만 무언가를 얻었다.

워드 프로세서, 그리고 이후 네트워크로 연결된 컴퓨터는 이런 흐름을 가속화했다. 편리한 편집 기능 덕분에 산문은 더 유동적이고 잠정적인 성격을 띠게 되었고, 인터넷은 한때 출판을 통제하던 게이트키핑 구조를 해체했다. 누구나 글을 쓰고 출판할 수 있게 되면서 텍스트가 폭증했다. 블로그, 댓글, 소셜 미디어 게시물, 이메일 등 2000년대 초반에 이르러 문어는 인류 역사상 유례없는 규모로 생산되기에 이르렀다. 글쓰기는 어디에나 존재하고 평범해졌으며, 그 결과 상당수는 일회성으로 전락했다.

이런 각 전환기는 재앙의 예측과 해방의 주장을 동반했고, 각각은 글쓰기를 없애지 않으면서도 변화를 낳았다. 승리를 확신하는 이들이 즐겨 도출하는 교훈은 회복력에 관한 것으로, 글쓰기는 늘 적응하고 생존하며, 기존의 용도가 사라지면 새로운 용도를 찾아낸다는 것이다.

하지만 생성형 AI는 차원이 다른 단절을 뜻한다. 이전 기술들이 글쓰기의 생산이나 유통 방식을 바꿨다면 LLM은 글쓰기가 무엇인지, 더 정확히 말해 무엇이 글쓰기로 간주될 수 있는지를 바꾸기 때문이다. 독자가 텍스트를 접할 때, 더 이상 인간이 그것을 작성했다고 당연시할 수 없다. LLM이 존재하는 한 그 글이 전적으로 인간에 의해 쓰였는지에 대한 의문은 항상 남을 것이다.

그 파장은 예상치 못한 방향으로 확산된다. 저자가 논문에 담긴 사고를 실제로 수행했다는 전제에 의존하는 학술 글쓰기는 검증의 위기에 직면한다. 책임성이 필수적인 법률 문서, 계약서, 의료 기록은 새로운 불확실성에 휩싸인다. 가장 사적인 글쓰기인 개인적인 서신조차 의심의 그림자에 가려진다. 이걸 친구가 직접 썼을까, 아니면 기계가 대신 쓰게 했을까?

이런 의심의 오염은 특히 온라인에서 빠르게 퍼지고 있다. 한때 인류 지식의 방대한 도서관으로 상상됐던 인터넷이 합성 텍스트로 채워지고 있다. 검색 결과, 제품 리뷰, 뉴스 수집기, 소셜 미디어 피드에는 관심을 끌거나 행동을 조종하도록 설계된 기계 생성 콘텐츠가 점점 많아지고 있다. 신뢰할 수 있는 콘텐츠를 식별하는 것은 그 어느 때보다 어려워졌다.

하지만 글쓰기의 미래에 대한 질문은 그저 손실을 나열하는 것으로는 답할 수 없다. 글쓰기가 단순한 향수의 대상이 아닌 것으로 살아남으려면, 그 가치에 대한 새로운 토대를 찾아야 한다. 이제 글쓰기가 기계에 의해 거의 완벽하게 모방될 수 있게 된 상황에서, 과연 무엇이 남는가?

그 해답은 아마도 텍스트의 속성에 있는 것이 아니라, 텍스트가 가능하게 하는 관계의 본질에 있을 것이다. 인간의 글쓰기는 단지 단어를 생산하는 것에 부분적으로만 관련된다. 그 본질에 있어 더 중요한 것은 바로 그 단어들에 대한 책임을 지는 것이다. 사람이 글을 쓸 때, 그들은 자신을 내맡기는데, 이는 기계적 언어 모델이 할 수 없는 일이다. 쓰는 사림은 사실상 이렇게 말하는 것이다. “나는 이 글 뒤에 서 있다. 나는 이 시도에 대해 책임을 질 용의가 있다.”

글쓰기의 이러한 차원, 즉 우리가 증언적 기능이라 부를 수 있는 것은 항상 존재해 왔다. 다만 더 실용적인 문제들에 가려져 있었다. 우리는 주로 정보를 전달하고, 논증을 펼치며, 즐거움을 주고, 설득하는 것과 같은 유용성 때문에 글쓰기를 가치 있게 여겼다.

이 기능들은 이제 기계가 상당한 수준으로 수행할 수 있게 되었다. 기계가 할 수 없는 것은 실제 경험과 개인적 판단에 기반해 증언하거나 주장을 펼치는 것이다. LLM은 “여기 문제를 다루는 정신이 있다”, “여기 올바르게 해결하고자 하는 사람이 있다”와 같은 암묵적인 계약을 맺을 수 없다.

합성 텍스트가 넘쳐나는 환경에서 이런 증언의 기능은 새롭게 귀중해진다. 독자들은 글이 잘 쓰였는지 묻는 것을 멈추고, 누가 썼는지, 어떤 상황에서 썼는지, 그리고 왜 그 글을 신뢰해야 하는지 묻기 시작할지도 모른다.

인간의 숙고에 대한 증거는 단일한 형태를 띠지 않을 것이다. 오히려 기계가 매끄럽게 지워버리는 경향이 있는 과정의 흔적들, 그러니까 주저함, 개성, 수정, 그리고 제약 속에서 내려진 판단의 존재에 깃들어 있을 수 있다. 불완전함 그 자체가 새롭게 다른 가치를 지니게 될지도 모른다. 손글씨 메모나 물질적으로 특정한 집필 방식처럼 오랫동안 쓸모없다고 여겨졌던 형식조차도, 글쓰기 행위에 특정 인물이 참여했음을 시각적으로 상기시켜 주는 수단으로서 다시 주목받을 수 있다.

본질적으로 가치 있는 글쓰기의 기준은 유창함에서 책임감으로, 다시 출처로 옮겨갈 것이다. 중요한 글이란 여전히 인간의 숙고의 증거로서 기능할 수 있는 글, 즉 진정한 사고의 흔적을 담고 있어 위조할 수 없는 작품이 될 것이다.

이러한 전환은 혼란스러울 것이며 많은 형태의 글쓰기는 이를 견디지 못할 것이다. 하지만 신뢰와 독자에게 진솔하게 다가서려는 의지에 기반을 둔 글쓰기, 즉 직접 경험에 뿌리를 둔 작품이나 힘들게 쌓아온 신뢰의 명성을 가진 작가의 글은 지난 수십 년간 누리지 못했던 가치를 인정받게 될지도 모른다.

글쓰기의 미래는 최근까지 이어져 온 마찰 없는 콘텐츠 경제보다는 그 이전의 더 오래되고 느린 서신 교환 및 출판 형태에 더 가까워질 것이다. 편지, 에세이, 비평, 탐사 보도 등 작가의 정체성이 중요하고, 독자들이 특정한 목소리를 찾아내며, 쓰여진 내용을 과거의 글들과 비교 평가하는 장르들 말이다.

이런 의미에서 작가에게 책임을 묻는다는 것은 단순히 동의하거나 반대하는 것이 아니라, 응답하고, 도전하고, 인용하고, 기억하며, 필요할 때는 신뢰를 철회하는 것이다. 이러한 형태들은 본질적으로 대규모화에 저항하기 때문에, 이를 자동화할 때는 그 가치를 잃을 수밖에 없다. 이론가이자 비평가인 롤랑 바르트가 ‘저자의 죽음’을 선언한 지 거의 60년이 지난 지금, 우리는 이 시기를 부활의 순간, 즉 저자의 재탄생으로 생각할 수 있다.

이러한 글쓰기가 경제적으로 자립할 수 있을지는 또 다른 문제다. 작가들은 언제나 생계를 꾸리는 데 고군분투해 왔다. 앞으로 몇 년간 그 고군분투는 더욱 심해질 것이다. 그러나 더 근본적인 질문은 작가들이 보수를 받을 수 있을지 여부가 아니라 -물론 그 또한 지극히 중요하지만- 글쓰기가 계속해서 의미를 지닐 수 있을지, 그리고 산문을 창작하는 행위가 여전히 인간의 의도를 담을 수 있을지 여부다.

진정한 인간적인 글쓰기는 더 드물어지고 더 신중해질지도 모른다. 그 이면에 있는 사람의 존재가 더 뚜렷하게 드러나는 방식으로. 글쓰기는 속도를 늦추고, 글쓰기를 상품화한 플랫폼에서 물러나, 작가와 독자 사이에 여전히 신뢰를 쌓을 수 있는 공간에서 안식처를 찾을지도 모른다.

즉각성보다는 인내심을 보상하는 환경과 형식에서 이뤄질 수 있으며, 누가 읽을지 의식하며 글을 쓰고, 읽혔다는 사실로 기억되는 그런 방식일 것이다. 이는 대중 매체 시대 이전의 모습과 더 닮아갈지도 모른다. 즉, 양이나 도달 범위보다는 글이 담고 있는 주의의 질로 정의되는 실천이 되어, 끊임없는 유통이나 증폭보다는 지속성과 인정을 통해 가치를 얻게 될 것이다.

구텐베르크 시대의 필사자들은 활자 인쇄가 만들어낼 세상을 상상조차 할 수 없었다. 우리 역시 앞으로 닥칠 일을 예견할 수 있는 입장에 있지 않다. 하지만 글쓰기가 이 단절을 견뎌낸다면, 그것은 기계가 결코 재현할 수 없는 무언가를 제공하기 때문일 것이다. 바로 공적으로 생각하고 그것이 글로 알려지기를 기꺼이 받아들이는 인간이라는, 결코 축소될 수 없는 사실 말이다.