*영어 원문에서 발췌 번역한 글입니다.
인터넷에 올라오는 새 글의 절반 이상이 AI 생성물이다. 인간의 글쓰기는 멸종 위기에 처한 걸까
디지털 마케팅 기업 Graphite 최근 발표에 따르면 웹상의 글 50% 이상이 AI 의해 생성되고 있다.
인간이 쓰는 글이 사라지는 건 시간문제일까. 인간이 적응해 나갈 또 하나의 기술 발전일까.
1960년대초 움베르토 에코는 에세이 「종말론적 태도와 통합적 태도」에서, 대중매체에 대한 두 가지 태도를 대비시킨다. 문화적 퇴보와 도덕적 붕괴를 두려워하는 '종말론자들'과, 새로운 미디어 기술을 문화의 민주화 동력으로 옹호하는 '통합론자들'이다.
당시 에코는 TV와 라디오의 확산에 대해 논하고 있었다. 에코는 양 극단을 경계했다. 신매체를 치명적 위협이나 기적 중 하나로 보는 건 도움이 안 된다고 썼다.
대신 사람들이 그리고 공동체가 이 새 도구들을 어떻게 활용하는지, 그들이 어떤 위험과 기회를 창출하는지, 그리고 그들이 어떻게 권력 구조를 형성하고 때로는 강화하는지 살펴볼 것을 촉구했다.
가령 2024년 선거 때 딥페이크가 이슈였다. 일부는 '딥페이크 종말'을 경고했다. 근거가 없지 않았다. 사람들은 정교한 딥페이크 식별에 특별히 능숙하지 않은 데다 자신의 식별력을 과신한다.
그럼에도 종말까진 오지 않았다. 딥페이크가 신뢰 붕괴와 양극화 같은 기존 정치 흐름 강화하는 데 기여한 걸로는 보이지만 선거 최종 결과에 영향 미쳤다는 증거는 없다.
오히려 창작자의 핵심 우려는 저작권 문제다: 방대한 텍스트 학습한 시스템이 초고속으로 텍스트 생성하는데 개인이 어떻게 경쟁할 수 있나? 이게 일반화되면 직업으로나 삶의 의미 원천으로서 창작 활동은 어찌 될까?
앞의 그래파이트 연구에서 사용된 "온라인 콘텐츠"라는 용어의 의미를 살펴볼 필요가 있다. 이 연구는 웹상에서 무작위로 선정된 100단어 이상의 기사 65,000개 이상을 분석했다. 여기엔 연구 논문부터 홍보 문구까지 모든 게 포함될 수 있다.
이중 AI가 생성한 글은 대부분 일반적인 글(뉴스 업데이트, 방법 안내서, 라이프스타일 게시물, 리뷰, 제품 설명서 등)이었다. 이런 콘텐츠의 주 목적은 독창성이나 창의성 표현이 아니라 설득하거나 정보 제공하는 것이다.
요컨대, AI는 위험 부담 적고 공식화된 글쓰기에 가장 유용해 보인다: 로마 주말 여행 리스트 기사, 표준 커버 레터, 비즈니스 마케팅용 텍스트 등이 대표적이다.
대다수 프리랜서인 작가들(번역가 다수 포함)이 이런 유의 작업에 의존해 왔다: 블로그 포스트, 사용법 자료, 검색 엔진 최적화(SEO) 텍스트, 소셜 미디어 콘텐츠 등. LLM은 이런 일의 상당 부분 대체하고 있다.
이런 작업의 급감은 그래파이트 연구가 제기한 또 다른 문제에 주목하게 한다: 진정성의 문제다.
인간이 쓴 글과 기계가 생성한 글의 경계는 흐려지고 구분은 점점 중요성을 잃을 가능성이 높다. 특히 인간이 AI 활용한 글이 점점 많아질수록 더 그럴 것이다. 이젠 몇 줄 초안 작성 후 AI로 확장하고 그 결과물을 최종 텍스트로 재구성할 수 있다.
또한 AI 생성물도 인간이 만든 자료로 훈련되기 때문에 완전히 인공적인 것은 아니다. AI 이전에도 인간의 글쓰기가 완전히 인간만의 것은 아니었다.
또한 AI 모델이 갈수록 더 인간이 쓴 글뿐만 아니라 AI가 생성한 텍스트와 인간-AI 공동 제작 텍스트를 포함한 데이터셋으로 훈련된다는 점이다.
이 때문에 시간이 지남에 따라 웹상의 콘텐츠 전반이 질적으로 하락할 거란 우려도 제기된다. 사람들이 글쓰기에 지나치게 AI에 의존하게 되면 어떻게 될까.
연구에 따르면 브레인스토밍에 AI 활용할 때 창의성이 높아질 순 있으나 아이디어의 범위는 오히려 좁아지는 경향이 나타났다.
이런 획일성은 문체에도 영향을 미친다: AI 시스템은 사용자를 유사한 표현 패턴으로 이끌어 개인의 목소리를 구분짓는 차이를 줄어들게 한다.
또한 다른 문화권 사람들의 글쓰기가 서구적, 특히 영어권 규범으로 이동하는 현상도 나타난다. 이는 새로운 형태의 AI 식민주의에 해당한다.
이런 점에서 독창성과 개성, 의도된 문체를 보여주는 텍스트는 새로운 미디어 환경 내에서 더욱 의미 있는 존재가 될 수 있다. 차세대 모델 훈련에도 핵심적인 역할을 할 수 있다.
종말론은 제쳐두고 AI가 지금보다는 느리게라도 계속 발전할 거라고 가정한다면, 사려 깊고 독창적인 인간이 작성한 글은 더욱 더 가치를 더해갈 가능성이 크다.
요컨대 웹의 상당 부분이 인간 아닌 AI 생성물로 채워지더라도 작가, 기자, 지식인의 작업이 불필요해지진 않을 것이다. 오히려 희소해지는 만큼 가치는 올라갈 것이다.
인터넷에 올라오는 새 글의 절반 이상이 AI 생성물이다. 인간의 글쓰기는 멸종 위기에 처한 걸까
디지털 마케팅 기업 Graphite 최근 발표에 따르면 웹상의 글 50% 이상이 AI 의해 생성되고 있다.
인간이 쓰는 글이 사라지는 건 시간문제일까. 인간이 적응해 나갈 또 하나의 기술 발전일까.
1960년대초 움베르토 에코는 에세이 「종말론적 태도와 통합적 태도」에서, 대중매체에 대한 두 가지 태도를 대비시킨다. 문화적 퇴보와 도덕적 붕괴를 두려워하는 '종말론자들'과, 새로운 미디어 기술을 문화의 민주화 동력으로 옹호하는 '통합론자들'이다.
당시 에코는 TV와 라디오의 확산에 대해 논하고 있었다. 에코는 양 극단을 경계했다. 신매체를 치명적 위협이나 기적 중 하나로 보는 건 도움이 안 된다고 썼다.
대신 사람들이 그리고 공동체가 이 새 도구들을 어떻게 활용하는지, 그들이 어떤 위험과 기회를 창출하는지, 그리고 그들이 어떻게 권력 구조를 형성하고 때로는 강화하는지 살펴볼 것을 촉구했다.
가령 2024년 선거 때 딥페이크가 이슈였다. 일부는 '딥페이크 종말'을 경고했다. 근거가 없지 않았다. 사람들은 정교한 딥페이크 식별에 특별히 능숙하지 않은 데다 자신의 식별력을 과신한다.
그럼에도 종말까진 오지 않았다. 딥페이크가 신뢰 붕괴와 양극화 같은 기존 정치 흐름 강화하는 데 기여한 걸로는 보이지만 선거 최종 결과에 영향 미쳤다는 증거는 없다.
오히려 창작자의 핵심 우려는 저작권 문제다: 방대한 텍스트 학습한 시스템이 초고속으로 텍스트 생성하는데 개인이 어떻게 경쟁할 수 있나? 이게 일반화되면 직업으로나 삶의 의미 원천으로서 창작 활동은 어찌 될까?
앞의 그래파이트 연구에서 사용된 "온라인 콘텐츠"라는 용어의 의미를 살펴볼 필요가 있다. 이 연구는 웹상에서 무작위로 선정된 100단어 이상의 기사 65,000개 이상을 분석했다. 여기엔 연구 논문부터 홍보 문구까지 모든 게 포함될 수 있다.
이중 AI가 생성한 글은 대부분 일반적인 글(뉴스 업데이트, 방법 안내서, 라이프스타일 게시물, 리뷰, 제품 설명서 등)이었다. 이런 콘텐츠의 주 목적은 독창성이나 창의성 표현이 아니라 설득하거나 정보 제공하는 것이다.
요컨대, AI는 위험 부담 적고 공식화된 글쓰기에 가장 유용해 보인다: 로마 주말 여행 리스트 기사, 표준 커버 레터, 비즈니스 마케팅용 텍스트 등이 대표적이다.
대다수 프리랜서인 작가들(번역가 다수 포함)이 이런 유의 작업에 의존해 왔다: 블로그 포스트, 사용법 자료, 검색 엔진 최적화(SEO) 텍스트, 소셜 미디어 콘텐츠 등. LLM은 이런 일의 상당 부분 대체하고 있다.
이런 작업의 급감은 그래파이트 연구가 제기한 또 다른 문제에 주목하게 한다: 진정성의 문제다.
인간이 쓴 글과 기계가 생성한 글의 경계는 흐려지고 구분은 점점 중요성을 잃을 가능성이 높다. 특히 인간이 AI 활용한 글이 점점 많아질수록 더 그럴 것이다. 이젠 몇 줄 초안 작성 후 AI로 확장하고 그 결과물을 최종 텍스트로 재구성할 수 있다.
또한 AI 생성물도 인간이 만든 자료로 훈련되기 때문에 완전히 인공적인 것은 아니다. AI 이전에도 인간의 글쓰기가 완전히 인간만의 것은 아니었다.
또한 AI 모델이 갈수록 더 인간이 쓴 글뿐만 아니라 AI가 생성한 텍스트와 인간-AI 공동 제작 텍스트를 포함한 데이터셋으로 훈련된다는 점이다.
이 때문에 시간이 지남에 따라 웹상의 콘텐츠 전반이 질적으로 하락할 거란 우려도 제기된다. 사람들이 글쓰기에 지나치게 AI에 의존하게 되면 어떻게 될까.
연구에 따르면 브레인스토밍에 AI 활용할 때 창의성이 높아질 순 있으나 아이디어의 범위는 오히려 좁아지는 경향이 나타났다.
이런 획일성은 문체에도 영향을 미친다: AI 시스템은 사용자를 유사한 표현 패턴으로 이끌어 개인의 목소리를 구분짓는 차이를 줄어들게 한다.
또한 다른 문화권 사람들의 글쓰기가 서구적, 특히 영어권 규범으로 이동하는 현상도 나타난다. 이는 새로운 형태의 AI 식민주의에 해당한다.
이런 점에서 독창성과 개성, 의도된 문체를 보여주는 텍스트는 새로운 미디어 환경 내에서 더욱 의미 있는 존재가 될 수 있다. 차세대 모델 훈련에도 핵심적인 역할을 할 수 있다.
종말론은 제쳐두고 AI가 지금보다는 느리게라도 계속 발전할 거라고 가정한다면, 사려 깊고 독창적인 인간이 작성한 글은 더욱 더 가치를 더해갈 가능성이 크다.
요컨대 웹의 상당 부분이 인간 아닌 AI 생성물로 채워지더라도 작가, 기자, 지식인의 작업이 불필요해지진 않을 것이다. 오히려 희소해지는 만큼 가치는 올라갈 것이다.