글쓸 때 AI 도움 피해야 하는 이유

AI 사용 범위가 빠르게 확장되고 있다. 글을 쓰는 사람들 사이에서도 소리소문 없이 수용하는 분위기다. ‘완전 의존’까지는 거리를 두면서도 ‘어느 정도’ 도움을 받는 건 너도나도 거리낌 없는 듯하다. 그런가 하면 이런 흐름에 거스르는 목소리도 조금씩 힘을 얻어 가는 조짐을 보인다. 앞서 올린 글에 이어 비슷한 요지의 글이다. 이번엔 실증적 연구 결과를 토대로 한 학자의 에세이다. 특히 청소년 글쓰기 교육 과정에서 AI 도움의 위험성을 역설한다.

원문: Writing Is Fundamental to How We Think

나는 기술의 열렬한 팬이다. 기꺼이 공간지각 능력을 구글 맵에 맡기고 AI로 기사 찾고, 조사도 하고, 문법 오류도 고치고, 급하게 식단을 짜기도 한다.

하지만 최근 단호히 선을 그었다. 글쓰기엔 AI 안 쓰기로 했다. 글쓰기와 사전 탐구나 브레인스토밍 과정에서 말이다. 많은 사람들은 점점 더 사전 단계에선 AI 사용 용인하는 분위기다.

하지만 중요한 점을 오해하고 있다. 사전 브레인스토밍은 글쓰기의 기초 작업이다. 교육에 미치는 AI 영향 연구자로서 나는 이런 도구들이 글쓰기를 표면적으로만 향상시킨다는 결론을 내렸다.

더 크고 우려스런 영향은 사고의 폭과 독창적 사고 능력 제한한다는 점이다. 특히 학생들에게 해당된다. AI가 만들어내는 매끄러운 문장, 우아한 문맥 전환, 풍부한 어휘는 창의성과 개성이 넘쳐나는 듯한 착각을 낳는다. 하지만 그 이면에 깔린 아이디어들은 몇 가지 획일화된 범주로 수렴될 때가 많다.

젊은 시기 창의적 사고력이 떨어지면 불확실성 헤쳐 나가는 데 어려움 겪게 된다. 노동자는 노동 시장 변화에 적응하기 어려워진다. 사회는 복잡한 문제 해결하고 삶을 향상시킬 수 있는 새로운 아이디어들 놓치게 된다.

지난 8년 조지타운대 신경과학자 아담 그린은 ChatGPT 도입 전후 대입 지원 에세이에서 독창적 아이디어 추적하는 연구팀 이끌었다. 한 연구에서 37만 명 이상의 자기소개서 분석 결과, ChatGPT 등장 후 에세이에 갑자기 다양하고 화려한 언어가 사용되었지만 진짜 창의적인 아이디어는 부족했다. 이런 언어적 위장술은 효과를 봤다. 에세이 내용은 익숙한 범위에 그쳤음에도 인간 심사위원들은 더 ‘창의적’이라고 평가했다.

다른 연구에서는 인간이 직접 쓴 에세이가 AI 생성 에세이에 비해 최대 8배 더 많은 새로운 아이디어를 제시한 걸로 나왔다.

또 다른 실험에서는 인간이 쓴 단편 소설과 AI 도움 받아 쓴 것 비교했더니 후자가 더 흥미로운 어휘 사용했고 읽기 더 즐겁다는 평가 받았지만, 줄거리는 더 획일적이었다. AI가 개입될 때 독특하고 색다른 아이디어들은 종종 뒷전으로 밀려난다.

인류 역사상 처음으로 우리는 생각과 별개로 단어 생성할 수 있는 기술 갖게 되었다. 챗봇은 ‘글쓸‘ 때 훈련된 텍스트를 바탕으로 ‘좋은’ 문장이나 에세이 만들 가능성 가장 높은 다음 단어 예측한다. 그 밑바탕의 아이디어가 새로운 것 나타내는지와 상관없이 정교하고 창의적인 단어 패턴 식별할 수 있다.

십대가 직접 에세이 쓸 때 그 글은 자신의 생각과 성격, 경험을 의미 있게 해석하려는 시도를 반영한다. 우리가 단어를 떠올릴 때는 우리가 지닌 아이디어들 사이에 연결 고리를 형성하는 뇌 회로를 샅샅이 뒤지는 것이다.

“연 날리는 걸 보면 항상 수영 배우던 때가 생각날 거예요”라고 쓰는 학생은 자기 삶에서 겪은 독특한 개인적 경험들을 연결하고 있는 것이며, 이는 최근까지 진정한 창의적 사고의 분명한 신호로 여겨졌다.

AI와의 상호작용이 아이디어 제한할 수 있는 또 다른 방법은 암시의 힘을 통해서다. 챗봇이 한 번 방향 제시하면, 인간은 그 방향에 갇히기 쉽다. AI의 대화적 특성 때문에 사용자의 사고가 어디서 끝나고 봇의 사고가 어디서 시작되는지 구별하기 어려워지며, 사람들은 AI가 생성한 관점을 자기 것으로 받아들이는 데 아무런 거리낌이 없게 된다.

그러면 감수성이 예민한 시기에 청소년은, 가령 재즈 연주나 할머니와 함께 요리하는 느낌이 어떤지에 대한 색다른 에세이를 쓰기보다, AI가 제안하는 내용을 그대로 따르게 될 확률이 높다

더 큰 문제는 AI가 평균에서 가장 멀리 떨어진 독특한 관점의 학생들, 즉 신경다양성 학생이나 인종적·언어적 소수자 학생들에게 가장 큰 동질화 영향을 미친다는 점이다.

AI가 인간 창의성 지원할 수 없다는 뜻은 아니다. 자기 분야의 깊은 지식 갖춘 전문가들은 AI 활용해 기술적 또는 행정적 업무 간소화함으로써, 독창성 필요한 업무에 집중할 수 있다. 교사는 흥미로운 수업 기획할 시간 더 확보하고, 일러스트레이터는 아이디어 구상에 더 많은 주의 기울일 수 있다. 전문가들에게 AI는 인간이 가장 잘하는 일, 즉 창의적 문제 해결 위한 아이디어 짜내는 데 필요한 시간 준다.

뜻밖의 독창적 아이디어를 떠올리는 인간의 능력은 보호하고 키워야 할 가치다. 특히 청소년들에게 더 해당된다. 그래야 AI가 가져올 변화도 더 잘 견뎌낼 수 있다.