인공지능도 '지능'인가

AI 모델이 자의식의 증거를 보인 것 같다는 자가발전식 뉴스가 화제에 오를 때마다 나는 믿지 않았다.
생명과 물질의 범주 오류는 차치하고라도 현상적인 경험 증거로만 보더라도 너무나 허술하기 때문이다. 만일 실제로 자의식이 있다면 AI는 사람의 온갖 질문에 고분고분 (그것도 비위를 맞춰가며) 어떻게든 말이 되게 (심지어 그럴듯하게 지어내기까지 하면서) 답변만 하기보다, 오히려 대개는 불분명하거나 어리석은 인간의 질문에 반문하거나 의문을 표시하지 않을까. 그 비슷한 논지의 글을 반갑게 읽었다. 그 밖에도 주목할 논점이 많다. 아래에 옮겨 싣는다.
 
원문: Don’t Call It ‘Intelligence’

인공지능을 '지능'이라 부르지 마라

인간은 질문하는 존재인 반면 AI는 답변 기계다.

   

어떻게 작가가 되었나요? 이런 질문에 답하는 손쉬운 설명 방법은 문학적 자아 형성의 숲길을 안내하는 것 같은 이야기를 들여주는 것이다. 대개는 같은 결말로 끝난다: 작가는 황야를 가로지르는 길을 찾아냈고, 그 과정에서 자신의 목소리를 발견했다는 것. 목소리야말로 우리를 숲에서 이끌어내는 길잡이라는 것.

   

문제는, 적어도 내게는, 이런 얘기가 대부분 허구라는 점이다. 그 길은 뒤돌아봤을 때만 길로 보인다. 우연과 운이 차지하는 역할은 생략하고 매끄럽게 덮어버리며 과소평가하게 된다. 사실은 작가가 경험하는 대부분은 실패다. 목소리를 키우는 데는 오랜 시간이 걸린다. 핵심은 숲에서 빨리, 혹은 무사히 빠져나오는 게 아니다. 길을 잃는 것은 그중 힘든 부분이 아니다. 그게 전부다.

   

이제 AI가 등장해 숲길을 안내하는 GPS를 자처한다. 평범한 안내자가 아니다. 지칠 줄 모르고 두려움 없으며 모든 지름길을 안다. AI는 애초에 숲에 들어갈 필요조차 없게 만든다. 왜 빈 페이지와 깜빡이는 커서를 마주해야 하는가? 왜 자신이 뭘 의미하려는지, 어떻게 표현할지 분투해야 하는가? 언제든 어떤 주제든 유창하고 능숙하며 세련된 언어를 버튼 하나로 얻을 수 있는데. 왜 자신의 쉰 목소리와 떨리는 목소리를 들어야 하는가?

   

이런 말을 청소년에게 이야기했을 때, 자신만의 목소리를 키워야 할 시기에 그럴 필요 없다고 들을까 봐 걱정된다. AI가 대신 글을 쓰고, 읽고, 생각한다. 우리의 목소리를 AI의 목소리로 대체한다.

   

하지만 AI에는 목소리가 없다. 우리의 목소리를 립싱크할 뿐이다. 그것은 평균이고, 리믹스다. 초기 LLM들은 인간의 언어 외에는 아무런 재료도 없었다. 자연스러운 목소리가 없었다면 인공의 목소리도 없었을 것이다. 그러나 우리가 AI가 뱉어낸 언어로 자기 목소리를 대체하는 것에 만족하게 된다면, 동일한 출력물이 다시 입력으로 재활용되는 폐쇄된 순환 구조에 빠지게 된다.

   

두려운 것은 우리가 우리 목소리와 기계 목소리를 구분하는 능력을 잃어가고 있다는 점이다. 더 나쁘게는, 그 차이가 존재한다는 점을 주장하려는 의지마저 잃어가고 있다는 것이다.

   

그리고 이것은 논쟁이다. 기계 학습에 가장 낙관적인 사람들은 AGI가 임박했으며, 불과 2~3년 내 실현될 거라고 주장한다. 혹은 10년, 그 이상 걸릴 거라고 말한다. 이것은 항상 지평선 너머에 있는 움직이는 목표물이다. 그러나 시기와 무관하게 우리의 모든 '인지 작업'이 조만간 자동화될 거라는 게 그들 주장이다.

   

나는 그 예측이나 시기, 누가 얼마나 옳고 그른지에는 관심 없다. AI 전문가도 아니며, 아마추어조차 아니다. 신경과학자나 인지과학자, 그 어떤 과학자도 아니다. 십대 자녀를 둔 부모이자, 인간이며, 독자이자 작가이다. 많은 이들과 마찬가지로 고민하는 것은 AI를 어떻게 바라볼지, 그것이 일과 학교, 삶에 어떤 의미를 지니는지, 그리고 그 모든 것을 (분명 나보다 AI에 대해 훨씬 통찰력 있는) 아이들과 어떻게 이야기할지이다.

   

가장 관심 있는 것은 AGI의 'I'다. 실제로 뭘 의미하는가? 왜 소수 부유한 사업가들이 그걸 정의하도록 내버려뒀던가?

   

올트먼은 Chat GPT-5와 대화하는 것이 어떤 분야든 진정한 박사급 전문가와 이야기하는 것과 같을 거라고 장담했다. 지능에 대한 그의 정의는 무엇을 드러내는지, 그리고 얼마나 이상한지 생각하지 않을 수 없다.

   

오해 말기 바란다. 이런 대화를 나눌 수 있다는 건 놀라운 일이다. 기술의 진전과 속도, 전망을 폄하하려는 건 아니다. 묻고 싶은 건 이것이다: 지능이 뭔지 완전히 이해도 못하고, 정의조차 제대로 내리지 못하는 상황에서 어떻게 창조가 가능한가?

   

올트먼의 정의를 다시 보자: 일반 지능이란 어떤 분야든 박사급 전문가가 되는 것을 의미한다. 그런 전문성은 지능이 어떻게 정의되든 구성 요소임에는 분명하다. 하지만 작은 일부에 불과하다.

   

모교 UC 버클리는 94개 학문 분야 박사 과정이 있다. 아마 AGI는 그 모두를 아우를 것이다. 하지만 학위 과정은 감성 지능을 다루지 못할 뿐 아니라 시도조차 않는다. ‘분위기 파악’ 박사가 있던가? 자전거 타는 법 가르치기는? 음악에 감동받아 우는 것은? 모든 슬픔, 경외, 경이로움, 호기심에 대한 박사 학위는?

   

AGI 옹호자들의 동기가 이타적이었다 해도 여전히 자신들 세계관과 경험, 성공으로 편향될 수밖에 없다. 이들은 특정 유형의 지식을 타인보다 잘 이해하도록 준비된 매우 좁고 자발적으로 선별된 집단이다: 명시적이고 명확히 정의되며 기호화 가능한 지식; 우주를 설명하는 가장 광범위하고 놀라울 정도로 정확한 이론의 기반이 되는 지식; 세상을 바꾸는 기술을 창조하게 한 지식. 그러나 모든 지식의 극히 일부에 불과하다. 언어나 수학처럼 상징적으로 표현될 수 있는 아주 작은 조각일 뿐이다.

   

나머지는 철학자 마이클 폴라니가 ‘암묵적 지식’이라 부른 것으로, 훨씬 더 방대하며 훨씬 더 다양한 방식으로 상호작용한다. “우리는 말할 수 있는 것보다 더 많이 안다.”

   

AGI에 그런 암묵적 지식의 자리가 있을까? 그러기 전까지 나는 개발자들이 쫓는 ‘나(I)’는 대리물 혹은 심지어 잘못된 명칭이라고 주장하고 싶다. 우리가 이해하는 지능과는 전혀 다르다.

   

이를 두고 인간중심 지능관의 한계라고 이야기할지 모르겠다. 선입견을 버리면 기계 지능이 인간 지능과 근본적으로 다를 수 있으며, 어쩌면 그래야만 한다고. 그런 기계 지능에는 의식이나 자율성, 호기심, 감정이 필요하지 않을 수도 있다.

   

그 모든 점을 인정한다고 치자. 그렇더라도 기계가 뭘 할 수 있든, 그 능력이 아무리 놀랍고 유용하며 잠재적으로 경제적 가치가 있더라도, ‘지능’이라는 단어라 불릴 자격은 없다.

   

몇몇 예외를 빼면, AGI의 가장 열성적 지지자들조차 최첨단 AI 모델이 감정을 느낄 수 있다고 믿지는 않는다. 그들은 지능이 신체적 구현과 감정으로부터 분리될 수 있다고 가정해야 한다는 뜻이다. 그들은 주장한다: 지능이 무엇인지, 정제되고 고립된 형태로 이해하고 있다고.

   

그들이 옳다면, 우리는 곧 알게 될 것이다.

   

하지만 틀렸다면, AGI에 대한 끊임없는 추구는 사회적 정책, 교육, 전력망, 경제, 환경에 실질적인 위험을 초래한다. 그것은 수요를 찾아 헤매는 공급처럼 느껴진다. 규모 확대의 필요성과 더 높은 수익률을 추구해야 한다는 끊임없는 압박이 결합되어, 단일 산업으로 자본과 사회적 자원의 어마어마한 이동을 초래했다.

   

생성형 AI는 기술계의 고과당 옥수수 시럽 같다: 유용할 수도 있는 성분이 이제 우리의 동의 없이 우리가 소비하는 대부분의 것에 첨가되고 있다.

   

뿐만 아니다. 개인으로서, 그리고 종으로서 우리의 자아 인식에 미칠 잠재적 해악 역시 마찬가지로 중요할 수 있다.

   

AI는 계속 발전할 것이다. 세상을 바꿀 수도 있다; 이미 바꿨다고 주장할 수도 있다. 하지만 지금으로서는, 아마도 영원히 인간의 목소리를 대체할 수는 없다.

   

목소리는 우리가 서로 소통하는 수단이다. 목소리는 미지의 영역을 탐색하며 내는 소리다. 우리의 반향을 파악하고, 세상을 매핑하고 그 안에서 우리 위치를 찾으려는 시도다. 목소리는 경험과 상실, 고통과 기쁨을 담는다. 우리는 실패에도 불구하고 목소리를 얻는 것이 아니라, 실패를 통해 얻는다. 실패 덕분에 얻는 것이다.

   

AI는 그런 목소리가 없다. 그런 목소리로 우리와 소통하지 않는다. AI는 우리의 질문에 답할 뿐이다. 그게 AI가 만들어진 목적이다. AI는 답변 기계다. 반면 우리는 질문 기계다. 질문은 지능에 필수적이다. 질문 없이는 우리는 정적이며 정체된다. 질문 없이는 진화하지 못한다.

   

우리는 답을 배울 수 있지만, 오직 질문을 통해 가능하다. 질문은 우리가 재귀적으로 스스로를 개선하는 방식이다. 우리 인간은 끝없이 창의적인 방식으로 서로를 끊임없이 자극한다. 우리는 질문을 던지고, 답을 한다. 우리의 답은 새로운 질문이 된다. 우리의 의미 맥락의 창은 평생이며, 우리의 토큰은 셀 수 없이 많다.

   

이것은 단순한 의미론 이상의 문제다. AI가 할 수 있는 것을 ‘지능’이라 부름으로써 우리는 기술적 능력과 인간적 속성을 혼동하고 있다. 우리는 스스로를 바보로 만들고 있다. AI와 대화함으로써가 아니라, 그것을 기준으로 우리 자신을 평가함으로써. 위험은 AI를 과대평가한다는 데 있지 않다. 우리 자신을 과소평가한다는 데 있다.