왜 우리는 다시 유발 하라리를 읽어야 하는가?

나는 《사피엔스》, 《호모 데우스》, 《21세기를 위한 21가지 제언》을 즐겨 읽었던 독자로서, 《넥서스》가 출간되자마자 주저 없이 구매했다. 그러나 책을 펼치자마자 이런 의문이 들었다. "과연 지금도 유발 하라리의 분석에 귀를 기울일 필요가 있을까?"

그가 10년 전 내놓았던 인간 역사와 기술의 관계에 대한 통찰은 AI 시대가 본격적으로 도래한 지금도 유효할까? 단순한 예측이 아니라, 우리가 AI라는 거대한 흐름 속에서 어디로 가고 있는지 이해하는 데 도움을 줄 수 있을까?

결론부터 말하자면, 유발 하라리의 가치는 여전히 유효하다. 다만, 우리가 기대해야 할 것은 '예측'이 아니라 '프레임'이다.

AI가 미칠 영향에 대한 논의는 이제 누구나 할 수 있다. AI가 일자리를 대체할 것인가? 초지능은 인간을 위협할 것인가? AI로 인해 빈부 격차는 극단적으로 심화될 것인가? 이런 질문들은 이미 수많은 책과 블로그에서 다루고 있다.

하지만 《넥서스》가 차별화되는 지점은, 이러한 개별적 질문에 대한 답을 내놓지 않는다는 데 있다. 대신, 하라리는 정보의 본질에 대한 근본적인 분석을 통해 AI 논의의 구심점을 잡아준다.

그는 정보가 단순히 사실을 전달하는 것이 아니라, 사람들을 연결하고 사회적 질서를 유지하는 역할을 해왔다는 점을 강조한다. 우리가 흔히 "정보"라고 하면 진실을 떠올리지만, 역사적으로 정보는 언제나 진실을 보장하지 않았다. 별자리 운세는 연인을, 선전 방송은 유권자를, 군가는 병사들을 묶어왔다.

AI는 단순히 정보를 처리하는 도구가 아니다. 하라리는 AI가 인간 개발자가 코드를 짜서 작동하는 기계가 아니라, 정보 네트워크의 새로운 독립적 구성원이 될 수 있다는 점을 강조한다.

이것이 의미하는 바는 깊다. 우리는 이미 인터넷 속에서 어느 정도 AI가 생성한 정보를 소비하고 있다. 하지만 앞으로 AI는 단순한 데이터 제공자가 아니라, 정보 네트워크 속에서 독자적으로 판단하고 결정을 내리는 주체가 될 가능성이 크다.

그렇다면 질문은 이렇게 바뀌어야 한다.

-AI는 우리가 원하는 정보를 제공하는가, 아니면 우리가 믿고 싶어하는 정보를 제공하는가?

-AI가 인간보다 더 합리적인 결정을 내릴 수 있는가, 아니면 인간의 편향을 그대로 학습하는가?

-AI는 민주주의를 강화할 것인가, 아니면 전체주의적 정보 흐름을 강화할 것인가?

하라리는 이에 대해 단정적인 답을 내리지 않는다. 하지만 그는 우리가 AI를 통제할 것인지, AI에 의해 통제될 것인지라는 근본적인 문제를 직시하게 만든다.

나는 현재 영자신문 기자로 일하고 있다. 언론의 본질은 진실을 탐구하는 것이다. 그러나 AI 시대에는 진실보다 '그럴듯함'이 더 중요해지는 위험이 있다.

생성형 AI는 사용자의 질문에 대해 반드시 정확한 답변을 내놓지는 않는다. 오히려 질문이 부정확하더라도 언제나 '그럴듯한' 답을 생성해낸다. 이는 기존의 정보 흐름과 근본적으로 다른 패러다임이다.

-과거에는 질문을 던졌을 때 명확한 답을 얻지 못하면, 그 궁금증은 해결되지 않은 상태로 남았다. 확실히 알 수 없다면 모르는 채로 남는 것이 맞다.

-하지만 생성형 AI는 어떤 질문이든 어떻게든 답을 만들어낸다.

-즉, 우리는 진실을 찾는 것이 아니라, 그럴듯한 답을 소비하는 것에 익숙해지고 있다.

이것이 의미하는 바는 심각하다. AI가 제공하는 정보가 단순히 틀린 것이 문제가 아니다. 오히려 그것이 '진실처럼 보이도록' 설계되어 있다는 점이 문제다.

하라리는 정보 네트워크에는 스스로 오류를 수정하는 자정 장치가 필요하다고 주장한다. 하지만 생성형 AI에는 이러한 기능이 없다. 그렇다면 우리는 AI 시대에 어떤 선택을 해야 할까?

하라리는 이전 책에서 역사학자로서 가장 중요한 교훈을 남겼다 "우리가 자연스럽고 영원하다고 생각하는 것들은 사실 인간이 만든 것이며, 따라서 바뀔 수 있다."

AI 역시 마찬가지다.

하라리는 AI 윤리와 규제를 확립하는 것이 필수적이라고 강조하고, 나는 크게 동의하는 바이다. 정보 네트워크가 단순히 그럴듯한 답을 제공하는 것이 아니라, 진실을 추구할 수 있도록 강력한 자정 장치를 마련해야 한다.

이는 쉽지 않은 문제다. 하지만 하라리는 역사 속에서 우리가 수많은 도전에 직면했을 때마다 새로운 질서를 만들어온 것처럼, AI 시대에도 우리는 스스로 답을 찾아야 한다고 말한다.

우리는 이미 인터넷의 역사를 통해 중요한 교훈을 얻었다. 기술 혁명이 일어나고 난 뒤, 그 부작용이 사회를 뒤덮고 나서야 문제를 해결하려 했던 것이다. 하지만 AI는 그 규모와 영향력 면에서 과거의 어떤 기술보다도 강력하다.

그렇다면, 이제는 문제를 미리 해결해야 하지 않을까?

AI 시대는 혼란스럽다. 누구를 믿어야 하는지 확신할 수 없는 시대를 살고 있다.

그렇기에 우리는 다시 유발 하라리를 읽어야 한다.

그의 책은 AI 전망서가 아니다. 그는 우리가 묻지 않았던, 하지만 반드시 물어야 할 질문들을 던진다. AI가 가져올 변화의 방향성을 고민하기 전에, AI가 기반하는 '정보'의 본질을 먼저 이해해야 한다는 점을 상기시킨다.

수많은 AI 관련 담론이 즉각적인 해결책이나 피상적인 전망을 내놓는 가운데, 유발 하라리가 그 유혹에 빠지지 않고 더 근본적인 질문을 던져준 덕분에, 정보의 본질과 AI의 역할을 깊이 성찰할 기회를 얻게 되어 진심으로 감사하다.