가속과 제어

기술의 본질은 행위의 가속이라고 생각한다. 우리는 스마트폰을 통해 지구 반대편에 있는 사람과 실시간으로 얼굴을 마주하며 대화할 수 있게 되었고, 이를 통해 '연결되어 있다'고 느낀다. 하지만 이는 결국 직접 만나 대화하는 데 걸리는 시간을 초가속화한 것에 불과하다. 은행에 직접 찾아가서 돈을 전달하는 과정이 터치 몇 번으로 단축되었고, 서로 다른 이성과의 만남 역시 스와이프 형식의 앱을 통해 비정상적으로 가속화되었다. AI 기술 역시 이 가속의 범주에서 벗어나지 않는다. AI가 단순히 업무를 돕는 것을 넘어 창의적인 작업까지 수행하는 단계에 들어섰다고 하지만, 결국 사람이 몇 년에 걸쳐 반복할 일을 몇 초 만에 끝낼 수 있도록 가속화한 것뿐이다.

가속 될 수록 좋다는 말을 하고 싶은 것 아니다. 가속도가 빨라질 수록 우리의 제어에서 벗어나는 일들이 발생한다. 마치 빠른 속도의 차량이 코너를 돌기 어려운 것과 같다. "기술은 그저 잘 사용하면 된다"는 말은 지나치게 순진하다. 기술이 발전할수록 인간이 ‘잘 사용’할 수 없을 만큼 제어가 어려워진다. 특히 AI는 인간이 원하는 바를 수행하기 위한 최적의 해를 구하는데, 기존 기술과 달리 그 해를 구하는 '과정'에서 인간은개입하지 않는다. 이는 곧 잘못된 명령이 내려졌을 때 이를 통제할 수 있는 수단이 없다는 뜻이다. AI 로봇들이 스스로 반란을 일으켜 인류를 위협하는 일은 없을 것이다. 하지만 AI 로봇에게 내려진 명령이 인류의 멸망을 초래할 가능성은 충분하다.

우리의 미래는 어떻게 될까? 나는 비관적 시나리오와 낙관적 시나리오를 모두 품고 살아간다. 먼저 비관적 시나리오다. 우리는 극도로 불행해지거나, 극도의 개인화 속에서 불행 조차 인지하지 못하는 상태가 될 것이다. 그 생각의 기저에는 기술이 아니라 자본주의가 있다. 자본주의 체제에서는 자본이 정치까지 큰 영향을 미친다. 충분한 돈이 있다면 자신이 원하는 규제의 방향을 지원 할 정당이 승리하도록 만들 수 있다. 그렇다면 정화 작용을 통해 다시 규제를 바꿀이를 선출하지 않게 되지 않겠냐고? 그러기 쉽지 않은게 정당이 승리하도록 만드는 것은 단순히 자본이 아닌, 자본을 활용한 알고리즘이기 때문이다. 알고리즘을 통해 대중의 심리를 조작할 수 있는 것은 이미 증명되었다. 자신의 심리가 조작되고 있음을 알게 된다면 그러한 후보를 뽑지 않게 되지 않겠냐고? 아마 그 이야기 조차 알고리즘 통해 알게 될 것이다. 편향되지 않은 자신만의 사고를 유지할 수 있는 집단은 소수일 것이며, 그들은 무의미한 싸움을 지속하거나 좌절하고 받아들이는 선택을 할 것이다.

유발 하라리의 책을 읽고 기술 발전의 위험성을 인식하며 경계하고, 정치 참여까지 하는 사람이 과연 세상에 얼마나 될까? 이미 일반적인 대중이 이해하기에는 기술과 담론의 수준이 지나치게 높아졌다. 그렇기에 요즘 부정선거를 주장하는 사람들의 마음도 충분히 이해할 수 있다. 통계학이라는 분야는 고등교육을 마친 사람들에게도 충분히 어려운 개념이다. 아무리 설명해도 이를 온전히 이해하기 어렵다. 책에서는 극단적 경험주의의 문제점을 지적했지만, 그렇다고 해서 ‘부정선거는 없다’는 선관위의 말을 오롯이 믿어야 한다면, 이는 다시 자정 작용이 없는 사회로 가는 길일 것이다. 슬픈 이야기지만, 극단적 경험주의의 문제를 이해하는 것조차 대중에게는 어려운 개념이다. 이미 우리 사회와 기술은 질서를 유지하기에 너무 고도화되었다. 그리고 AI는 이 간극을 더 극대화하는데 쓰이지 좁히는데 쓰이진 않을 것이다.

낙관적 시나리오는 비바레리뇽 고원의 감상과 같은 맥락을 가진다. 유발 하라리가 이 책을 쓴 것은 자신의 통찰을 자랑하기 위해서가 아닐 것이다. 그는 누구라도 이 책을 읽고, 인간에 대한 깊은 이해 없이 발전하는 기술의 위험성을 경계하며, 주위에 영향을 끼쳐 주기를 바라고 있을 것이다. 바쁜 일상 속에서도 틈틈이 이 책을 읽고, 주말에 모여 토론하는 ‘사피’와 같은 이들이 많아지기를 기대할 것이다. 지금 우리가 나누는 작은 담론들이 모여, 결국 멈출 줄 모르는 이 가속을 제어할 힘이 되기를 바란다.