Consumption without Comprehension

정치 이념, AI 그리고 비유기적 네트워크. 내 머리에 전혀 없던 지식이나 흐렸던 정보의 기억을 팝콘처럼 경쾌하게 튀겨주었다. 굵직한 토픽을 정말 흥미롭게 또 한 번 유발 하라리가 넥서스에서 다루어 주었다. 생각의 꼬리에 꼬리를 물게 했던 책 내용들에 대해 이야기하기 전 나는 책을 읽는 내내 이 생각을 했다.

‘이 책을 하라리가 25년에 집필하고 있었다면, 윤석열의 이름은 몇 번이나 등장했을까?’

어쨌거나,

AI가 지배하는 세상을, 나는 영화적 상상력을 더해 두려워한다. AI 기술의 발전을 낙관적으로 보는 이들도 많지만, 상상할 수 없던 일 (또는 상상으로만 그려볼 수 있던 일들)을 해온 것이 인간이다. 부정적인 결과는 얼마든지 일어날 수 있다. 책에서 다룬 산업혁명은 좋은 예다. 과거의 인류를 돌아보며 우리는 ‘조상님들은 정말 어떻게 살았냐?’ 얘기한다. 그러나 현재에서 과거를 돌아보는 것과 현재에서 미래를 상상하는 것은 무척 다르다. 미래의 일은 그야말로 예. 측. 불. 가. 산업혁명으로 진일보한 사회에서 인류는 대혼란을 경험했다. 머리가 커가는 AI를 통제할 수 없을 때 우리 사회는 얼마나 혼란스러울까? 기술과 네트워크의 발전으로, 우리는 세계대전과 독재정치 속에서 수많은 희생을 겪었다. 마치 불을 처음 발견하고 흥분해 날뛰다가 마을 전체를 태워먹은 구석기시대의 인간처럼. 북클럽 홈페이지에 독후감을 올리고, 북클럽 단톡방에 안부를 묻고, 온라인으로 책을 구매하고, 지하철과 버스 단말기에 교통카드를 찍고 교보문고 CCTV 렌즈 안에 한 시간 머물다 가는 나의 모습은 기록되고 조사된다. 내가 잊은 기억도 네트워크는 기억하여 나보다 더 선명한 나를 비트로 남긴다.

우리는 착한 나쁜 놈 또는 순진한 나쁜 놈을 만들었다. 이 나쁜 놈을 우리는 교화할 수 있을까? 인간의 가슴에서 증오, 혐오, 분노, 원망, 적의를 끌어내는 오늘날의 알고리즘을 어떻게 다룰 수 있을까? 책을 읽으며 나는 AI에 대해 더욱 회의적 의견을 갖게 되었다. 인류 역사에서 일어난 끔찍한 사건들을 정보와 네트워크의 관점바라보니, 정보의 독점을 바탕으로한 권력 횡포는, 가랑비에 옷 젖는 줄도 모르고 수많은 사람들을 죽이고 고통받게 했다.

이미 나는 디지털 네트워크에서 더 선명한 인간이 되어 기록되고 있다고 느낀다. 일부로도 나를 비트로 남기지 않으려고 노력했다. 불필요한 회원가입과 마케팅 정부 수신동의를 피해왔지만 네이버 화면에는 내가 관심 갖는 콘텐츠가 매일 아침 출근길에 뜬다. 계속해서 발전하는 AI는 앞으로 나도 모르게 더욱 나를 파악할 것이다. AI는 명령하지 않겠지만 나는 통제당할 것이다. 내가 지금 아무리 최악의 상황을 상상해도 내가 상상할 수 없는 미래의 상황에 내가 AI의 통제아래 살아갈 것 같아 두렵다.

AI를 긍정적으로 활용하는 것 자체가 가능한가. 인간다운 삶 또는 자연스러운 삶은 더는 없는 걸까. 인간다운, 자연스러운 삶은 무엇인가 또 고민하게 되지만, 적어도 내가 실수 좀 하고 그 실수를 아무도 모르는 그런 세상이 미래에는 없을 것 같아 두렵다. 적어도 AI 네트워크에는 기록될 테니까. 이미 기록된 이상 좋은데 쓰일 수가 없는 우리의 안 좋은 모습들을 AI가 가지고 있다면 AI는 결국 나쁜 놈의 역할을 벗어날 수 없지 않을까? 지금 나의 이 발언도 비트로 기록되어 언젠가 ‘이 사용자는 안 좋은 모습들을 많이 가지고 있구나’라고 해석되고 알고리즘은 내 정보를 더 샅샅이 뒤지겠지 싶다.

알게 모르게 변해가는 공원의 나뭇잎은 좋다. 나도 모르게 진화하는 세상은 싫다. 무섭다.