지식과 연민의 씨앗을 뿌리고, 세계인의 대화를 인류가 직면한 가장 중요한 도전에 집중시킨다.
2503 시즌 - 책 <넥서스>
2025-03-20 11:32
전체공개
일상의 삶에서 우리는 가까운 주변, 길지 않은 시간, 직접 접촉하는 사람들을 생각하며 살아간다. 마치 운전하면서 차선과 교통 신호, 옆 차선의 다른 운전자들을 계속해서 살펴야 하는 것과 비슷하다. 차이가 있다면, 운전의 경우 운전자가 목적지와 현재의 위치, 지나갈 경로, 그 과정에서 지켜야 할 규칙에 대해 알고 있다는 것, 그리고 도로 위에 있는 다른 운전자들(과 보행자들) 역시 비슷할 것이라고 인지하고 있다는 점일 것이다. 저자가 사용한 용어를 인용하면 도로 위에서 우리는 서로가 같은 '상호주관적 현실'을 공유하고 있고, 그것으로 '연결'되어 있다. 그렇게 연결된 우리 운전자들은 빠른 속도로 안전하게 이동하는 시스템을 유지할 수 있다. (물론 가끔 그렇지 않은 운전자들도 있다.)
============
저자는 인류의 성공이 '정보'의 공유를 통해 점점 더 큰 규모로 네트워크로 연결되는 힘 때문이라고 이야기한다.
"정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다. (...) 별자리 운세는 연인을 별점으로 묶고, 선전 방송은 유권자를 정치적으로 묶고, 군가는 병사들을 군사 대형으로 묶는다."
그리고 이 정보 네트워크는 사람들이 서로에게 말하는 이야기인 상호주관적 현실을 통해 구축되며, 법이나 신, 화폐를 그 대표적 사례로 제시한다.
문제는 이러한 정보 네트워크가 성공하기 위해서는 진실 발견과 질서 유지라는 두 가지 일을 동시에 해야 하는데, 둘의 균형을 맞추는 것은 대단히 어려운 일이라는 점이다. 네트워크의 규모가 커지면서 발생하는 병목을 해결하기 위해 필수 불가결하게 만들어진 '관료제'는 질서의 유지를 우선으로 생각하게 되고, 질서의 유지를 위해서는 진실 보다는 허구를 통하는 것이 더 쉬운 방법이기 때문이다.
"오히려 인간 네트워크를 묶어주는 것은 허구적인 이야기, 그중에서도 특히 신과 돈, 국가와 같은 상호주관적 현실에 대한 이야기들인 경우가 많다. 사람들을 결속시키는 데 허구는 진실에 비해 두 가지 고유한 이점을 가지고 있다. 첫째, 허구는 얼마든지 간단하게 만들 수 있지만 진실은 대체로 복잡하다. 진실이 표현해야 하는 현실이 복잡하기 때문이다. (...) 둘째, 진실은 고통스럽고 불편한 경우가 많은데 그렇다고 그것을 편안하고 듣기 좋게 만들면 더 이상 진실이 아니게 된다. 반면 허구는 지어내기 나름이다."
역사를 통해 새로운 기술이 만들었던 정보 생태계의 모습들은 진실의 확산이라는 성과를 얻는 것이 얼마나 어려운 것인지를 잘 보여준다.
"인쇄혁명은 직접적인 결과로 과학 발견만이 아니라 마녀사냥과 종교전쟁도 일으켰다. 신문과 라디오는 전체주의 정권에서만이 아니라 민주주의 정권에서도 악용되었다. 산업혁명의 경우 그 변화에 적응하는 과정은 제국주의와 나치즘 같은 재앙적인 실험을 수반했다."
그런 점에서 인류가 민주주의라는 '자정 장치'를 조금씩 형성할 수 있었던 것은 당연하고 필연적인 결과가 아니다. 그리고 이러한 행운은 자연스럽게 지속되고 유지될 수 있는 안정적 상태도 아니다.
저자는 AI라는 새로운 기술이 가지는 의미를 인류 네트워크의 구성 원리의 변화라는 시각에서 바라보면서, 인간이 아닌 새로운 '주체'의 등장이라고 설명한다. 우리가 불러낸 그것은 '장치'가 아니라 인간과는 다른 알 수 없는 이질적인 무엇이라는 것이다.
"교회와 제국 같은 인간 네트워크들도 유기적 연결이었다. (...) 모두가 포식, 번식, 동기간 경쟁, 삼각관계 같은 전통적인 생물학적 드라마를 중심으로 돌아갔다. 비유기체인 컴퓨터들이 지배하는 정보 네트워크는 우리는 상상할 수도 없는 방식으로 다를 것이다. 결국 우리는 유기체이므로 우리의 상상력 또한 유기적인 생화학 과정의 산물이며, 유전적으로 프로그래밍된 생물학적 드라마를 넘어설 수 없다."
"전통적으로 AI는 '인공지능'의 약자로 쓰였다. 하지만 앞선 논의에서 명백히 확인된 이유들 때문에 이제는 AI를 '이질적인 지능Alien Intelligence'의 약자로 간주하는 것이 더 나을지도 모른다. (...) AI는 인간 수준의 지능을 향해 발전하고 있지 않다. 그것은 완전히 다른 종류의 지능으로 진화하고 있다."
규모와 복잡성이 커졌는데, 어떻게 행동할지 알 수 없는 전혀 새로운 참가자가 등장한 것이다. 그리고 이것은 잘못되었을 때 다시 시작할 수 있는 게임이 아니고 실전인 것이다. 그 결과는 아무도 예측할 수 없다.
"핵심 질문은 이것이다. 새로운 컴퓨터 기반 네트워크에서 점점 더 무력해지는 소수로 살아간다는 것이 인간에게 무엇을 의미할까? 새로운 네트워크는 우리의 정치, 사회, 경제, 일상생활을 어떻게 변화시킬까? 수십억 개의 비인간 존재에게 끊임없이 감시당하고, 지시받고, 영감을 얻고, 제제를 받는 것은 어떤 느낌일까? 이 경악스러운 신세계에 적응하고 거기서 살아남아 번성하기 위해 우리는 어떻게 달라져야 할까?"
저자는 단지, 역사의 경험을 볼 때, 그리고 석기시대 이후로 별로 변하지 않은 것으로 보이는 인간 종의 본성을 고려할 때, 더 강력해진 네트워크가 만들어낼 수 있는 위험이 파멸적일 수 있다는 점을 인식해야 한다고 이야기한다. 그리고, 재앙을 예방하기 위한 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다는 말로 마무리한다.
"새로운 컴퓨터 네트워크가 어떻게 발전할지 예측할 수 없는 상황에서 현 세기에 재앙을 피할 수 있는 최선의 방법은 실수를 찾아내 수정할 수 있는 민주적인 자정 장치를 유지하는 것이다."
============
역사 이야기는 흥미롭다. 지금과는 다른 상황에서 사람들이 살아냈던 이야기라는 점에서, 그 속에서 나타나는 사람들의 본성이 지금과 별로 다르지 않다는 점에서 관심을 끌고, 결국은 지구에 인류가 번성하는 일종의 '해피 엔딩' 상태에 도달했다는 것을 알고 있기에 재미있다.
역사 이야기는 흥미롭다. 지금과는 다른 상황에서 사람들이 살아냈던 이야기라는 점에서, 그 속에서 나타나는 사람들의 본성이 지금과 별로 다르지 않다는 점에서 관심을 끌고, 결국은 지구에 인류가 번성하는 일종의 '해피 엔딩' 상태에 도달했다는 것을 알고 있기에 재미있다.
하지만, 시간과 장소가 나와 직접 연결되면 역사는 현재가 되고, 알 수 없는 미래가 된다. 이제부터는 재미와 흥미의 문제가 아니다. 수 많은 사람들이 겪어야 했던 시련과 고통이 나의 실체적이고 잠재적인 현실이 된다. 역사를 읽으면서, 자연과 우주를 보면서 생각했던 거시적인 관점과 원칙들은 길을 잃고, 우리는 포식, 번식, 동기간 경쟁, 삼각관계 같은 전통적인 생물학적 드라마로 돌아가기 십상이다.
인류는 협력하는 집단으로 성공을 거두었으나, 개별적인 판단에 따라 협동하는 '개체'들이 모인 집단일 뿐 '군체'가 아니다. 그리고, 각 '개체'들이 행동하는 과정에서 전체 집단의 성공을 보장하는 원칙을 공유하고 있다는 증거는 없다. 오히려 그 반대로 변화 혹은 혼란을 최대한 이용할 수 있는 기회를 노리는 개체들로 가득하다. 사람들은 진리에 관심을 둘 여유가 없다.
"인쇄업자들과 서적상들은 코페르니쿠스의 <천구의 회전에 관하여>에 나오는 지루한 수학보다는 <마녀의 망치>의 선정적인 이야기로 훨씬 더 많은 돈을 벌었다."
"관심을 놓고 경쟁하는 유튜버들은 거짓말로 가득한 터무니없는 영상을 올리면 알고리즘이 수많은 이용자에게 그것을 추천해주고 따라서 인기와 수익을 얻을 수 있다는 사실을 알게 되었다. 반대로 분노의 강도를 낮추고 진실을 보여주면 알고리즘은 그것을 무시하는 경향이 있었다. 알고리즘이 이런 식으로 강화 학습을 제공한 지 몇 달 만에 많은 유튜버가 트롤로 변신했다."
============
이제 운전자의 이야기로 돌아가자.
이제 운전자의 이야기로 돌아가자.
운전자는 미디어에서 진행되는 AI 담론에서, '변화하는 세상에서 살아남고, 우위를 차지하기 위해서는 무엇을 해야 하는가'라는 이야기를 들어왔다. 개인의 결정과 행동의 결과가 개인에게 귀속되는 유형의 문제이다. 그의 욕망에 호소할 수는 있으나 도덕적 의무감을 주지는 않는다.
이제 새로운 담론을 만난다. '인간 본성에는 우리가 제어할 수 없는 힘을 가지려는 유혹에 빠지는 치명적인 결함이 있으며, AI는 인류의 생존 기반에 위협이 될 수 있는 전혀 새로운 문제이다.'
이제 그는 AI를 통해 세상의 다른 사람들과 연결될 수 밖에 없는 상황이 되었다. 큰 집단과 연결되었다는 것은 무거운 짐을 함께 지게 되었다는 것이다. 여전히 그는 선택할 수 있다. 짐을 져야 한다는 것을 인정하지 않을 수도 있다. 어깨를 살짝 낮추어 내 힘을 사용하지 않을 수도 있다. 무리 없이 버틸 만큼만 힘을 나눌 수도 있고, 있는 힘을 모두 쏟아 넣을 수도 있다.
이제 그는 AI를 통해 세상의 다른 사람들과 연결될 수 밖에 없는 상황이 되었다. 큰 집단과 연결되었다는 것은 무거운 짐을 함께 지게 되었다는 것이다. 여전히 그는 선택할 수 있다. 짐을 져야 한다는 것을 인정하지 않을 수도 있다. 어깨를 살짝 낮추어 내 힘을 사용하지 않을 수도 있다. 무리 없이 버틸 만큼만 힘을 나눌 수도 있고, 있는 힘을 모두 쏟아 넣을 수도 있다.
이것은 일종의 기시감이다. 멀고 가까운 역사에서 그리고 현재를 살아가면서 우리는 무거운 짐을 졌던 사람들을 알고 있다. 그리고, 그가 무엇을 위해 살고 있는지를 다시 생각하게 한다.
세상의 큰 흐름에 대해 설명 혹은 주장하는 이야기 속에 숨겨져 있는 스토리는 '너는 내 이야기에 동의하는가?'가 아니다, '너는 어디까지 행동할 것인가?'이다. '너는 이 넥서스에 연결되었는가?'이다.
저자는 감사의 글에서 그 생각에 더 많은 것을 걸고 노력을 기울이고 있는 사람들이 있음을 이야기한다.
"지식과 연민의 씨앗을 뿌리고, 세계인의 대화를 인류가 직면한 가장 중요한 도전에 집중시킨다"는 사피엔스십의 사명에 따라 이 책의 제작 과정에 참여하고 모든 프로젝트에 지속적으로 헌신해준 여러분께 감사드린다.
댓글
북클럽 오리진은 어떤 넥서스일까요?