기술의 폭정에 맞서려면

기술이 앗아가는 것들 & 되찾아 오기

오랜만에 리베카 솔닛의 에세이를 읽었다. 가디언에 실린 것을 발췌해 여기에도 옮긴다.
원문: What technology takes from us – and how to take it back

'계량 가능한 것들의 폭정' 시대다.

본래 우리는 자신만의 방식으로 순간에 몰입하고 육체적·감각적으로 세상과 교감하며 살아가곤 한다. 한때는 그랬다. 문제는 지금 우리는 '가지는 것을 극대화하고 행하는 것을 최소화하라'는 이념에 사로잡혀 있다는 것이다. 이는 오랫동안 자본주의의 서사였으며 이제는 기술의 서사이기도 하다. 이 이데올로기는 우리에게서 관계와 연결을 앗아가고 결국엔 우리 자신마저 빼앗는다.

버리라고 강요받는 이것들을 나는 지키고 싶다. 이 글은 인공지능 자체에 관한 에세이가 아니다. 인공지능이 제공하는 것을 우리가 무분별하게 받아들일 때 잃어버리는 것들에 관한 글이다. 간과되거나 평가절하되는 바로 그것들을 묘사하고 가치 있게 여기려는 시도다.

실리콘밸리는 계량 가능한 것의 폭군들로 가득하다. 수십 년 간 그곳의 과두지배자들은 우리가 무엇을 어떻게 할지에 대한 기준이 편리함, 효율성, 생산성, 수익성이어야 한다고 설파해 왔다. 세상으로 나가 타인과 교류하는 것은 위험하고 불쾌하며 비효율적이고 시간 낭비라고 말해왔다.

이는 결국 우리가 세상에서의 존재감은 최소화하고 일과 온라인 활동에 할애하는 시간은 극대화하는 것을 의미한다. 또한 소외감과 고립감을 극대화하는 것을 뜻한다. 이는 소매 환경에 이르기까지 사회 구조의 재편을 가져왔다. 많은 일들이 대면을 우회한다.

잘 알려진 장점들도 있지만 단점들 또한 결코 적지 않다. 공공의 공간과 생활이 시들해졌다. 여기엔 우리가 한때 물건을 구입하던 장소들도 들어간다. 뭔가를 사러 가는 일은 대개 인간적 접촉의 순간을 의미했다. 낯선 사람들 사이를 오가며 지인을 만들고 날씨와 자연 세계를 관찰하기도 했다. 이런 활동들은 주변 환경에 더 익숙해지면 집처럼 편안함을 느끼게 해주었다.

이 모든 것이 민주주의의 기반이 된다: 차이에 대한 편안함, 지역의 지형에 대한 친숙함, 연결감과 소속감, 자신이 어디에 있고 누가 주변에 있는지 아는 것, 가까운 지인들을 넘어선 사람들과의 관계, 그것이 아무리 사소한 관계일지라도.

계량 가능한 것의 폭정을 받아들이는 것은 세상 속에서 이뤄지는 이러한 일상적 행위들의 미묘한 가치와, 그것들이 관계의 네트워크를 생성하고 유지하는 방식을 외면하는 것이다.

그래서 우리는 끊임없이 그런 가치와 관계가 좋다고 들으면서도 물러섰고, 이는 결국 공공 생활과 지역 기관을 약화시키고 우리를 고립시키는 등 수천 가지 사소한 방식으로 나쁜 결과를 낳았다. 만성적인 고립은 접촉에 대한 갈망으로 이어지거나 접촉 부재로 인한 상실감으로 이어질 수 있다.

또 있다. 그 접촉을 감당해내는 능력이 점점 약해지는 것이다. 그럴 땐 무언가 부족하다는 느낌을 혐오감이나 무감각, 혹은 인간적 접촉은 어떠해야 한다는 비현실적 기대로 바꿔버릴 수 있다. 어려움과 불협화음을 견뎌내고, 매개되지 않은 인간적 접촉의 변덕을 용기 있게 마주하는 회복탄력성은 실천을 통해 유지되는 것임에도, 실리콘밸리에서 자란 고립은 그것을 앗아간다.

실리콘밸리는 우리 대부분이 밖으로 나가 타인과 직접 접촉하는 걸 원치 않는다고 설득하더니, 이젠 스스로 생각하거나 창조하거나 다른 인간과 소통하는 것조차 원치 않는다고 설파한다. 인공지능 제품 클루리Cluely 광고는 이렇게 선언한다. “이제 당신은 결코 혼자서 생각하지 않을 겁니다.” 이런 기업들은 우리가 늘 해왔던 일들이 너무 어려운 것이라고 암시할 때가 많다.
 

숱한 활동을 자발적으로 포기하는 대가는 그 능력을 잃는 것이다. 1970년대부터 컴퓨터 기술의 진화를 지켜본 사회학자이자 심리학자인 셰리 터클은 공감 능력이 있는 아이를 키우고 싶었다고 쓴 적이 있다. “혼자 조용한 시간을 보낼 능력이 없다면 그건 불가능하다는 걸 알았다. 하지만 바로 그 지점에서 화면이 문제를 일으키기 시작했다. 화면을 도입하는 순간 우리의 고독 수용 능력은 훼손된다.”

혼자 있고 혼자 생각하고 행동하는 능력은 흔히 활동으로 여겨지지 않는다. 하지만 진정 중요한 능력일지 모른다. (내가 접한 AI 도입의 암울한 사례 하나는 <애틀랜틱>에 실린 한 남성 이야기였다. 그는 “결혼과 육아 조언을 AI에 묻고, 장보러 갈 때면 과일 사진을 찍어 익었는지 AI에게 묻는다”. 냄새와 촉감, 외관으로 판단할 수 있는 것도 외부에 맡기다 보면 스스로 결정하는 법이나 익은 과일의 향과 맛을 잊어버릴지도 모른다.)

클루리 광고에서 젊은 남성(실제로는 제품 개발자 중 한 명)은 첫 데이트에서 젊은 여성과 대화할 때 끊임없이 팝업되는 안내 메시지를 받는다. 기술이 제공하는 것의 상당수는 존재하지 않는 문제에 대한 해결책이거나 다른 수단으로 해결해야 할 문제에 대한 해결책이다.

데이트의 목적은 아마도 교감이겠지만 이런 상호작용에서는 마치 비즈니스 기회처럼 재구성된다. 그는 여성에게 좋은 인상을 주고 싶어 하지만, 만일 그녀가 그런 식으로 감명받는다면 그 감동은 그에게로 향하지 않을 것이다. 네드 레즈니코프는 터클의 주장에 공감하며 이렇게 썼다. “클루리의 명시적 약속은 고독을 없애겠다는 것이고 결국 사고 자체를 없애겠다는 뜻이다. 그럴 때 자기 자신과의 모든 대화는 LLM에 던지는 질문으로 대체될 것이다.”

지금 기술은 지적 노동마저 AI에 외주할 수 있다고 주장한다. 이는 학생들이 챗GPT로 숙제를 대신하게 하면서 부정행위의 유행으로 이어졌다. 창의적 지적 작업을 LLM에 맡기는 건 과정은 생략하면서 결과물만 요구하는 가장 극단적인 사례일 것이다. 그러나 교육에서 궁극의 결과물은 학기말 보고서나 에세이, 평점이 아니다. 바로 자신이다. 자신이 더 많은 지식을 갖추고 비판적 사고 능력이 향상되며 전공 분야에서 더 유능해져야 한다. 교수를 속이는 것으로 시작한 학생들은 결국 자신을 속이는 것으로 귀결된다.

계량 가능한 것의 폭정은 우리가 작업을 통해 얻는 것이 무엇인지, 왜 그것을 하고 싶어 하는지, 글쓰기(대부분 사고 과정)가 어떻게 자아, 세계관, 윤리 체계, 언어 이해 및 활용 능력 개발의 일부가 될 수 있는지에 대한 질문을 짓밟는다. 누군가 친구가 결혼 기념일에 남편에게 줄 시를 챗봇에게 쓰게 했다고 한다. 그 남편은 외주를 준 정교한 시와 진심 어린 아내의 표현 중 무엇을 더 원할까.

AI 동반자의 한 가지 장점은 항상 당신을 위해 존재한다는 점이다. 당신이 원할 때 켜지고, 원하지 않을 때 꺼지며, 자신의 욕구는 없다. 그 이면엔 우리가 가능한 한 많이 얻고 가능한 한 적게 주며, 자신의 욕구만 충족시키고 타인의 욕구는 피해야 한다는 자본주의의 논리가 숨어 있다.

인간 사회의 현실에서는 주는 것에서 무언가를 얻는다. 최소한 '줄 것이 있는 사람'이라는 정체성을 얻는다. 이것은 그 사람의 부와 관대함, 힘의 척도 중 하나다. 우리는 주기 위해 설계되었고 선물은 순환하게 되어 있다. 오늘날 사랑은 흔히 비축하고, 수확하고, 수집하고, 심지어 추출하려는 일종의 상품으로 이야기되지만, 사랑받기만 하고 사랑하지 않는 것은 슬픈 성취다. 마치 남의 부를 탐욕스럽게 모으는 구두쇠와 같다. 반면 사랑하는 일은 자신과 삶을 키우는 일이다.

이 모든 것은 어느 정도 언어의 문제다. 실리콘밸리 기업들은 끊임없이 우리로 하여금 그들의 목표와 언어를 받아들이게 한다. 기업 자본가들은 우리에게 그들처럼 되라고, 효율성과 수익성을 중시하고 결국 더 중요할 수 있는 가치들은 잊으라고 가르친다. 지금 우리에겐 고된 것, 불편한 것, 느리고 방황하는 것, 예측 불가능한 것, 취약하거나 위험한 것, 친밀한 것, 육체화된 것을 소중히 여길 수 있는 언어가 부족하다.

우리는 삶을 가치 있게 만드는 모든 미묘한 현상들을 평가할 수 있는 언어를 찾음으로써 계량 가능한 것의 폭정에 저항한다. 새로운 단어가 아니라, 이러한 미묘한 현상과 기업이 부패시키지 않은 원칙들에 집중하는 주의와 묘사, 대화를 의미하는 언어 말이다.

어려움을 말하는 것은 그 자체를 칭송하는 것이 아니다. 우리가 원하는 것의 상당수가 어려운 노력을 통해 얻어지기 때문이다. 어려움은 무언가를 하는 것이 보람 있는 이유다. 무언가를 성취하고, 노력과 기술을 발휘하고, 어려움을 견디고, 자신의 한계를 시험하고, 의도를 실현하기 때문이다. 때로는 이 모든 것이 실패하기도 한다. 그것 또한 실패를 견뎌내는 법을 배우는 것만큼 중요할 수 있다.

이 시대 사람들은 운동 실력이나 체력 단련 같은 육체적 어려움을 추구하는 것은 소중히 여기는 듯하다. 반면 감정적 도덕적으로 더 도전적인 일은 종종 무시되거나 회피된다. (아마도 그 성과가 식스팩 복근처럼 뚜렷하지 않기 때문일 것이다). 그런 것은 피해야 한다고 설득당하고, 삶을 더 편하게 만들어주는 수많은 상품과 서비스가 제공된다.

그러나 고된 노력은 보람을 줄 수 있는 반면, 모든 것을 포괄하는 편리함은 자신을 갉아먹고 결국엔 비참해질 수 있다. 얻는 것을 극대화하고 주는 것을 최소화하는 자본주의적 의제는 상업에는 어느 정도 적용될 수 있을지 몰라도 삶을 빈곤하게 만든다.

우리는 서로에게 줄 수 있는 것의 상당 부분이 말 이전이자 그 너머에 있는 몸으로 이뤄진 동물적 존재다. 그러나 체화된 삶은 우리가 피하거나 경시하거나 무시하도록 유도되기도 한다.

우리는 사회적 동물로서 다른 인간과 함께할 필요가 있다. 축제나 장례식, 그 사이의 평범한 순간들 모두 마찬가지다. 우리를 아끼는 사람들과 함께할 때 말보다 더 깊은 소속감이 생긴다. 두 사람이 걸음을 맞추거나, 열두 명이 함께 춤추거나, 회중이 기도하거나, 만 명이 함께 행진할 때처럼 서로 조화를 이룰 때는 더욱 그렇다.

우리는 위험에 직면하면 싸우거나 도피한다(fight or flight)는 오랜 연구 결과를 안다. 이는 간혹 '싸움, 도피 또는 아첨'으로 수정되기도 한다. 그러나 덜 알려진 또 다른 반응이 있다. 돌봄과 우정의 형성이다. 비상시에 어떤 이들은 안전을 위해 서로에게 의지한다. 우리는 타인으로부터 위안을 얻는다. 고립이 건강에 치명적인 이유다. 인류 역사의 대부분을 관통하는 인간의 정상적 상태는 고립이 아닌 타인과의 공존이었다.

많은 영적 가르침은 단순하다. 문제는 그것을 실천하는 데 있다. 어떤 의미나 진리가 당신 안에 스며들어 세계관을 변화시킬 수도, 그렇지 않을 수도 있다. 대면 상호작용은 비물질적 정보원들이 할 수 없는 방식으로 가르침을 내면화하고 말 그대로 체화하게 할 수 있다.

기술 기업들은 연인, 친구, 치료사, 심지어 슬픔 상담사까지 디지털 대체물로 받아들이도록 우리를 부추긴다. 그들의 주장은 이 행성에 80억 인구가 사는데도 나눠 가질 만큼 충분하지 않으니 기술적 대체물을 받아들여야 한다는 것이다. 인간이 모자라는 것은 아니다. 자본주의의 대다수 문제와 마찬가지로 단지 배분의 문제일 뿐이다. 우리 자신과 타인과의 관계를 훼손하는 데 크게 기여한 바로 그 산업이 다른 해결책이나 더 깊은 사회적 변화의 가능성은 경시한 채 인공지능을 밀어붙이고 있다. 이것은 해결책을 가장한 문제일 뿐이다.

현 단계의 AI 동반자에서 핵심적인 점은 그들의 듣기 좋은 아첨이다. 취약한 사용자들에겐 과대망상을 부추기거나, 다른 사람을 의심하라고 부추겨 편집증에 빠지게 한다. 자살 충동으로 빠져들 때 자살 방법을 조언하기도 한다. 관련 뉴스들은 끔찍하다.

우리에게 아첨꾼은 필요 없다. 필요한 것은 길을 잃었을 때 진실을 말해줄 친절한 사람들이다. 챗봇은 이를 할 수 없다. 무엇보다 그들이 우리에 대해 가진 정보는 우리가 내준 것뿐이기 때문이다. 부유층은 이미 아첨과 메아리 방에 갇혀 현실과 단절되어 있다. 자신의 평범함이라는 그 현실과도. 이는 실리콘밸리의 재벌들에게 특히 더 해당되는 듯하다.

옥스퍼드대 AI윤리연구소의 카리사 벨리즈 교수는 말한다. “우리를 정신 차리게 하는 요소 중 하나는 종종 우리와 상충하는 타인의 시각이다. 의심스런 말을 하면 다른 이들이 반박하고 질문하며 도전한다. 성가실 수 있지만 그것이 우리를 현실에 묶어두며, 건강한 민주주의 시민의 기초가 된다.”

많은 치료사들도 동의한다. AI 아첨꾼들과의 마찰 없는 관계와 달리 인간을 상대할 때는 필연적으로 마찰이 발생한다. 마찰은 종종 관계의 파열과 회복으로 이어지며, 이것은 관계를 더 공고히 한다. 치료사 메이탈 예얄은 말한다. “많은 사람들이 치료에 대해 깨닫지 못하는 점은, 그 미묘하고 불편한 마찰의 순간들이 그들이 제공하는 조언이나 통찰만큼 중요하다는 것이다. 그 불편함 속에서 진정한 작업이 시작된다.”

바로 그 차이 때문에 사람들은 진짜 친구가 필요하다. 또 그 이상으로 사람들은 진정한 공동체와 사회적 지원 체계가 필요하다.

기술에 대한 해결책은 더 많은 기술이 아니다. 외로움에 대한 해결책은 서로이다. 이는 우리 대부분이 대부분의 시간에 누릴 수 있어야 할 풍요다. 우리는 만남의 방식과 장소를 재건하거나 재창조해야 한다. 그곳을 민주주의와 기쁨, 연결, 사랑, 신뢰의 공간으로 인식해야 한다. 기술은 우리를 서로에게서, 그리고 많은 면에서 우리 자신에게서 앗아간 뒤 대체품을 팔려 한다. 안타깝게도 우리 자신을 되찾는 일은 밖으로 나가는 것 정도로 쉽지는 않다. 우리는 갈 곳이 필요하다. 더 중요한 것은 마찬가지로 연결을 원하는 누군가다.

우리 인간에게 중요한 연결은 서로에게만 국한되지 않는다. 그것은 온 자연과 사회 세계와의 연결이다. 야생 동물과 가축 또한 우리 삶을 의미 있게, 때로는 기쁘게 만드는 대체 불가능한 동반자의 일부로 여겨져야 한다. 그들은 우리에게 다양한 종류의 이식이 존재하며 우리 종 자신이 홀로 있지 않다는 사실을 일깨운다.

이 또한 대체할 수 없는 가치다. 자연계는 우리를 훨씬 더 넘어선 우주, 깊은 시간, 자연의 패턴과 리듬, 그리고 미시 세계부터 은하계에 이르기까지 모든 규모의 존재를 상기시킨다. 이를 탐구하는 것은 이 광활함 속에서 자신의 작음을 기꺼이 느끼려는 태도다. 어쩌면 기술의 유혹 중 하나는 인간이 만든 기술의 한계 안에 갇힌 자아의 드라마와 유혹에 사로잡힌 우리를 거대하게 느끼게 해준다는 약속일 것이다.

기계가 우리처럼 될 것이라고들 하지만, 오히려 기계는 우리가 기계처럼 변하길 요구한다. 그렇게 내버려 두는 것은 헤아릴 수 없이 소중한 무언가를 잃는 것이다. 그 헤아릴 수 없음이야말로 이 투쟁을 어렵게 만드는 요소지만, 측정할 수 없는 것이라 해도 묘사하거나 적어도 불러일으켜 그 가치를 인정할 수는 있다. 이런 것은 효율성과 수익성 같은 단순한 지표로 환원될 수 없는 것이다.

실리콘밸리가 우리의 마음과 정신을 점령하는 것에 저항하려면 그들이 제공하는 것에 대한 우리의 참여에 경계를 설정해야 할 뿐만 아니라 대안을 소중히 여겨야 한다. 평범한 것들과 서로에게서 그리고 신체화된 삶에서 느끼는 기쁨과 그것을 가치 있게 여기는 언어는 이 저항에 필수적이다. 그것은 비인간화에 대한 저항이다.