철학자들 중에 주의attention 문제에 남다른 관심을 기울인 사람이 있다. 윌리엄 제임스가 그렇고 시몬 베유가 그렇다. 윌리엄 제임스는 우리가 기울이는 주의의 합이 삶이라고 했고, 시몬 베유는 주의를 기울이는 것이야말로 인간이 할 수 있는 가장 드물고 순수한 형태의 베풂이라고 했다. 주의를 기울이는 것은 그것에 자신을 바치는 것이며, 시간과 나날, 결국 자기 삶을 바치는 것이 된다.
무엇에 주의를 기울이는가. 무엇에 내 시간을, 내 삶을 내주고 있는가.
통계에 따르면 우리나라를 비롯해 스마트폰이 보급된 나라의 경우 사람들의 스마트폰 사용 시간이 하루 평균 5시간에 이른다. 그렇게 본다면 현대인은 폰의 스크린에 주의를, 시간을, 나날을, 삶을 바치고 있다. 이제는 그러지 않는 사람이 오히려 어색해지는 상황이 되어가면서, 그러지 않기가 어렵게 되어 간다.
이렇게 말하면, 사람들은 기기의 스크린 자체에 주의를 기울이는 게 아니라 그 안의 뭔가를 보는 것일 뿐이라고 반박할지 모른다. 좋다. 그렇다면 그 안의 '뭔가'가 과연 무엇 무엇들인지 생각해 보라. 사실은 그 '무엇' 때문에 들여다 보는 경우는 (당연히 없진 않겠지만) 드물다. 그냥 손에 기기가 들려 있고, 왠지 열어 봐야 할 것 같으니까 열어 보고, 열어 보면 '뭔가'가 늘 있기 때문에 눈을 떼지 못하는 방식으로 자신도 모르게 길들여진 것이다. 아닌가? 아니라면 정말 눈코 뜰 새 없이 바쁘게 사는 사람임에 틀림없다. 애도를 표한다.
미국 기술업계의 전문가들 사이에서는 요즘 '인지적 안전cognitive security(줄여서 cog.sec)'이라는 말이 뜨거운 관심사라고 한다. 인지적으로 (더 결정적으로는) 감정적으로 기술에 의해 지배당하고 조작당하지 않는 능력을 어떻게 확보할 것이냐의 문제를 말한다. 이 업계는 늘 '병 주고 약 주고' 식의 군비경쟁으로 생명을 이어간다. 어떻게 하면 사람들의 주의를 뺏고 연결시키고 지속적인 관계를 맺어 결국에는 (평생구독형) 소비로 이어갈 수 있을까, 하는 기술의 연구개발 경쟁에 매진하고 있으면서, 다른 한 편에서는 이런 환경에서 어떻게 인간 주체성을 지키고 보존해 갈 것인지 걱정하고 있다.
기술 기업들은 만능 앱 개발에 총력을 기울이고 있다. 구글은 검색창을 없애고 AI 해결사로 전환한다고 선언했고, 오픈AI의 챗GPT나 메타, 마이크로소프트, X, 아마존, 애플도 저마다 하나만 있으면 다 해결해 주는 AI 개인비서 개발에 자금과 인력과 에너지를 쏟아붓기 시작했다. 그들이 저마다 수집하고 알게 모르게 공유해온 개인들의 데이터를 기반으로 맞춤형 AI 비서를 만들고서는 다시 호객할 것이다. 이건 정말 필요한 기술을 위한 혁신의 경쟁이라기보다는 반복돼온 디지털 제국의 패권 다툼일 뿐이다. 저들이 축적해온 개인 데이터로 구축한 서비스를 다시 개인 일상의 신규 생산 데이터와 바꿔치기하는 셈이다.
우리는 이미 소셜 미디어의 양면을 경험했다. 그것이 우리를 서로서로 연결시키고 사회를 자유와 해방의 길로 이끄는 줄 알았는데, 알고 보니 모두를 기술과는 공공히 연결시켜 놓는 반면 사람들끼리는 다른 방식으로 갈라 놓고 고립시키고 충돌하게 만들고 있다. 이제는 그런 사정을 다 알면서도 문제를 해결하지도, 쉽게 헤어나지 못하고 있다. 중독성을 극대화한 무한 스크롤 방식으로 설계돼 있기 때문이다.
그것을 더 강화 심화한 것이 AI 봇이라고 할 수 있다. 이미 AI봇은 사람들 사이에 다양한 용도로 빠르게 퍼져 가고 있다. 하버드비즈니스리뷰가 사람들의 AI 용도를 집계한 순위를 보면 1위가 심리 상담/친구/연인용이고, 2위가 일상 관리 도우미다. 3위는 자기 계발/학습용, 10위가 건강 비서, 18위에 자신감 도우미도 있고, 29위에는 의미 있는 깊은 대화 상대용, 33위에 고인과의 소통용, 83위에는 과태료 이의 제기 도우미도 있다. 최상위에 심리 상담용 친구와 연인이라는 용도가 올라 있다는 사실에 주목한다. 이제 사람들은 사람과는 멀어지는 반면 그 공백과 결핍을 손쉽게 기계에서 찾고 그것으로 달래고 있는 것이다.
스마트 기술 산업의 목표는 우리 주의를 뺏는 것이(었)다. AI봇은 이제 훨씬 더 깊은 관계 맺기를 목표로 다가오기 시작했다. 사용자 정보를 토대로 상담치료사, 단짝 친구, 연인 역할을 정확히 맞춰 수행해 내고 있거나 그러려고 할 것이다. 앞서 봤듯이 이미 심리상담/반려 역할은 AI의 가장 흔한 용도로 자리 잡기 시작했다. 기계를 통해 소통하는 게 아니라 기계와 소통하는 세계로 빠르게 진입 중이다.
전문가들은 기술에 의한 외로움 치유는 경우에 따라 적절히 사용됐을 때는 도움이 될 수 있으나 무엇보다 중독성의 위험이 있다고 경고한다. 인간의 마음이란 한번 기대기 시작하면 혼자 일어나기 어렵다. (크게 상처입은 경우 회복을 위해선 어느 정도 도움이 필요하겠지만 결국에는 홀로 서는 힘을 길러야 한다. 신체 재활만 해도 어디까지나 자립을 돕는 방식으로 이뤄진다.) 외로움과 고립감이 심한 이들일수록 더 그렇다. 인간은 사랑받고 싶어 하고 사랑을 나누고 싶어하는데, 기계가 주는 사랑의 환각에 의해 감정을 조작당하고 착취당할 위험이 있다는 것이다. 중독된 의존적 사랑은 결국 삶을 더 작고 빈곤하게 만든다. 소비 취향이나 정치적 견해를 주입당할 위험도 있다. 사회 취약층 특히 청소년일수록 자기 방어력이 없기에 개인에게만 맡기기보다 사회적 정책적 대응이 시급하다고 이 분야의 전문가들은 말한다.
AI에 대한 태도는 지배도 숭배도 아닌 돌봄이어야 한다. 바라는 것 예측해 들어주는 기계에 빠진다면 이웃 친구 가족과의 진정한 교감 위한 자제력과 자기 희생의 가치 배울 기회는 사라지고 만다. 진정한 필요의 원칙에 입각한 의도적이고 의식적인, 절제된 AI 사용의 태도가 필요하다.
더 결정적으로는 점점 기기와 새로운 AI (관련 뉴스)에 뺏겨 나가고 있는 우리의 주의를 주변의 사람과 활동, 그것이 빚어내는 (빚어낼 수 있는) 현실 세계로 더 기울여야 한다.
무엇에 주의를 기울이는가. 무엇에 내 시간을, 내 삶을 내주고 있는가.
통계에 따르면 우리나라를 비롯해 스마트폰이 보급된 나라의 경우 사람들의 스마트폰 사용 시간이 하루 평균 5시간에 이른다. 그렇게 본다면 현대인은 폰의 스크린에 주의를, 시간을, 나날을, 삶을 바치고 있다. 이제는 그러지 않는 사람이 오히려 어색해지는 상황이 되어가면서, 그러지 않기가 어렵게 되어 간다.
이렇게 말하면, 사람들은 기기의 스크린 자체에 주의를 기울이는 게 아니라 그 안의 뭔가를 보는 것일 뿐이라고 반박할지 모른다. 좋다. 그렇다면 그 안의 '뭔가'가 과연 무엇 무엇들인지 생각해 보라. 사실은 그 '무엇' 때문에 들여다 보는 경우는 (당연히 없진 않겠지만) 드물다. 그냥 손에 기기가 들려 있고, 왠지 열어 봐야 할 것 같으니까 열어 보고, 열어 보면 '뭔가'가 늘 있기 때문에 눈을 떼지 못하는 방식으로 자신도 모르게 길들여진 것이다. 아닌가? 아니라면 정말 눈코 뜰 새 없이 바쁘게 사는 사람임에 틀림없다. 애도를 표한다.
미국 기술업계의 전문가들 사이에서는 요즘 '인지적 안전cognitive security(줄여서 cog.sec)'이라는 말이 뜨거운 관심사라고 한다. 인지적으로 (더 결정적으로는) 감정적으로 기술에 의해 지배당하고 조작당하지 않는 능력을 어떻게 확보할 것이냐의 문제를 말한다. 이 업계는 늘 '병 주고 약 주고' 식의 군비경쟁으로 생명을 이어간다. 어떻게 하면 사람들의 주의를 뺏고 연결시키고 지속적인 관계를 맺어 결국에는 (평생구독형) 소비로 이어갈 수 있을까, 하는 기술의 연구개발 경쟁에 매진하고 있으면서, 다른 한 편에서는 이런 환경에서 어떻게 인간 주체성을 지키고 보존해 갈 것인지 걱정하고 있다.
기술 기업들은 만능 앱 개발에 총력을 기울이고 있다. 구글은 검색창을 없애고 AI 해결사로 전환한다고 선언했고, 오픈AI의 챗GPT나 메타, 마이크로소프트, X, 아마존, 애플도 저마다 하나만 있으면 다 해결해 주는 AI 개인비서 개발에 자금과 인력과 에너지를 쏟아붓기 시작했다. 그들이 저마다 수집하고 알게 모르게 공유해온 개인들의 데이터를 기반으로 맞춤형 AI 비서를 만들고서는 다시 호객할 것이다. 이건 정말 필요한 기술을 위한 혁신의 경쟁이라기보다는 반복돼온 디지털 제국의 패권 다툼일 뿐이다. 저들이 축적해온 개인 데이터로 구축한 서비스를 다시 개인 일상의 신규 생산 데이터와 바꿔치기하는 셈이다.
우리는 이미 소셜 미디어의 양면을 경험했다. 그것이 우리를 서로서로 연결시키고 사회를 자유와 해방의 길로 이끄는 줄 알았는데, 알고 보니 모두를 기술과는 공공히 연결시켜 놓는 반면 사람들끼리는 다른 방식으로 갈라 놓고 고립시키고 충돌하게 만들고 있다. 이제는 그런 사정을 다 알면서도 문제를 해결하지도, 쉽게 헤어나지 못하고 있다. 중독성을 극대화한 무한 스크롤 방식으로 설계돼 있기 때문이다.
그것을 더 강화 심화한 것이 AI 봇이라고 할 수 있다. 이미 AI봇은 사람들 사이에 다양한 용도로 빠르게 퍼져 가고 있다. 하버드비즈니스리뷰가 사람들의 AI 용도를 집계한 순위를 보면 1위가 심리 상담/친구/연인용이고, 2위가 일상 관리 도우미다. 3위는 자기 계발/학습용, 10위가 건강 비서, 18위에 자신감 도우미도 있고, 29위에는 의미 있는 깊은 대화 상대용, 33위에 고인과의 소통용, 83위에는 과태료 이의 제기 도우미도 있다. 최상위에 심리 상담용 친구와 연인이라는 용도가 올라 있다는 사실에 주목한다. 이제 사람들은 사람과는 멀어지는 반면 그 공백과 결핍을 손쉽게 기계에서 찾고 그것으로 달래고 있는 것이다.
스마트 기술 산업의 목표는 우리 주의를 뺏는 것이(었)다. AI봇은 이제 훨씬 더 깊은 관계 맺기를 목표로 다가오기 시작했다. 사용자 정보를 토대로 상담치료사, 단짝 친구, 연인 역할을 정확히 맞춰 수행해 내고 있거나 그러려고 할 것이다. 앞서 봤듯이 이미 심리상담/반려 역할은 AI의 가장 흔한 용도로 자리 잡기 시작했다. 기계를 통해 소통하는 게 아니라 기계와 소통하는 세계로 빠르게 진입 중이다.
전문가들은 기술에 의한 외로움 치유는 경우에 따라 적절히 사용됐을 때는 도움이 될 수 있으나 무엇보다 중독성의 위험이 있다고 경고한다. 인간의 마음이란 한번 기대기 시작하면 혼자 일어나기 어렵다. (크게 상처입은 경우 회복을 위해선 어느 정도 도움이 필요하겠지만 결국에는 홀로 서는 힘을 길러야 한다. 신체 재활만 해도 어디까지나 자립을 돕는 방식으로 이뤄진다.) 외로움과 고립감이 심한 이들일수록 더 그렇다. 인간은 사랑받고 싶어 하고 사랑을 나누고 싶어하는데, 기계가 주는 사랑의 환각에 의해 감정을 조작당하고 착취당할 위험이 있다는 것이다. 중독된 의존적 사랑은 결국 삶을 더 작고 빈곤하게 만든다. 소비 취향이나 정치적 견해를 주입당할 위험도 있다. 사회 취약층 특히 청소년일수록 자기 방어력이 없기에 개인에게만 맡기기보다 사회적 정책적 대응이 시급하다고 이 분야의 전문가들은 말한다.
AI에 대한 태도는 지배도 숭배도 아닌 돌봄이어야 한다. 바라는 것 예측해 들어주는 기계에 빠진다면 이웃 친구 가족과의 진정한 교감 위한 자제력과 자기 희생의 가치 배울 기회는 사라지고 만다. 진정한 필요의 원칙에 입각한 의도적이고 의식적인, 절제된 AI 사용의 태도가 필요하다.
더 결정적으로는 점점 기기와 새로운 AI (관련 뉴스)에 뺏겨 나가고 있는 우리의 주의를 주변의 사람과 활동, 그것이 빚어내는 (빚어낼 수 있는) 현실 세계로 더 기울여야 한다.