책 제목이 '인공지능이 할 수 있는 것, 할 수 없는 것'인 것에 대해
2024-04-17 16:57
전체공개
이 책이 다루고 있는 내용이 '전혀' 새로운 주제여서인지 '독후감'의 상당 부분이 책의 내용을 어떻게 이해하고 있는지를 요약하는 결과가 되어 버렸다. 여기 저기에서 '암초'가 많은 책이었다.
인공지능 혹은 AI의 대두가 현재 가장 주목받는 현상임은 부인할 수 없을 것 같다. '알라딘'에 'AI'라는 검색어와 '인공지능'이라는 검색어를 입력하면 각각 '국내도서(3,272)', 국내도서(3,207)'이라는 결과를 보여준다.
AI는 바둑을 사람보다 잘 두고, 컴퓨터 게임을 스스로 하더니, 이제는 사람들의 질문에 대답하고, 글/기사를 쓰고, 컴퓨터 프로그램을 작성하고, 상황을 설명하면 그에 맞는 사진과 동영상을 만들어 준다. 글로벌 기업들이 다들 AI를 구축하여 새로운 서비스를 제공한다고 나서고 있으며, 세계 각국의 유명한 연구기관에서는 앞으로 몇 년 후에 어떤 직업들을 AI가 대신할 것이라는 목록을 보여준다.
알라딘에서 검색한 책들은 'AI가 어떤 방식으로 작동하는지 혹은 얼마나 대단한 기술인지', '내가 하는 업무를 얼마나 잘 수행할 수 있는지', '어떻게 사용하는지 혹은 사용법을 배워서 무엇을 할 수 있는지' 등을 열심히 이야기하고 있다.
AI는 '사람만이' 할 수 있다고 생각했던 일을 '대신' 할 수 있는 놀라운 '기술'이면서 결국은 사람을 '대체'하게 될 무엇인 것으로 단순화된다. '기술'이기 때문에 시간이 지날 수록 개선될 것이고, '습득'하는 사람은 그렇지 않은 사람들에 대해 '경쟁 우위'를 지니게 되는 '도구'인 것이다. 즉, 빨리 '배워서' 활용해야 한다는 것이다.
물리학으로 학부와 석박사 학위를 받았고, 이후 인공지능 연구로 박사 학위를 다시 받은 후, 진짜 뇌를 연구하기 위해 뇌과학으로 방향을 바꿔서 연구를 계속해 온 저자가 '인공 지능이 할 수 있는 것, 할 수 없는 것'이라는 제목으로 책을 낸 이유는 무엇일까? 왜 '인공 지능이 바꿀 수 있는 것, 바꿀 수 없는 것'이라는 제목이 아니었을까?
저자는 인공지능을 '새로운 기술'의 하나로 보아서는 안되고, 새로운 '지능 패러다임'으로 보아야 한다고 설명해 나간다. '지능 패러다임'은 문제를 해결하는 접근법, 혹은 질문에 대한 답을 찾는 접근법을 말하는데, 인공지능은 이전과 전혀 다른 패러다임을 사용하고 있다는 것이다. 따라서 인공지능을 제대로 이해하기 위해서는 이것을 무엇과 비교할 것인지를 정하는 것이 우선해야 하는 주제이라고 말한다. '사람' 혹은 특정의 '기술'과 비교하는 것이 아니라 현재의 기술과 환경을 구성하는 '과학 패러다임'과 비교하고 있다.
이를 위해 이야기의 구성으로 '주요한 내용을 먼저 제시하고, 이어서 더 자세하고 깊이 있는 내용을 풀어나가는 전략'을 택하고 있다. 책의 얼개가 앞에서 언급된 내용을 참조하여 단계적으로 진행된다는 의미이며, 각 단계에서 저자의 '독특한' 주장이 제시되는 경우가 있으니, 꼼꼼하게 읽어 나가야 한다는 뜻이다.
현재의 기술 체계의 바탕이 되는 '과학 패러다임'은 주어진 관찰 데이터를 잘 묘사하는 간결하고 정확한 법칙을 찾아 내는 것, 그리고 그 법칙을 통해 우리가 예측 능력을 가지고 서로 동떨어져 보이는 여러 사건을 인과관계로 이어주는 것을 목적으로 하고 있다. 이 패러다임은 현재의 기술 문명을 가능하게 해 주었지만 간결한 법칙을 추구하는 과정에서 외부의 영향이 제거되어 있는 고립된 시스템을 연구하게 만들었으며, 환원주의를 추구하는 한계를 보이게 되었다.
이에 반하여, '인공지능 패러다임'은 작은 이론이나 법칙에서 출발하는 환원주의적 논리를 따르지 않는다. 인간이 상상할 수 없는 대량의 데이터를 처리하면서 무지를 개선하거나 확률값들을 최적화해 나가는 과정을 거쳐서 우리가 던지는 질문에 답을 하게 되며, 어떤 내부적 논리 구조나 인과적인 관계를 제공하지 않는다.
저자는 'AI 시대는 확률론의 시대다. 진화론의 시대다. 그 철학이 같기 때문이다'라고 정리한다. AI에서 과학적 가설의 제출과 검증 과정은 최적화 과정으로 대체되는데, 그 과정이 생명체의 진화 과정, 시장의 수요공급 조절과 유사성을 가지고 있다. 즉, AI가 등장하기 이전에도, 인간 지능은 이미 문자 지식 지능과는 달리 최적화를 통해 문제를 해결하는 패러다임을 포함하고 있다는 것이다.
단, 인공지능이 해결하려는 문제의 차원이 많아질수록 난이도는 기하급수적으로 증가하기 때문에 '인공지능 패러다임'이 쓸모있는 도구가 되기 위해서는 데이터와 학습기계의 최적화뿐만 아니라 게임 혹은 전체 시스템의 설계도 포함되어야 한다.
저자는 5장. AI 시대에서 도구를 사용할 수 있는 도구인 AI를 사용하는 인간은 이전과는 다른 인간, '사이보그 2'가 될 것이며, 이를 위해 제3의 지식을 가르치는 교육이 시민의 권리이자 의무가 되(혹은 될 것이)고, 각자가 '확률적 태로'를 가지고 공부하고 있으면 '목적'이 그를 찾아오는 세계가 오고 있(올 것이)다고 말한다. 세상이 최적화를 하고 있으며, AI는 보통 사람들을 해방시킬 잠재력을 가진 기술이다. 그 사회에서 종교의 시대에는 영적인 존재로, 과학의 시대에는 이성적인 존재로 여겨졌던 인간이 AI 시대에는 제3의 지식을 가진 존재로 여겨지게 될 것이며, 점점 더 많은 사람들이 해방된 존재로서 창의적인 일을 하면서 자기를 표현하게 될 것이라고 선언하고 있다.
인공지능을 인간이 문제를 해결하는 패러다임의 맥락에서 새롭게 해석해야 하며, 그것이 현재의 주된 과학 패러다임과 근본적인 차이가 있다는 설명만으로도 이 책은 충분한 가치를 가지고 있다고 생각한다. 그리고, 다양한 현상, 데이터에서 '패러다임의 변화'라는 새로운 시각을 도출하는 '메타 사고'가 저자가 설명하는 제3의 지식에 해당되지 않을까 생각된다. 오래전 사회과학을 공부하면서 느꼈던 '정량적 방법'과 '정성적 방법' 사이의 괴리(정량적 방법이 논문을 작성하기에는 상대적으로 용이하다고 생각했었다), 십수년 전 '신경망 모델'과 '몬테카를로 알고리즘'을 통해 수요를 예측하는 프로젝트 수행자들을 바라보면서 느꼈던 '막막함'이 이제 조금 설명이 되는 것 같다. (이해하는 것은 아니다.)
책을 읽으면서 계속해서 궁금했지만 언급되지 않은 내용이 있다. 이 글의 앞 부분에도 언급하였는데, 책 제목이 '인공 지능이 바꿀 수 있는 것, 바꿀 수 없는 것'이었으면 어떤 내용이 추가되었을까? 라는 의문이다.
'인공지능 패러다임'을 이야기하면서 저자는 지능적 혹은 합리적 판단을 하기 위해서, 우리가 어떤 규칙, 어떤 경계 안에서 움직이고 있는지에 대해 끝없이 생각할 필요가 있다고 하였다. 또, 우리는 환경을 잊은 채 지능을 논해서는 안 되며, 이것은 AI의 위험성과도 연관된다고 하였다.
실제 우리가 살아가는 세상, 세계는 각각의 인간이 가진 복잡한 욕망이 투사되고, 다양한 집단의 이해관계가 충돌하고, 권력과 자원이 불균등하게 배분되어서 갈등과 투쟁이 지속적으로 생겨나는 곳이다. 인공지능을 활용하는 제3의 지식이 모두에게 균등하게 제공되지는 않을 것이고, '도구를 사용하는 도구'로 무장한 개인과 집단, 기업은 현 사회의 모순을 더 강화할 수 있는 수단을 가지게 될 수도 있을 것이다. 그리고, 더 '평평해진' 세상에서 결정적 수단의 보유 여부가 가져오는 차이는 더 커지게 될 것이다. 그리고 이 새로운 도구를 악용하는 과정에서 발생하는 위험의 규모와 범위도 이전과 비교할 수 없이 커질 것이다.
저자 역시 자신의 블로그 여기저기에서 이 주제에 대해 언급하고 있다. (블로그, 나를 지키는 공간https://irepublic.tistory.com/) 즉, 저자는 그 문제를 중요한 것으로 생각하고 있지만, 단지 이 책에서는 다루지 않고 있을 뿐이다.
AI 문명은 다시 한번 식민지 시대를 만들 수 있다. 그리고 그런 일이 일어난다면 그 이유는 AI 문명이라는 것을 한쪽은 이해하는데 다른 쪽은 이해하지 못하기 때문이다. 회사가 자신의 문제를 해결하기 위해 만든 AI를 사용하는 소비자는 AI를 사용하는게 아니다. _ 저자의 블로그, '근대화와 AI 그리고 식민지' 중
인공지능이 인간의 지능을 확장하기 위한 것이며, 인간의 얼굴을 한 인공지능이 기본적으로 얼굴 없는 기업을 위한 것이라는 두 가지 사실을 합치면 우리는 두려운 결론에 이르게 된다. 그것은 인간의 얼굴을 한 인공지능을 만드는 것이 인공지능의 목표라고 생각하는 현실은 기업만 똑똑하게 만들어서 소비자인 개인들을 무력하게 만드는 미래를 위한 것이라는 결론이다. _ 저자의 블로그, '소비자의 AI 기업의 AI' 중
저자는 진화의 예를 들면서 'AI 패러다임'에 따라 세상이 적합한 방향으로 수렴해 나갈 것으로 이야기한다. 그러나, '평형상태'는 초기 조건, 촉매 등에 따라 다수가 존재할 수 있다고 한다. 처음 잘못된 경로를 취하게 되면 의도하지 않았던 평형상태에 머물게 될 수도 있다는 것이다.
'인공지능이 바꿀 수 있는 것, 바꿀 수 없는 것'에 대한 논의를 통해 '환경'과 '규칙'을 이해하고 수정할 방향을 찾는 것이 누군가의 다음 과제가 되었으면 한다.
댓글
책에서 이야기하는 지능과 관련한 인류역사의 패러다임 흐름이 이해하기 어려웠는데, 자장가님이 족집게처럼 정리해 주셔서 감사합니다. 말씀처럼 챕터별로 내용이 분류되어있지 않고 앞전의 내용을 기본지식 삼아 더해지는 구조라, 혼자서 역부족인 부분에 다른 분의 도움을 받아 공부할 수 있어서 좋습니다.