선택하고 책임져야 할 자리에는 여전히 인간이 앉아 있어야 한다.

인공지능에 대한 두려움이 막연하게 있어 왔는데, 그 실체를 들여다 볼 수 있는 계기가 될 것이라는 생각으로 이 책을 들었다. 고백하자면 어려웠고, 아직 다 읽지 못했습니다. 아들에게 읽고 이야기를 나누며 이해도를 높이자고 제안했으나 실행하지 못하고 독후감 제출일이 다가 왔습니다. 읽은 만큼에 대한 간략한 독후감을 올리고 독서모임 전까지 다 읽고 참석 하겠습니다. 

'문자라고 하는 기호주의 인공지능은 기계학습이라는 컴퓨터 활용으로 데이터를 연산하여 알파고, 챗GPT, 최근에는 요구사항에 따른 영상물들까지 놀라운 발전을 하게 되었고 이는 인간이 할 수 있는 일을 모두 인공지능이 하게 될지 모른다는 불안을 가져왔다. 

정답을 찾는 방식의 환원주의 기반의 과학과 다르게 기계 학습은 확률이다. 떨어진 쿼리에 대한 확률이 놓은 답변은 다분하게 오차를 만들어 낼 수 밖에 없다. 계산능력의 한계 등 미래는 예측 불가능한 카오스 이다. 그럼에도 불구하고 제3의 지식인 AI를 적극 활용해야 한다. 그리고 직관, 판단이라는 인간의 중요 역할을 지속적으로 그 의미를 갖는다.'

그럼에도 불구하고 사람들은 데이터에 기반해서 다음 데이터를 예측한다. 과거의 일들이 기반해서 미래를 예측하고 이제까지 만난 사람들을 생각하면서 다음에 만날 사람도 이리저리하리라 예측한다. 그리고 이런 예측을 믿는다. 데이터가 보증을 해준다고 믿기 때문이다. 그래서 예측이 빗나가면, 앞서 본 칠면조처럼 깜짝 놀란다. 바로 그런 일들이 '블랙 스완'이다.  
p.78

'블랙스완'이 나타났을 떄, 선택하고 책임져야 할 자리에는 여전히 인간이 앉아 있어야 한다. 설사 그 옆에 AI가 있더라도 말이다. 
p.81