요즘 많은 일들이 요동치지만 그중에서도 AI가 태풍의 눈처럼 많은 것들(돈, 인력, 에너지, 자원, 사람들 관심과 걱정까지)을 빨아들이는 것 같다. 기술 기업 내부에서도 동요하는 사람들이 적잖은 모양이다.
얼마 전 오픈 AI의 연구원이 회사의 경영 방침에 실망하고 분노하며 퇴사하며 글을 언론에 기고하기 전, 경쟁사인 앤트로픽의 안전 문제 전문 연구원(Mrinank Sharma)이 얼마 전 퇴사하며 동료들에게 남긴 편지도 트위터를 통해 공개됐다. 공유하고 싶은 내용이어서 여기에도 옮긴다.
얼마 전 오픈 AI의 연구원이 회사의 경영 방침에 실망하고 분노하며 퇴사하며 글을 언론에 기고하기 전, 경쟁사인 앤트로픽의 안전 문제 전문 연구원(Mrinank Sharma)이 얼마 전 퇴사하며 동료들에게 남긴 편지도 트위터를 통해 공개됐다. 공유하고 싶은 내용이어서 여기에도 옮긴다.
(전문 번역. 아래 영문도 첨부)
친애하는 동료 여러분,
저는 Anthropic을 떠나기로 결정했습니다. 마지막 근무일은 2월 9일입니다.
감사합니다. 이곳에는 저를 영감으로 채워준 것들이 너무나 많습니다. 몇 가지를 꼽자면: 어려운 상황 속에서도 진심으로 임하고자 하는 열망과 의지, 영향력 있고 높은 도덕성을 지닌 방식으로 기여하려는 열망; 어려운 결정을 내리고 옳은 것을 위해 나설 용기; 상상을 초월하는 지적 탁월함과 결단력; 그리고 물론, 우리의 문화에 가득한 상당한 친절함입니다.
저는 여기서 이루려 했던 목표를 달성했습니다. 박사 학위를 마치고 인공지능 안전에 기여하고자 2년 전 샌프란시스코에 왔습니다. 여기서 이룬 일들에 기여할 수 있어 행운이라고 생각합니다: 인공지능 아첨 현상과 그 원인에 대한 이해, 인공지능 지원 생물 테러 위험을 줄이기 위한 방어 체계 개발, 그 방어 체계의 실제 운영 구현, 그리고 최초의 인공지능 안전 사례 연구 하나를 작성한 것 등이 있습니다. 특히 최근 내부 투명성 메커니즘을 통해 우리의 가치를 실천하도록 돕는 노력과, 인공지능 보조 시스템이 어떻게 우리를 비인간화하거나 인간성을 왜곡할 수 있는지 이해하는 최종 프로젝트를 자랑스럽게 생각합니다. 여러분의 신뢰에 감사드립니다.
그럼에도 이제는 떠날 때가 왔음을 분명히 깨닫습니다. 저는 끊임없이 우리의 처지를 직시하게 됩니다. 세상은 위기에 처해 있습니다. 인공지능이나 생물무기뿐만이 아니라, 바로 지금 펼쳐지고 있는 일련의 상호 연결된 위기들 말입니다. 우리의 지혜가 세상을 변화시키는 능력만큼 성장하지 않으면 그 결과에 직면해야 할 임계점에 다다른 듯합니다. 뿐만 아니라 이곳에서 근무하는 동안, 진정으로 우리의 가치관이 행동을 이끌도록 하는 것이 얼마나 어려운지 반복적으로 목격했습니다. 제 자신 안에서는 물론, 가장 중요한 것을 제쳐두라는 압박에 끊임없이 직면하는 조직 안에서, 그리고 더 넓은 사회 전반에서도 마찬가지였습니다.
이런 상황을 안고서 최선을 다해 귀 기울여 봤을 때 제가 해야 할 일은 분명해집니다. 저는 저의 진정성에 완전히 부합하는 방식으로 기여하고, 저의 고유성을 더 많이 발휘할 수 있는 길을 찾으려 합니다. 데이비드 와이트가 ‘사라질 권리가 없는’ 질문들이라고 했고, 릴케가 우리에게 “살아내라”고 촉구했던 질문들, 제게 진정으로 필수적인 질문들을 탐구하고 싶습니다. 저에게 이것이 떠남을 의미합니다.
다음에 무엇이 올지, 저는 알지 못합니다. 선(禪)의 명언 “모르는 것이 가장 친밀하다”를 애틋하게 생각합니다. 지난 몇 년간 저를 옭아매던 구조들을 내려놓고, 그 부재 속에서 무엇이 나타날지 지켜볼 공간을 만들고자 합니다. 저는 우리가 처한 현실을 직시하고 깊이 관여하는 글쓰기에 부름을 느낍니다. 시적 진실과 과학적 진실을 동등하게 유효한 인식의 방식으로 나란히 놓는 글쓰기 말입니다. 저는 이 둘 모두 신기술 개발에 있어 본질적으로 기여할 바가 있다고 믿습니다.
시학 학위를 탐구하고 용기 있는 발언의 실천에 헌신하고자 합니다. 어떤 일을 지원하고, 지도하고, 공동체를 구축하고, 함께 하는 작업의 실천을 심화할 생각에 마음이 벅차옵니다. 어떤 일이 펼쳐질지 함께 지켜보지요.
감사합니다, 그리고 작별을 고합니다. 이곳에서 많은 것을 배웠고 여러분께 최고의 행운을 빕니다. 제가 가장 좋아하는 시 중 하나인 윌리엄 스태퍼드의 <있는 그대로>를 남기며 이별을 고합니다.
행운을 빕니다,
Mrinank
있는 그대로
윌리엄 스태퍼드
당신이 따라가는 실이 있습니다. 그것은
변하는 것들 사이로 이어집니다. 그러나 그것은 변하지 않습니다.
사람들은 당신이 무엇을 추구하는지 궁금해합니다.
그 실에 대해 설명해야 합니다.
하지만 다른 사람들은 보기 어렵습니다.
그 실을 잡고 있는 한 길을 잃지 않습니다.
비극이 일어나고, 사람들은 다치거나
죽기도 하며, 당신은 고통받고 늙어갑니다.
시간의 흐름을 막을 수 있는 일은 아무것도 없습니다.
I've decided to leave Anthropic. My last day will be February 9th.
Thank you. There is so much here that inspires and has inspired me. To name some of those things: a sincere desire and drive to show up in such a challenging situation, and aspire to contribute in an impactful and high-integrity way; a willingness to make difficult decisions and stand for what is good; an unreasonable amount of intellectual brilliance and determination; and, of course, the considerable kindness that pervades our culture.
I've achieved what I wanted to here. I arrived in San Francisco two years ago, having wrapped up my PhD and wanting to contribute to Al safety. I feel lucky to have been able to contribute to what I have here: understanding Al sycophancy and its causes; developing defences to reduce risks from Al-assisted bioterrorism; actually putting those defences into production; and writing one of the first Al safety cases. I'm especially proud of my recent efforts to help us live our values via internal transparency mechanisms; and also my final project on understanding how Al assistants could make us less human or distort our humanity. Thank you for your trust.
Nevertheless, it is clear to me that the time has come to move on. I continuously find myself reckoning with our situation. The world is in peril. And not just from Al, or bioweapons, but from a whole series of interconnected crises unfolding in this very moment.' We appear to be approaching a threshold where our wisdom must grow in equal measure to our capacity to affect the world, lest we face the consequences. Moreover, throughout my time here, I've repeatedly seen how hard it is to truly let our values govern our actions. I've seen this within myself, within the organization, where we constantly face pressures to set aside what matters most, and throughout broader society too.
It is through holding this situation and listening as best I can that what I must do becomes clear.' I want to contribute in away that feels fully in my integrity, and that allows me to bring to bear more of my particularities. I want to explore the questions that feel truly essential to me, the questions that David Whyte would say "have no right to go away", the questions that Rilke implores us to "live". For me, this means leaving.
What comes next, I do not know. I think fondly of the famous Zen quote "not knowing is most intimate". My intention is to create space to set aside the structures that have held me these past years, and see what might emerge in their absence. I feel called to writing that addresses and engages fully with the place we find ourselves, and that places poetic truth alongside scientific truth as equally valid ways of knowing, both of which I believe have something essential to contribute when developing new technology.* I hope to explore a poetry degree and devote myself to the practice of courageous speech. I am also excited to deepen my practice of facilitation, coaching, community building, and group work. We shall se what unfolds.
Thank you, and goodbye. I've learnt so much from being here and I wish you the best. I'll leave you with one of my favourite poems, The Way It Is by William Stafford.
Good Luck,
Mrinank
The Way It Is
There's a thread you follow. It goes among
things that change. But it doesn't change.
People wonder about what you are pursuing.
You have to explain about the thread.
But it is hard for others to see.
While you hold it you can't get lost.
Tragedies happen; people get hurt
or die; and you suffer and get old.
Nothing you do can stop time's unfolding.
You don't ever let go of the thread.
William Stafford