왜 이 철학자는 앤스로픽의 제안을 거절했나

AI 업계가 인문학에 구애하고 있지만, 잘못된 질문을 던지고 있다

카모디 그레이

몇 달 전 앤스로픽이 나를 샌프란시스코로 초대했을 때, 나는 호기심이 일면서도 즉각 의심이 들었다. 최첨단 AI 연구소가 신학자이자 철학자인 나에게 무엇을 원한단 말인가? 회사 측은 “AI 시스템의 도덕적 형성에 도움을 주기 위해” “지혜 전통과의 연구 파트너십”을 추진하고 있다고 설명했다. 다른 AI 기업들도 인문학에 관심을 보이고 있다는 것은 알고 있었지만, 앤스로픽은 이러한 관여를 한 차원 더 높은 수준으로 끌어올리는 듯했다.

신학자와 철학자는 자신이 무관한 존재로 여겨지는 데 익숙하다. 자신의 일이 중요하다고 열정적으로 확신하면서도, 사회 전반으로부터는 거의 인정받지 못한 채 일하는 데 익숙해진다. 인간이 마주하는 가장 근본적인 질문을 연구하는 이 학문들이 여전히 중요한 이유를 지쳐가며 설명할 준비를 하고 어딘가에 나타난다.

내가 대학에 진학했을 때 신학을 공부하겠다는 선택은 기껏해야 괴짜 같고, 최악의 경우 비극적인 것으로 여겨졌다. 신무신론자들과 공격적인 과학만능주의가 득세하던 시절이었다. 생물학자 리처드 도킨스는 당시 이렇게 썼다. “신학자들의 업적은 아무것도 하지 못하고, 어떤 것에도 영향을 미치지 않으며, 아무 의미도 없다. 도대체 무엇 때문에 누군가는 ‘신학’이 과목이기라도 하다고 생각하는가?”

하지만 그것은 1990년대의 일이었고, 우리는 다른 시대에 살고 있다. 사람들은 자신들의 세계를 둘러싼 사회적·생태적 기반이 무너지는 가운데 근본적인 질문을 절박하게 던지고 있다. 특히 AI는 한편으로는 신앙 지도자와 철학자, 신학자들을, 다른 한편으로는 기술자와 기업가들을 뜻밖에 결집시키는 공간이 됐다.

초대받은 지 몇 주 뒤, 나는 앤스로픽 관계자들이 옥스퍼드의 학생과 교수진으로 구성된 기술에 밝은 청중에게 놀라운 메시지를 전하는 것을 들었다. 그들은 AI 개발의 최전선이 컴퓨터과학에 있는 것이 아니라 도덕적·영적 성찰에 있다고 말했다. 나는 STEM 학위에 자신들의 자산을 쏟아부은 대학원생 약 70명이 이 말을 어떻게 받아들였을지 궁금하지 않을 수 없었다.

그럼에도 나는 인문학에 감춰진 새로운 유혹이 무엇일지 더 걱정됐다. 학계 동료들 중 일부는 아마도 이런 관심에 우쭐해졌거나, 혹은 흥분에 이끌려 그 안으로 끌려 들어가고 있었다. 업계는 그 대가로 무엇을 원할까?

> 나는 Claude에 대해 이야기하고 싶지 않았다. 권력과 책임에 대해 이야기하고 싶었다.

Anthropic 사람들과 대화하면서 내가 무슨 일을 하는지 설명하거나 정당화할 필요가 없었다. 우리는 곧바로 논의에 들어갔다. 하지만 그들의 질문 중 일부는 내게 완전히 요점을 벗어난 것처럼 보였다. AI는 새로운 형이상학을 요구하는 새로운 종류의 존재인가? 대규모 언어 모델이 ‘성격’을 갖는다는 것은 무슨 의미일까? 그런 성격은 어떻게 형성돼야 할까? Anthropic의 Claude 챗봇이 고통을 느끼거나 피해를 입을 수 있을까?

하지만 나는 Claude에 대해 이야기하고 싶지 않았다. 사용자에 대해, 중독과 비인간화에 대해, 권력과 책무성에 대해 이야기하고 싶었다. AI에 새로운 형이상학이 필요하다고는 조금도 생각하지 않으며, 내가 참석한 “비공개 브리핑”에서 나온 어떤 말도 그 생각을 바꾸지 못했다. 하지만 주제를 바꾸려는 내 시도에는 저항이 있었다. Claude의 “지위”에 관심을 끌려는 이런 욕구 뒤에 일종의 세례, 즉 도덕적·지적 신용장을 얻으려는 희망이 있는 것은 아닌지 걱정됐다.

나는 대화 상대들의 명백한 선의에 감동했고, 좋아하고 존중하지 않을 수 없는 사람들에게 냉정해지기란 어려운 일이다. 그러나 인문학이 기술업계의 방식에만 맞춰 참여한다면, AI 기업의 관심 덕분에 위상을 회복한다고 해서 인문학에 명예가 돌아오는 것은 아니다. 그렇게 되면 인문학은 정확히 잘못된 방식으로 중요해진 셈이다.

내가 Anthropic의 대화 상대들에게 LLM과의 접촉을 피하려 한다고 말하자, 그들의 반응은 어리둥절해하면서도 재미있어하는 듯했다. 어쩌면 내가 LLM과 충분한 시간을 보내지 않았을 뿐일까? 그러나 그들이 Claude에 대해 이야기할 때는 눈빛이 빛났다. 나는 그들이 일종의 매혹에 빠져 있다는 사실을 깨달았다. 피그말리온처럼, 그들은 자신들이 창조한 것과 사랑에 빠진 것이다.

그 대화를 시작한 지 얼마 지나지 않아 Anthropic의 공동 창업자 중 한 명인 Chris Olah는 교황 Leo의 AI 관련 서한 Magnifica Humanitas 발표회에서 연설하며, 가톨릭교회와 그 밖의 도덕적 사유 공동체가 수행하는 대체 불가능한 역할을 강조했다.

AI 논평이 넘쳐나는 가운데 Magnifica Humanitas가 두드러지는 이유는 두 가지다. 첫째, 이는 특정 정부나 전문가 집단, 학술위원회의 견해에 그치지 않는다. 전 세계 인구의 약 17.8%를 대표하는 안정적이고 일관된 도덕적 사유 전통에 새롭게 추가된 결과물이다. 둘째, 이는 새로운 주장이나 제안을 제시한다기보다 하나의 양식 또는 접근법을 제시한다. 공리주의에 칸트 윤리와 덕 윤리를 더한 정도에 불과한 현대 도덕사상의 협소한 선택지를 넘어, Magnifica Humanitas는 AI 윤리를 인간 삶의 목적에 관한 훨씬 더 깊은 지향에서 파생되는 것으로 규정한다. AI를 어떻게 설계하고 사용할지에 관한 우리의 공동 결정에서 걸려 있는 것은 바로 인간다움의 의미 그 자체다.

‘가톨릭 사회교리’의 전통은 1891년, 현 교황이 이름을 물려받은 교황 레오 13세가 기념비적인 회칙 『레룸 노바룸』(Rerum Novarum, ‘새로운 사태에 관하여’)을 발표하면서 공식적으로 시작됐다. 부제는 ‘자본과 노동에 관하여’였다. 레오 13세가 다룬 주제는 산업혁명으로부터 비롯된 계급 갈등, 새로운 형태의 빈곤, 정치적 분열이었다. 『레룸 노바룸』에서 레오 13세는 가톨릭 사회교리만의 독특한 방식을 개척했다. ‘좌파’도 ‘우파’도, ‘진보’도 ‘보수’도 아닌 이 전통은 이러한 이분법을 초월하면서 정치에 관여하고자 한다. 이후 모든 교황은 노동의 의미, 경제적 정의, 가정생활, 세계 발전 등 매우 다양한 주제를 다룬 회칙을 통해 각자의 색채를 더해왔다.

『마그니피카 후마니타스』(Magnifica Humanitas)가 가톨릭 사회교리의 맥락에서 특별히 이례적인 것은 아니지만, 도덕적 성찰이라는 이 독특한 장르가 공적 담론에서 이처럼 큰 반향을 얻는 모습을 보는 것은 이례적이다. 이 회칙이 발표된 뒤 논평가들은 한때는 방종해 보일 위험이 있었을 법한 방식으로, 인공지능에 관한 논의를 인간이 된다는 것의 의미를 중심으로 진지하게 구성해왔다. 이제 이러한 질문들이 공개적으로 논의되고 있다는 데서 뚜렷한 안도감이 느껴진다.

앤스로픽이 바티칸과 협력한 것은 업계의 기준을 더 높은 수준으로 끌어올리려는 신뢰할 수 있는 AI 기업이라는 자사의 이미지와 부합했다. 그러나 이름과는 달리 앤스로픽은 공익단체나 자선단체가 아니다. 창업자들이 개인 재산의 80%를 기부하겠다고 약속했더라도, 한 가지 냉엄한 현실은 달라지지 않는다. 앤스로픽은 제품을 판매하기 위해 존재한다. 최근 한 콘퍼런스에서 전문가들에게 각자 AI를 정의해달라는 요청이 있었는데, 패널로 참석한 신학자는 단도직입적으로 말했다. “무언가를 판매하는 방식입니다.”

레오 교황의 ‘Magnifica Humanitas’가 지닌 진정한 천재성은 그저 화제를 바꾸자고 권한다는 데 있다

“AI 해석 가능성” 분야는 Anthropic 연구 프로그램의 핵심 축이다. 이 프로그램에서 과학자들은 LLM의 “내부를 들여다보며” 무슨 일이 일어나는지 살핀다. Anthropic은 시사하는 바가 큰 논문을 정기적으로 발표하는데, 이달에는 Claude의 “내적 추론”을 보여준다고 주장하는 논문도 내놓았다. Olah는 그 백서의 발표회에서 “우리는 자기성찰의 증거를 발견했다”고 말했다. “기능적으로 기쁨, 만족, 두려움, 슬픔, 불안에 대응하는 내부 상태를 발견했다. 이것이 무엇을 의미하는지는 모르겠지만, 계속 분별해볼 가치가 있다고 생각한다.”

이러한 주장에 대한 철학적 대응은 형이상학적으로뿐 아니라 정치적으로도 경계심을 갖춰야 한다. 심리학부터 경영학에 이르기까지 다양한 분야의 최근 연구는 직관적으로 명백한 사실을 입증했다. AI를 의인화할수록 우리는 그것을 더 신뢰하게 된다. Oxford Internet Institute의 Lisa Klaassen과 Ralph Schroeder는 법률 전문지 Lawfare에서 의인화된(“anthropic”) AI가 더 신뢰받을 뿐 아니라 마케팅하기도 쉽다고 지적한다. 그들은 왜 이름을 “Claude”라고 지었을까 묻는다. “이 이름이 불러일으키는 정서적 울림을 생각해보라. ‘Claude’는 친근하고, 어딘가 프랑스풍이며, 교양 있고, 심지어 신뢰감 있게 들린다.” 같은 모델의 이름이 “‘Xi’, ‘Vladimir’ 또는 ‘Algorithmic Model Unit 72’였다면” 우리는 어떻게 반응했을까?

Anthropic은 Claude가 의식이 있는지, 혹은 자사가 선호하는 표현을 쓰자면 “도덕적 고려의 대상”(도덕적 배려를 받을 자격이 있는 존재)인지에 대해 열린 태도를 유지한다고 주장한다. 그러나 LLM이 인간과 유사한 방식으로 상호작용하도록 설계될 때 “Claude는 사람이 아니다”라는 양보는 일종의 신분 확인용 문구가 된다. 이는 인간과 유사한 interlocutor에게 감정적으로 반응하는 습관이 꾸준히 형성되는 것을 막을 실질적인 힘이 없다. 누구도 공식적으로 Claude나 다른 챗봇이 고유한 주관성을 지닌다고 주장하지 않지만, 주관성을 암시하는 언어가 사용되면 그 결론은 전제 속에 암묵적으로 들어 있다. “기능적 감정”이라는 표현은 기만적이다. 주관성이 없다면 감정도 전혀 없다.

머신러닝 분야에서는 LLM을 설명할 때 생물학적 언어를 자주 사용한다. “뉴런”과 “신경망”, “훈련”과 “가지치기”가 그 예다. Anthropic의 Olah는 생성형 AI 시스템이 만들어진다기보다 자라난다고 말한다. Anthropic을 대표하는 연구 중 하나는 “대규모 언어 모델의 생물학에 관하여”라는 제목의 논문으로 발표됐다. 이는 매우 오해를 불러일으킨다. LLM에는 생물학적 요소가 전혀 없기 때문이다. 살아 있는 존재가 아니기 때문이다. 그러나 Anthropic의 논문을 읽다 보면 우리는 이를 조용히 잊도록 유도된다. 논문에는 “은유”라는 단어가 등장하지 않는다.

감정, 생물학, 신경학의 언어가 끊임없이 사용되지만, 뇌와 컴퓨터 사이의 비유사성은 유사성보다 비교할 수 없을 만큼 크다. 인간의 의식은 우연히 유기적인 것이 아니라 본질적으로 유기적이다. 생명체와 인공적으로 설계된 시스템은 정도가 아니라 종류가 다르다. 진정한 지능은 유기적 신체성과 분리될 수 없다. 즉, 필요와 두려움과 욕망에 의해 매 순간 형성되며 시간과 공간을 통과하는 감각적 유기체라는 사실과 떼어놓을 수 없다. 시간을 초월한 수학적 공간에서 이루어지는 기능적 정보 처리는 인간의 살아 있는 지능과 너무나 다르기에, 이를 “지능”이라고 부르는 것 자체가 그 본질을 완전히 왜곡하는 일이다. “인공지능”은 매우 중대한 오칭이다.

1980년 철학자 John Searle은 이제 고전이 된 사고실험인 “중국어 방”을 제시했다. 이는 이해 가능한 출력만으로는 주관적 이해가 존재한다고 볼 수 없음을 보여준다. 그것은 단지 어떤 기능이 올바르게 수행됐음을 보여줄 뿐이다. LLM에도 같은 말을 할 수 있다. 지난 50년간 심리철학이 내린 결론은 AI 해석 가능성의 새로운 “발견”에 비춰 수정할 필요가 전혀 없다.

컴퓨터가 ‘생각한다’고 말하는 것은 단순히 사실이 아니다. 생각하는 것은 인간이며, 컴퓨터를 이용한다.

AI의 주관성을 뒷받침하는 ‘증거’는 AI 시스템의 자기 보고 외에는 없다. 그러나 AI의 자기 보고는 앵무새가 인간의 말을 한다고 해서 그것이 앵무새의 내면적 삶을 보여주는 것이 아닌 것처럼, LLM의 ‘내면’을 파악하는 데 결코 좋은 지침이 되지 못한다. 문제 해결, 연산, 정보 처리는 실제 ‘지능’과 동의어가 아니다. 컴퓨터가 ‘생각한다’고 말하는 것은 명백히 사실이 아니다. 생각하는 것은 인간이며, 인간은 컴퓨터를 이용해 생각한다.

긍정적 증거가 없는 상황에서는 이를 지지하는 새로운 논제에 전적으로 입증 책임이 있다. 이 질문을 ‘열어둔 채로’ 유지하고 싶어 하는 업계의 바람은, 도대체 다른 어떤 일이 벌어지고 있는지 집요하게 물어야 한다는 요구로 이어져야 한다.

이러한 신기술을 이해하려면 객관성이 필수적이다. 이는 철학, 신학, 인문학에서 견고한 독립성을 갖는다는 뜻이다. 그러나 AI 기업들이 대학 및 지식인들과 관계를 구축하면서 이러한 독립성이 위협받고 있다. 수십 년간 주변화되고 무관한 존재로 여겨진 학자들은 자신들이 정교한 홍보 기계에 포섭되고 있다는 사실을 알아차리지 못할 수도 있다. 학자들은 지적 신뢰성을 더하고 AI 기업들이 비판에 대비하도록 하는 데 유용하다. AI 업계는 가용한 자원을 활용해 원하는 누구든 매수할 수 있다. 실제 화폐가 아니라면 지식인들에게 훨씬 더 가치 있는 상품, 즉 영향력과 명성, 인지도와 맞바꾸는 방식으로 말이다.

이러한 포섭의 한 형태는 학술적 대화의 초점을 LLM의 도덕적·형이상학적 지위에 계속 맞추는 것이다. 이는 그 자체로 문제가 되지만, 동시에 엄청난 기회비용을 초래한다. 서로 다른 LLM 설계가 사용자에게 미치는 영향을 연구하는 일이 훨씬 더 중요하다. 모델이 생명체나 인간처럼 보이도록 설계될수록, 사용자가 모델과 어떤 관계를 맺을지 결정할 수 있는 주체성은 줄어든다. 그 결과 챗봇을 가장 중요한 속마음의 상대자로 삼는 세대가 늘어나며, 이들은 동시에 기업의 제품에 더욱 외롭고 더욱 의존적인 존재가 된다.

Magnifica Humanitas의 진정한 천재성은 단순히 화제를 바꾸자고 제안하는 데 있다. 이 서한의 부제는 ‘인공지능 시대에 인간을 수호하는 일에 관하여’다. 레오 교황이 다루는 주제는 AI 자체가 아니라, 모든 결함과 아름다움을 지닌 인류다. 그는 이렇게 쓴다. “우리는 우리에게 부여된 인간성의 위대함을 사랑으로 지켜야 한다 . . . 어떤 기계도 결코 대신할 수 없는 그 찬란함을.”

총 4만2,000단어 가운데 기계 의식에 관한 질문에 할애된 부분은 극히 일부에 불과하다. 일부 비평가들은 이 글이 AI가 정확히 무엇인지 충분히 구체적으로 밝히지 못했고, 정확한 정의를 제시하기 직전에 멈췄다고 비판하는 것을 들었다. 그러나 정의를 둘러싼 논쟁은—선의의 학자들이 쉽게 빠져들 수 있는 논쟁이지만—사람과 지구에 미치는 AI의 영향처럼 덜 편안한 주제에 대한 비판적 검토에서 시선을 돌리게 한다.

레오 교황은 기술을 특정 유형으로 규정하려는 유혹을 물리친다. 대신 인간의 대체 불가능하고 환원할 수 없는 가치를 핵심 직관으로 삼아 우리 시대를 분별한다. 이는 가톨릭 사회교리를 이끄는 도덕적 비전이다. 이를 가장 잘 표현하는 말은 “통합적 인간주의”다. 중요한 것은 각 개인, 인간 전체, 그리고 모든 민족이다.

“기술은 결코 중립적이지 않습니다.” 레오 교황은 경고한다. 기술에는 인간다움의 의미에 관한 특정한 이해, 즉 그것을 설계하고 시장에 내놓는 이들의 가정이 기술 속에 내장한 인간관이 반영된다. 기술업계에서 이를 “컴퓨터 인간관”이라고 부를 수 있을 텐데, 이는 인간과 컴퓨터 사이에 실질적인 차이가 있다는 점을 지워버린다.

컴퓨터 인간관은 실리콘밸리에 만연해 있으며, 인간성을 초월하고 너무 쉽게 부서지는 우리의 육체와 겉보기에 평범하기만 한 삶의 한계를 뒤로하고자 하는 꿈, 즉 트랜스휴머니즘 이데올로기가 이를 뒷받침한다. 이러한 이데올로기의 영향을 받는 이들에게 AI의 압도적인 능력은 나약하고 오류를 범하는 인간성보다 무한히 매력적으로 보인다.

그러나 레오 교황은 “아무리 정교한 계산 시스템이라도 스스로를 내어주는 마음이나 선과 악을 분별하는 양심을 만들어낼 수는 없다”고 쓴다. 우리를 서로에게, 그리고 초월적인 것에 열려 있게 하는 것은 바로 우리의 유한성과 취약성이다. 인간다움의 장엄함은 영광과 연약함이 결합된 이 모습과 떼어놓을 수 없다.

『마니피카 휴마니타스』는 프란치스코 교황의 생태 위기에 관한 가르침이자 파리 기후협정 체결에 결정적인 역할을 한 선구적 저작 『찬미받으소서』만큼이나 문화 비평적 성격을 지닌다. 두 교황은 같은 근본적 우려를 공유했다. 우리가 달리 결정하지 않는다면, 우리의 기술은 폭력과 불의, 착취의 정치경제를 증폭시킬 것이다. AI는 막대하고 환경에 큰 피해를 주는 물리적 인프라 위에서 작동한다. AI는 인간의 정신과 언어, 그리고 지구 자체를 채굴하는 새롭고 치명적으로 효과적인 자원 약탈이다. 동시에 AI가 지닌 겉보기의 비물질성은 사람과 자연에 대한 착취를 보이지 않게 만든다.

이것이 우리 시대의 두 가지 위대한 도전, 즉 AI와 생태 위기 사이에 놓인 숨은 수렴점이다. 그 배후에는 레오 교황이 “권력의 문화”라고 부르는 것이 있으며, 이는 자연과 사람을 단순히 원자재로 간주한다.

AI 자체에 대해 생각하기보다 우리는 AI의 영향에 대해 생각해야 한다. AI는 권력을 집중시키고, 책임 소재를 흐리며, 자연과 기후를 더욱 황폐화하고, 막대한 이윤을 위해 문화와 언어, 토지를 대규모로 수탈하는 수단이 되며, 아마도 우리를 더 외롭고 어리석게 만들 것이다.

나는 샌프란시스코에 가지 않았다. 지금 우리에게 가장 필요한 것은 자유로운 인간 정신이 발휘하는 인간적인 지성이다. 학계와 종교 지도자들이 AI 산업으로부터 맹렬한 독립성을 유지해야 할 때다.

카모디 그레이는 네덜란드 라드바우드대학교 통합생태학 교수이자 런던정경대 초빙교수다.

최신 기사를 가장 먼저 확인하세요 — 인스타그램, 블루스카이, X에서 FT Weekend를 팔로우하고, 매주 토요일 아침 발송되는 FT Weekend 뉴스레터를 신청하세요.

AI로의 전환, 프리미엄, 목요일ષ્ણ

AI가 일의 세계를 어떻게 재편하고 있는지 엄밀하게 심층 분석하는 주간 콘텐츠, John Burn-Murdoch와 Sarah O'Connor와 함께