왜 이 철학자는 앤트로픽의 제안을 거절했나

AI 업계는 인문학에 구애하고 있지만, 잘못된 질문을 던지고 있다

카모디 그레이

몇 달 전 앤스로픽이 나를 샌프란시스코로 초청했을 때, 나는 호기심이 일면서도 즉각 의심이 들었다. 최첨단 AI 연구소가 신학자이자 철학자인 나에게 무엇을 원한단 말인가? 회사 측은 “AI 시스템의 도덕적 형성에 도움을 주기 위해” “지혜 전통과의 연구 파트너십”을 추진하고 있다고 설명했다. 다른 AI 기업들도 인문학에 관심을 보이고 있다는 것은 알고 있었지만, 앤스로픽은 이런 협력을 한 단계 더 발전시키려는 듯했다.

신학자와 철학자는 자신들이 무관한 존재로 여겨지는 데 익숙하다. 자신의 일이 중요하다고 열정적으로 확신하면서도 사회 전반에서는 거의 인정받지 못한 채 일하는 데 익숙해진다. 인간이 직면한 가장 근본적인 질문을 연구하는 이 학문들이 여전히 중요한 이유를 지친 듯 설명할 준비를 하고 여러 장소에 나타난다.

내가 대학에 진학했을 때 신학을 공부하겠다는 선택은 기껏해야 별난 일, 최악의 경우 비극적인 일로 여겨졌다. 신무신론자들과 공격적인 과학만능주의의 시대였다. 생물학자 리처드 도킨스는 당시 이렇게 썼다. “신학자들의 업적은 아무것도 하지 못하고, 아무것에도 영향을 미치지 않으며, 아무 의미도 없다. 대체 무엇 때문에 누군가는 ‘신학’이 과목이라고 생각하는가?”

하지만 그것은 1990년대의 일이었고, 우리는 지금 다른 시대를 살고 있다. 세계의 사회적·생태적 기반이 눈앞에서 무너지는 가운데 사람들은 근본적인 질문을 절박하게 던지고 있다. 특히 AI는 한편으로는 종교 지도자와 철학자, 신학자들이, 다른 한편으로는 기술자와 기업가들이 뜻밖에 만나는 공간이 됐다.

초대받은 지 몇 주 뒤, 나는 앤스로픽 관계자들이 옥스퍼드의 기술 지향적인 학생과 교수들에게 뜻밖의 메시지를 전하는 것을 들었다. 그들은 AI 개발의 최전선이 컴퓨터과학에 있는 것이 아니라 도덕적·영적 성찰에 있다고 말했다. 자신의 자산을 STEM 자격 취득에 쏟아부은 대학원생 약 70명이 이 말을 어떻게 받아들였을지 궁금하지 않을 수 없었다.

그럼에도 나는 이곳에 인문학을 위한 어떤 새로운 유혹이 숨어 있을지 더 걱정됐다. 일부 학계 동료들은 관심을 받는 데 우쭐해졌거나, 어쩌면 그 흥분에 이끌려 이 분야에 빠져들고 있었다. 업계는 그 대가로 무엇을 원할까?

나는 Claude에 대해 이야기하고 싶지 않았다. 권력과 책임에 대해 이야기하고 싶었다.

Anthropic 사람들과 대화하면서 나는 내가 하는 일을 설명하거나 정당화할 필요가 없었다. 우리는 곧바로 논의에 들어갔다. 하지만 그들이 던진 질문 중 일부는 내게 완전히 핵심에서 벗어난 것처럼 보였다. AI는 새로운 형이상학을 요구하는 새로운 종류의 존재인가? 대규모 언어 모델이 ‘성격’을 갖는다는 것은 무엇을 의미하는가? 그 성격은 어떻게 형성되어야 하는가? Anthropic의 Claude 챗봇도 고통을 느끼거나 해를 입을 수 있는가?

하지만 나는 Claude에 대해 이야기하고 싶지 않았다. 내가 이야기하고 싶었던 것은 사용자, 중독과 비인간화, 권력과 책임이었다. 나는 AI에 새로운 형이상학이 필요하다고 한순간도 생각하지 않으며, 내가 참석한 ‘독점 브리핑’에서 나온 어떤 말도 그 생각을 바꾸게 하지 못했다. 하지만 주제를 바꾸려는 내 시도에는 저항이 있었다. Claude의 ‘지위’에 관심을 끌어오려는 이러한 바람의 이면에는 일종의 세례, 즉 도덕적·지적 신용장을 얻으려는 희망이 있는 것이 아닐까 하는 우려가 들었다.

대화 상대들의 명백한 선의에 감동했고, 좋아하고 존중하지 않을 수 없는 사람들에게 엄격해지기는 어려운 법이다. 그러나 인문학이 오로지 기술업계의 조건에 맞춰 참여함으로써 AI 기업들의 관심을 통해 위상을 회복한다면, 그것은 인문학의 명예가 아니다. 그렇게 되면 인문학은 정확히 잘못된 방식으로 중요해진 셈이다.

내가 Anthropic의 대화 상대들에게 LLM과의 접촉을 피하려 한다고 말하자, 그들은 의아해하며 반응했다. 어쩌면 내가 LLM과 충분한 시간을 보내지 않았을 뿐일까? 하지만 그들이 Claude에 대해 이야기할 때는 눈빛이 빛났다. 나는 그들이 일종의 마법에 홀려 있다는 사실을 깨달았다. 피그말리온처럼, 그들은 자신이 창조한 존재와 사랑에 빠진 것이다.

그 대화를 시작한 지 얼마 지나지 않아 Anthropic의 공동 창업자 중 한 명인 Chris Olah는 교황 레오의 AI 관련 서한 Magnifica Humanitas 발표 행사에서 연설하며, 가톨릭교회와 그 밖의 도덕적 사유 공동체들이 수행하는 대체 불가능한 역할을 강조했다.

AI 논평이 넘쳐나는 가운데 Magnifica Humanitas가 두드러지는 이유는 두 가지다. 첫째, 이는 어느 정부나 전문가 집단, 학술위원회의 견해에 그치지 않는다. 세계 인구의 약 17.8%를 대표하는 안정적이고 일관된 도덕적 사유 전통에 새롭게 추가된 결과물이다. 둘째, 이 문서는 새로운 주장이나 제안을 제시한다기보다 하나의 방식 또는 접근법을 제시한다. 칸트 윤리와 덕 윤리를 추가한 공리주의라는 현대 도덕 사상의 협소한 선택지를 넘어, Magnifica Humanitas는 AI 윤리를 인간 삶의 목적에 관한 훨씬 더 근본적인 지향에서 파생되는 것으로 규정한다. AI를 어떻게 설계하고 사용할지에 관한 우리의 공동 결정에서 걸려 있는 것은 바로 우리 인간성의 의미 그 자체다.

‘가톨릭 사회교리’의 전통은 1891년, 현 교황과 이름이 같은 교황 레오 13세가 기념비적인 서한 「레룸 노바룸(Rerum Novarum)」, 즉 ‘새로운 것들에 관하여’를 집필하면서 공식적으로 시작됐다. 부제는 ‘자본과 노동에 관하여’였다. 그가 다룬 주제는 산업혁명에서 비롯된 계급 갈등, 새로운 형태의 빈곤, 정치적 분열이었다. 「레룸 노바룸」에서 레오 13세는 가톨릭 사회교리만의 독특한 방식을 열었다. ‘좌파’도 ‘우파’도, ‘진보적’도 ‘보수적’도 아닌 이 교리는 이러한 이분법을 초월하면서도 정치적으로 관여하고자 한다. 이후 모든 교황은 노동의 의미, 경제의 정의, 가족생활, 글로벌 발전처럼 매우 다양한 주제를 다룬 회칙을 통해 각자의 색채를 더해왔다.

「마그니피카 후마니타스(Magnifica Humanitas)」가 가톨릭 사회교리의 맥락에서 특별히 이례적인 것은 아니지만, 도덕적 성찰이라는 독특한 장르가 공적 담론에서 이처럼 큰 공명을 얻는 모습을 보는 것은 이례적이다. 이 회칙이 발표된 뒤 논평가들은 한때는 방종해 보일 위험이 있었을 방식으로, 인공지능에 관한 논의를 인간다움의 의미를 중심으로 진지하게 구성해왔다. 이제 이런 질문들이 공개적으로 논의되고 있다는 데서 palpable한 안도감이 느껴진다.

앤스로픽이 바티칸과 협력한 것으로 보이는 것은 업계를 더 높은 기준으로 이끌고자 하는 신뢰할 수 있는 AI 기업이라는 스스로의 이미지와 부합했다. 하지만 이름과 달리 이 회사는 공익단체나 자선단체가 아니다. 창업자들이 개인 재산의 80%를 기부하겠다고 약속했지만, 한 가지 냉혹한 현실은 달라지지 않는다. 앤스로픽은 제품을 판매하기 위해 존재한다. 최근 한 콘퍼런스에서 전문가들에게 각자 AI의 정의를 말해달라는 요청이 있었는데, 패널로 참석한 신학자는 단도직입적으로 이렇게 말했다. “무언가를 판매하는 방식입니다.”

교황 레오의 ‘Magnifica Humanitas’가 지닌 진정한 천재성은 그저 화제를 바꾸자고 권한다는 데 있다.

“AI 해석 가능성” 분야는 Anthropic의 연구 프로그램에서 핵심적인 부분으로, 과학자들은 LLM 내부를 “들여다보며” 무슨 일이 일어나고 있는지 살핀다. 이 회사는 매우 시사적인 논문을 정기적으로 발표하는데, 이달에는 Claude의 “내부 추론”을 보여준다고 주장하는 논문도 내놓았다. Olah는 그 선언문 발표 행사에서 “우리는 자기성찰의 증거를 발견했습니다. 기쁨, 만족, 두려움, 슬픔, 불안에 기능적으로 대응하는 내부 상태를 확인했습니다. 이것이 무엇을 의미하는지는 모르겠지만, 지속적인 분별이 필요하다고 생각합니다”라고 말했다.

이러한 주장에 대한 철학적 대응은 형이상학적으로뿐 아니라 정치적으로도 기민해야 한다. 심리학부터 경영학에 이르는 다양한 분야의 최근 연구는 직관적으로 명백한 사실을 입증했다. AI를 의인화할수록 우리는 그것을 더 신뢰하게 된다는 것이다. Oxford Internet Institute의 Lisa Klaassen과 Ralph Schroeder는 법률 저널 Lawfare에서 의인화된(“anthropic”) AI가 더 신뢰하기 쉬울 뿐 아니라 시장에 내놓기도 쉽다고 지적한다. 왜 이름을 “Claude”라고 지었을까, 그들은 묻는다. “그 이름이 불러일으키는 정서적 울림을 생각해보라. ‘Claude’는 친근하고, 어딘가 프랑스풍이며, 교양 있고, 심지어 신뢰할 만하게 들린다.” 같은 모델의 이름이 “‘Xi’, ‘Vladimir’ 또는 ‘Algorithmic Model Unit 72’였다면” 우리는 어떻게 반응했을까?

Anthropic은 Claude가 의식이 있는지, 혹은 회사가 선호하는 표현을 빌리면 “도덕적 환자”(도덕적 고려의 대상이 될 자격이 있는 존재)인지에 대해 열린 자세를 유지한다고 주장한다. 그러나 LLM이 인간과 유사한 방식으로 상호작용하도록 설계될 때 “Claude는 사람이 아니다”라는 양보는 하나의 구별 표지가 된다. 이는 인간과 유사한 대화 상대에게 정서적으로 반응하는 습관이 꾸준히 형성되는 것을 막을 실질적인 힘이 없다. 누구도 공식적으로 Claude나 다른 챗봇이 자체적인 주관성을 지닌다고 주장하지 않지만, 주관성을 암시하는 언어가 사용되면 그 결론은 전제 속에 암묵적으로 들어 있다. “기능적 감정”이라는 표현은 기만적이다. 주관성이 없다면 감정도 전혀 없다.

머신러닝 분야에서는 LLM을 설명할 때 생물학적 언어를 자주 사용한다. “뉴런”과 “신경망”, “훈련”과 “가지치기”가 그 예다. Anthropic의 Olah는 생성형 AI 시스템이 만들어진다기보다 성장한다고 말한다. Anthropic의 대표적인 연구 중 하나는 “대규모 언어 모델의 생물학에 관하여”라는 제목의 논문으로 발표됐다. 이는 매우 오해를 불러일으킨다. LLM에는 생물학이 전혀 없기 때문이다. LLM은 살아 있지 않다. 그러나 Anthropic의 논문을 읽다 보면 독자는 이 사실을 조용히 잊도록 유도된다. 논문에는 “은유”라는 단어가 등장하지 않는다.

감정, 생물학, 신경학의 언어가 끊임없이 사용되고 있지만, 뇌와 컴퓨터 사이의 비유사성은 유사성보다 비교할 수 없을 만큼 크다. 인간의 의식은 부수적으로 유기적인 것이 아니라 본질적으로 유기적이다. 살아 있는 체계와 공학적으로 설계된 체계는 정도가 아니라 종류가 다르다. 진정한 지능은 유기적 신체성과 분리될 수 없다. 즉, 매 순간 자신의 필요와 두려움, 욕망에 의해 형성되며 시공간을 통과하는 감각 있는 유기체와 분리될 수 없다. 시간성이 배제된 수학적 공간에서 이루어지는 기능적 정보 처리는 인간의 살아 있는 지능과 너무나 달라서, 이를 아예 “지능”이라고 부르는 것 자체가 그 본질을 완전히 왜곡하는 일이다. “인공지능”은 매우 중대한 오명이다.

1980년 철학자 John Searle은 이제 고전이 된 사고실험인 “중국어 방”을 제시해, 이해 가능한 출력만으로는 주관적 이해가 존재한다고 볼 수 없음을 보여줬다. 그것은 단지 어떤 기능이 올바르게 수행됐음을 보여줄 뿐이다. LLM에도 같은 말을 할 수 있다. 지난 50년간 심리철학이 내린 결론 가운데 AI 해석 가능성의 새로운 “발견”을 고려해 수정해야 할 것은 아무것도 없다.

컴퓨터가 ‘생각한다’고 말하는 것은 그저 사실이 아니다. 인간이 생각하고, 컴퓨터를 사용하는 것이다.

AI의 주관성에 대한 ‘증거’는 AI 시스템의 자기 보고 외에는 없다. 그러나 AI의 자기 보고는 앵무새가 인간의 말을 한다고 해서 그것이 앵무새의 내면적 삶을 보여주는 것이 아닌 것처럼, LLM의 ‘내면’을 이해하는 데 결코 유용한 지침이 될 수 없다. 문제 해결, 계산, 정보 처리가 실제 ‘지능’과 동등한 것도 아니다. 컴퓨터가 ‘생각한다’고 말하는 것은 명백히 사실이 아니다. 생각하는 것은 인간이며, 인간은 컴퓨터를 사용해 생각한다.

긍정적 증거가 부족한 상황에서는 이를 지지하는 새로운 논제가 전적으로 입증 책임을 져야 한다. ‘질문을 열어두고 싶다’는 업계의 바람은 그 이면에서 무슨 일이 더 벌어지고 있는지 집요하게 물어야 한다는 요구로 이어져야 한다.

이러한 신기술을 이해하려면 객관성이 필수적이다. 이는 철학, 신학, 인문학에서 견고한 독립성을 갖추는 것을 뜻한다. 그러나 AI 기업들이 대학 및 지식인들과 관계를 맺으면서 이러한 독립성이 위협받고 있다. 수십 년간 주변화되고 무관한 존재로 여겨진 학자들은 자신들이 정교한 홍보 기계에 포섭되고 있다는 사실을 알아차리지 못할 수도 있다. 학자들은 지적 신뢰성을 더하고 AI 기업이 비판에 대비하도록 만드는 데 유용하다. AI 업계는 가용한 자원을 활용해 원하는 사람은 누구든 매수할 수 있다. 실제 화폐가 아니더라도 지식인들에게는 훨씬 더 가치 있는 상품, 즉 영향력과 명성, 인정으로 말이다.

이러한 포섭의 한 형태는 학계의 논의가 LLM의 도덕적·형이상학적 지위에 계속 초점을 맞추도록 하는 것이다. 이는 그 자체로 문제이지만, 동시에 엄청난 기회비용을 초래한다. 서로 다른 LLM 설계가 사용자에게 미치는 영향을 연구하는 것이 훨씬 더 중요하다. 모델이 살아 있는 존재나 사람처럼 보이도록 설계될수록, 사용자가 그들과 어떤 관계를 맺을지 결정할 수 있는 주체성은 줄어든다. 그 결과 챗봇을 가장 중요한 속마음의 벗으로 삼는 세대가 늘어나며, 이들은 동시에 기업의 제품에 더욱 외롭고 더욱 의존적인 사람이 된다.

Magnifica Humanitas의 진정한 천재성은 단순히 화제를 바꾸자는 초대에 있다. 이 서한의 부제는 ‘인공지능 시대에 인간을 지키는 일에 관하여’이다. 레오 교황이 다루는 주제는 AI 자체가 아니라, 모든 상처와 아름다움을 지닌 인류다. 그는 이렇게 쓴다. “우리는 우리에게 부여된 인간성의 위대함을 사랑으로 지켜야 한다 . . . 어떠한 기계도 결코 대신할 수 없는 그 찬란함을 말이다.”

총 4만2,000단어 가운데 기계 의식의 문제에 할애된 부분은 극히 일부에 불과하다. 일부 비평가들은 AI가 정확히 무엇인지에 대해 충분히 구체적으로 밝히지 않고, 정확한 정의를 제시하기 직전에서 멈췄다는 이유로 이 글을 비판하는 것을 들었다. 그러나 선의의 학자들이 쉽게 끌려 들어갈 수 있는 정의에 관한 논쟁은 AI가 사람과 지구에 미치는 영향처럼 덜 편안한 주제들을 비판적으로 검토하는 데서 시선을 돌리게 한다.

교황 레오는 기술을 특정 유형으로 규정하려는 유혹을 물리친다. 대신 인간이라는 존재의 대체 불가능하고 환원할 수 없는 가치를 중심 직관으로 삼아 우리가 처한 시대를 분별한다. 이것이 가톨릭 사회교리를 이끄는 도덕적 비전이다. 이를 가장 잘 표현하는 말은 “통합적 인간주의”다. 중요한 것은 각 개인과 인간 전체, 그리고 모든 민족이다.

“기술은 결코 중립적이지 않다”고 교황 레오는 경고한다. 기술은 인간성의 의미에 대한 어떤 이해, 즉 그것을 설계하고 시장에 내놓는 이들의 가정이 기술 속에 심어놓은 인간관을 조성한다. 기술 업계에서는 이를 “컴퓨터 인류학”이라고 부를 수 있는데, 이는 인간과 컴퓨터 사이의 실질적인 차이를 흐린다.

컴퓨터 인류학은 트랜스휴머니즘이라는 이데올로기가 뒷받침하는 실리콘밸리에 만연해 있다. 이는 인간성을 초월하고, 너무나 부서지기 쉬운 우리의 육체와 겉보기에 평범하기만 한 삶의 한계를 뒤로하고자 하는 꿈이다. 이러한 이데올로기의 영향을 받는 이들에게 AI는 그 막강한 힘으로 인해 약하고 오류를 범하는 인간성보다 무한히 매력적으로 보인다.

그러나 교황 레오는 “아무리 정교한 계산 시스템이라도 자신을 내어주는 마음이나 선과 악을 분별하는 양심을 만들어낼 수는 없다”고 쓴다. 우리가 서로에게, 그리고 초월적인 것에 열려 있도록 하는 것은 바로 우리의 유한성과 취약성이다. 인간성의 장엄함은 영광과 연약함이 결합된 이 특성과 분리될 수 없다.

『Magnifica Humanitas』는 프란치스코 교황의 생태 위기에 관한 가르침으로 파리기후협정 체결에 중요한 역할을 한 전작 『Laudato Si’』만큼이나 문화 비평적 성격을 지닌다. 두 교황은 근본적으로 같은 우려를 공유했다. 우리가 달리 결정하지 않는다면 기술은 폭력과 불의, 착취의 정치경제를 증폭시킬 것이라는 우려다. AI는 막대하고 환경에 큰 피해를 주는 물리적 인프라 위에서 작동한다. AI는 인간의 정신과 언어, 그리고 지구 자체를 채굴하는 새롭고 치명적으로 효과적인 추출주의다. 동시에 AI의 겉보기 비물질성은 사람과 자연에 대한 착취를 보이지 않게 만든다.

이것이 우리 시대의 두 가지 거대한 도전, 즉 AI와 생태 위기 사이에 숨겨진 수렴점이다. 그 배후에는 레오가 “권력의 문화”라고 부르는 것이 있으며, 이는 자연과 사람을 단순히 원자재로 여긴다.

AI 자체를 생각하기보다 우리는 AI의 영향에 대해 생각해야 한다. AI는 권력을 집중시키고, 책임 소재를 흐리며, 자연과 기후를 더욱 황폐화한다. 또한 막대한 이윤을 위해 문화와 언어, 토지를 대규모로 수탈하는 수단이며, 아마도 우리를 더욱 외롭고 우둔하게 만들 것이다.

나는 샌프란시스코에 가지 않았다. 지금 우리에게 가장 필요한 것은 자유로운 인간 정신이 발휘하는 인간적인 지성이다. 학계와 종교 지도자들이 AI 업계로부터 단호한 독립성을 유지해야 할 때다.

카머디 그레이는 네덜란드 라드바우드대학교 통합생태학 교수이자 런던정경대 방문교수다.

최신 기사를 가장 먼저 만나보세요 — 인스타그램, 블루스카이, X에서 FT Weekend를 팔로우하고, 매주 토요일 아침 FT Weekend 뉴스레터를 신청해 받아보세요

AI 전환, 프리미엄, 목요일

John Burn-Murdoch와 Sarah O'Connor가 전하는 AI의 일의 세계 재편에 관한 엄밀한 주간 심층 분석