인간은 AGI라는 자동차의 뒷좌석 승객으로만 남을 수 없다
기술의 진화가 숙명처럼 피할 수 없다는 인식이 절망에 가까운 감정을 불러일으키고 있다.
존 손힐
어제 게재
우리보다 더 똑똑한 전자 지능을 발명한다면 인류에는 어떤 일이 일어날까?
최근 나는 인간 이후의 미래를 논의하는 두 차례의 흥미롭지만 섬뜩하기도 한 행사에 참석했다. 이 자리에는 매우 뛰어난 AI 연구자와 학자, 철학자 수십 명이 모여 이런 미래가 어떤 모습일지 고찰했다. 이들이 공유한 기본 전제는 앞으로 몇 년 안에 인공일반지능(AGI)에 도달해 기술이 모든 인지 과제에서 인간과 대등해질 것이라는 점이다.
두 토론을 모두 주최한 AI 연구자 대니얼 파겔라는 그 시점이 되면 인류의 목표는 가치 있는 후계자를 만드는 것이어야 한다고 주장한다. “인류가 아니라 그 지능이 생명 자체의 미래 경로를 결정하도록 기꺼이 맡길 수 있을 만큼 능력이 뛰어나고 도덕적으로 가치 있는 인간 이후의 지능”을 말한다.
기술 업계 지도자들이 AGI를 언제 달성할 수 있을지에 대해 더욱 낙관적으로 전망하면서, 기술 업계에서는 이런 이야기가 점점 더 흔해지고 있다. 일단 AGI에 도달하면 기계가 더욱 지능적인 기계를 만들어낼 수 있고, 이는 인간 이후의 한층 강력한 초지능으로 이어질 것이라는 논리다. AI의 미래를 둘러싼 논쟁이 빠르게 앞서가는 가운데, 대중은 급격한 변화의 속도를 따라잡고 기술이 자신의 삶에 미치는 영향이 커지는 상황에 대응하느라 분주하다.
지난주 AI 연구소 Google DeepMind의 공동 창업자인 데미스 허사비스 경은 우리가 “인류 역사에서 중대한 전환점”에 도달했다고 말했다. 그는 직원들에게 보낸 메모에서 이사회 의장이 되어 이 과제에 집중하기로 한 이유를 설명하며 “나는 평생 AGI를 향해 일해왔고, 이제 여러분 중 많은 분들과 마찬가지로 AGI가 눈앞에 다가왔다고 느낀다”고 썼다. AGI를 잘 관리한다면 “놀랍고 새로운 발견과 경이의 시대”가 열릴 것이라고도 했다.
다른 여러 사업체도 운영하는 AI 모델 기업 xAI의 수장 일론 머스크 역시 지난 7월 AI가 약 5년 안에 인간 지능의 총합을 넘어 “경이로운 풍요”의 시대를 열 수 있다고 전망했다. 그러나 그는 ‘살인 로봇’ 형태의 초지능이 인류에 실존적 위험을 초래할 가능성이 10~20%라는 이전 전망을 철회하지는 않았다. 위험을 이유로 AI 개발 속도를 늦추려 했던 과거의 노력에도 불구하고, 이제 그는 시도조차 무의미하다고 결론 내린 듯하다. 그는 The Economist에 “모든 길이 AI의 가속으로 이어지는 것 같다”며 “이 여정을 즐기자”고 말했다.
AI의 진화가 숙명적으로 피할 수 없다는 이러한 인식은 다른 많은 연구자들 사이에서 절망에 가까운 감정을 불러일으키고 있으며, 점점 더 대중 사이에서도 그런 것으로 보인다. 기술 기업들은 어떤 사회적 위임도 없이 추측에 불과한 서사에 근거해 우리 공동의 미래에 관한 중대한 결정을 내리고 있다. AI 기업들에 대한 대중의 반발인 ‘테크래시’가 커지는 것은 기술이 일자리와 환경에 미치는 영향 등 사람들이 현재 우려하는 문제에 제대로 대응하지 못한 데 따른 자연스러운 결과다.
지난해 독립 연구기관인 AI Now Institute는 AGI를 둘러싸고 형성된 신화에 대해 신랄한 비판을 내놓았다. 이들은 AGI라는 용어가 거의 의미가 없을 정도로 느슨하게 정의돼 있다고 주장했다. 대다수 AI 연구자들은 ChatGPT나 Claude 같은 대규모 언어 모델의 규모를 키우는 현재의 집착이 우리를 AGI로 이끌 것이라고 생각하지 않았다. 또한 저자들은 AGI의 가능성과 위험을 둘러싼 과장된 기대의 상당 부분이 기술 기업들이 수십억 달러의 자금을 조달하도록 돕기 위한 냉소적인 마케팅 술수라고 주장했다.
AI Now Institute가 지적한 대로, AI 연구소 수장들이 기술의 미래에 관한 논의를 독점하도록 내버려두면 다른 모든 분야의 전문가들이 주변부로 밀려나는 것은 분명하다. 이들은 AI를 현실 세계에서 가장 효과적으로 활용하는 방법에 대해 없어서는 안 될 통찰을 제공한다. 이 연구소는 “어려운 문제를 해결하는 다른 경로보다 AGI를 우위에 두는 것은 기술해결주의가 한층 강화된 형태일 뿐”이라고 결론 내렸다.
이번 주 발표한 AI 관련 최신 에세이에서 마크 저커버그 메타 최고경영자는 당연하게도 기술해결주의에 대한 기술적 해법을 제시했다. 그러나 그의 주장이 일면적이고 자기 이익을 위한 것이라 해도, 완전히 틀렸다고 할 수는 없을 것이다.
저커버그는 AI가 개인에게 ‘개인 초지능’에 가까운 놀라운 기술적 역량을 부여할 수 있다고 주장했다. 그는 “인간의 가치에 대한 준수를 보장하는 유일한 방법은 사람들에게 더 많은 권한을 부여하는 것”이라고 썼다.
그러나 유용하긴 해도 사람들의 힘은 멋진 도구를 사용하는 것만으로 행사될 수 없다. 그 힘은 기술 자체의 거버넌스와 관련돼야 한다. 시민사회단체, 민주적으로 선출된 정치인, 노동조합, 규제당국 역시 AI가 어떻게 배치되고 활용될지에 대해 자신들에게 부여된 정당한 권한을 행사해야 한다. 이제 AI 기업 수장들조차 모든 사용자의 신뢰를 잃지 않으려면 이들 기관과 더 긴밀히 협력해야 한다는 점을 인식하고 있다.
AI 전환의 혜택은 아직 대부분 입증되지 않았지만 상당히 클 수 있다. 그러나 그동안 사회의 나머지 구성원들은 뜨거운 휴가 여행길에 지친 아이들처럼 AGI 차량 뒤편에 수동적으로 앉아 “우리 아직 멀었나요?”라고 답답하게 묻는 승객으로 남아 있을 수는 없다.
AI 기업들은 충분히 논의되기는커녕 합의조차 이뤄지지 않은 목적지로 인류를 몰아가려 하고 있다. 이제 우리 나머지 사람들도 인류의 미래에 대한 주도권을 더 많이 확보해야 할 때다.
john.thornhill@ft.com
FT 오피니언, 평일마다
최고의 논평가들이 전하는 날카로운 통찰과 현명한 판단을 만나보세요