사회에 무엇이 필요한지 AI 기업 수장들에게 묻지 마라
석유 기업에 기후 정책 설계를 맡기거나 자동차 회사에 교통 규칙을 만들게 하는 일을 상상해 보라

Marietje Schaake
게시일: 어제
필자는 스탠퍼드 대학교 인간 중심 인공지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)의 펠로이자 ‘The Tech Coup’의 저자이다
AI 기업 최고경영자들이 시장에 내놓기 위해 경쟁적으로 몰아붙였던 바로 그 제품들에 대해 경종을 울리는 것은 놀라운 실패의 고백이자 극명한 거버넌스의 실패에 해당한다. 그렇다면 왜 세계 각국의 정치인들은 그 기술이 인류의 멸망을 초래했는지를 놓고 논쟁하면서, 같은 CEO들에게 해법에 대해 이야기해 달라고 하는 것일까?
우리는 또다시 기업 지도자들이 논의의 틀을 정하도록 내버려 두고 그들에게 이제 무엇을 해야 하는지 묻고 있다. 최근 유럽집행위원회 위원장 우르줄라 폰데어라이엔조차 연두 연설에서 AI 최고경영자들에게 “프론티어의 속도를 조절하는 방법”과 “진행 중인 산업계 노력 지원”에 관해 논의하자고 초청했다.
이러한 손짓은 잘못된 시점에 잘못된 신호를 보낸다. 석유 회사들에게 기후 정책을 설계하게 하거나 자동차 회사들에게 교통 규칙을 정하게 하는 것을 상상해 보라. 유럽에는 위험 완화를 핵심에 둔 포괄적인 AI 법률인 EU AI법(EU AI Act)이 이미 존재한다는 점에서 이는 더욱 기이하다.
기업 지도자들에게 앞으로 사회에 무엇이 필요한지 묻는 대신, 정치 지도자들은 그들의 주장을 철저히 검증하고 그들의 사업과 제품이 사회 전체의 성공에 기여하도록 보장하는 데 더 힘써야 한다.
소유권, 자원 수요, 지역사회에 미치는 영향에 대한 투명성도 없이 데이터 센터가 세워지던 그때 입법자들은 어디에 있었는가? 경쟁 우위를 높이기 위해 안전 우려가 뒷전으로 밀려났을 때 감독은 어디에 있었는가?
법은 유럽 지도자들의 모든 행동의 닻이 되어야 하며, 기술 발전이 그만한 가치가 있을 때는 법 역시 개정되어야 한다. 현재 AI법(AI Act)은 투명성, 체계적 리스크의 평가와 완화에 관한 의무를 담고 있고, 범용 모델에 대한 감독도 예정하고 있다. 이것이야말로 많은 전문가들이 다른 지역에서도 규제가 보장해 주기를 바라는 핵심 기반들이다.
유럽은 이미 갖고 있는 규칙을 집행하는 대신 AI 기업 CEO들과의 정상회의를 주선해서는 안 된다. 기존 법을 더 강력하게 집행하면 더 즉각적인 조치가 가능해진다. 사회는 실험부터 배포까지 AI 연구소 내부에서 벌어지는 일에 대해 훨씬 더 깊이 이해할 필요가 있다. 그래야 리스크 평가를 내리고, 정책에 반영하며, 그에 따라 새 모델 출시의 속도를 조절하거나 아예 중단시킬 수 있다.
그 규칙을 준수해야 할 기업들끼리 협상한 구속력 없는 개발 중단 합의로는 더 나은 곳에 이를 수 없다. 실제로 AI 분야 지도자들이 프런티어 모델 개발의 일시 중단을 촉구했던 일은 그들의 행동에 아무런 변화도 가져오지 못했다. 우리는 독립적인 검증과 진정한 책임을 실현하기 위해 민주적 지도자와 기관이 이끄는 포괄적인 거버넌스 재정비가 필요하다.
Anthropic의 다리오 아모데이(Dario Amodei)는 민주주의 국가들이 함께 AI 안전을 규율하는 연합을 촉구한 바 있다. 주요 프런티어 연구소들이 자리한 미국은 바로 그런 연합의 열쇠를 쥐고 있다. 미국 기업들이 자국 안에서 책임을 지면 그 파급력은 전 세계로 번진다. 워싱턴은 자체 버전의 브뤼셀 효과를 누리게 될 것이다. EU의 데이터 보호 및 제품 안전 규칙이 국경 너머의 규범을 형성해 온 것처럼, 미국의 규칙이 글로벌 AI 거버넌스의 기본 표준이 되는 것이다.
그러나 그 효과는 규칙이 실질적 내용을 갖추고 다른 민주주의 국가들의 가치와 조화를 이룰 때에만 실현된다. 글로벌 AI 거버넌스를 보고 싶다면 기술 기업들은 지금의 접근 방식에서 180도 방향을 바꿔 구속력 있는 규제를 워싱턴에 로비해야 한다.
미래를 지어주겠다고 투자자와 시장을 설득해 놓고, 동시에 그 미래를 끝장낼 것이라 경고하는 지경에 이르기까지 우리는 어떻게 왔는가? 대신 AI의 민주적 거버넌스를 강화하는 데 집중하자. 재난을 경고하는 또 다른 사고 보고서를 기다릴 만큼 우리에게는 시간이 없다. 방화범이 소방관이 될 수는 없는 법이다.

데이터를 활용해 리스크를 평가하고, 시장 변동성에 대응하며 전략 수립에 반영하기
