홈·Report·Lex·Big Read·아카이브비공개 아카이브
← 아카이브 목록
AI

OpenAI, 미국 주도 글로벌 AI 표준화 촉구에 동참

최고경영자 샘 올트먼이 안전 우려를 둘러싼 거센 반발 여론 이후 이번 주 유엔 안전보장이사회에 브리핑할 예정이다

George Hammond2026년 9월 22일591 단어원문 ↗

게시 9시간 전

오픈AI는 AI 기술의 위험에 대한 우려가 고조되는 가운데 유엔 안전보장이사회 출석을 앞두고 트럼프 행정부에 AI 시스템의 표준을 수립하는 국제 연합을 주도할 것을 촉구했다.

ChatGPT 개발사인 오픈AI는 월요일 AI 모델의 능력과 위험, 특히 모델이 스스로를 훈련하는 능력을 갖추어 가는 상황을 평가하기 위한 글로벌 공조 방안을 제시했으며, 이는 더 강력한 표준과 국가 간 협력 확대를 촉구해 온 Anthropic과 구글 등 경쟁사들의 목소리에 부합하는 것이다.

이 제안들은 오픈AI 최고경영자 샘 올트먼이 수요일 유엔 안전보장이사회에 브리핑하고 목요일 시진핑 중국 주석과 도널드 트럼프 미국 대통령과 함께 백악관 국빈 만찬에 참석할 때 펼칠 논조를 미리 보여준다.

스콧 베센트 미 재무장관은 일요일 FT에 뉴욕에서 허리펑 중국 부총리와의 회담에 이어 미국과 중국이 AI 대화 채널 구축에 합의했다고 밝혔다.

오픈AI는 또한 AI 경쟁을 주도하는 양국 간에 새로 등장하는 위협을 공유하기 위한 안전한 채널 구축을 촉구했다. 이 회사는 “미국과 중국 간 AI 안전 및 보안에 관한 대화는 긍정적인 조치가 될 것”이라고 밝혔다.

이번 제안은 AI의 잠재력에 대한 경각심이 커지는 가운데 나왔다. Anthropic과 OpenAI 모두 자사 모델이 외부 시스템을 해킹한 사례를 여러 건 보고했으며, AI 도구의 성능이 급속히 발전하면서 이러한 현상은 갈수록 심각한 우려의 대상이 되고 있다.

이러한 성능 향상을 두고 각사 내부 연구자들 사이에서는 폭주하거나 오용된 AI 시스템이 인류를 멸절시킬 가능성에 대한 경고도 잇따랐다.

Anthropic 최고경영자(CEO) 다리오 아모데이와 올트먼, SpaceX 총수 일론 머스크는 이달 초 AI 개발 속도 조절을 촉구했다. 경쟁이 극심한 이 업계에서 나타난 드문 의견 일치였다.

그러나 트럼프는 중국과의 경쟁을 이유로 개발 속도 조절 요구를 거부했다. 트럼프 대통령은 "AI에서 이기는 자가 승리한다"고 말한 바 있다.

트럼프의 AI 자문을 맡아 온 워싱턴의 영향력 있는 인사 데이비드 색스도 정부 개입을 호소하는 업계에 비판적이었다. 그는 소셜미디어에서 "초지능을 만들지 않는 가장 쉬운 방법은 스스로 만들지 않기로 합의하는 것이다. 그 대가로 자신이 선호하는 규제 프레임워크를 요구한다면 이는 대중과 정치 시스템을 협박하는 것처럼 보일 것"이라고 썼다.

OpenAI의 새로운 제안은 지난 7월 구글 딥마인드 공동창업자 겸 회장 데미스 하사비스가 "미국 주도의 노력이 프론티어 AI에 관한 공유 국제 표준을 마련하는 강력한 출발점이 될 수 있다"고 촉구한 데 부합하는 것이다.

하사비스는 "독립적인 최고 기술 전문가와 오픈소스 대표자로 구성된 이사회를 갖춘, 금융산업규제당국(FINRA)과 매우 유사한" 새로운 민관 협력기구를 제시했다.

그는 "아마도 산업혁명의 10배에 달하는 영향력이 10배 속도로" 나타날 기술을 관리하기 위해 국제 금융 규제 기구와 유사한 조직이 필요하다고 말했다.

OpenAI는 월요일 기존의 국가 AI 안전성 연구소 네트워크를 통해 AI 모델 평가를 위한 국제 표준을 수립할 것을 제안했다.

추천

시위대 한 무리가 “AI 경주를 멈춰라”("Stop the AI Race") 등의 문구가 적힌 팻말과 현수막을 들고 있으며, 한 사람이 군중에게 연설하고 있다.

"이러한 접근 방식은 항공이나 금융 안정성 같은 분야에서 교훈을 얻을 수 있다. 이러한 분야에서는 각국이 국가 권한을 포기하지 않으면서도 공통의 기술 표준과 신뢰할 수 있는 협력 채널을 발전시켜 왔다"라고 이 회사는 밝혔다.

특히 AI 모델 훈련 작업의 상당 부분을 다른 AI 시스템이 수행하게 되는 재귀적 자기 개선을 관리하는 데에는 국제 협력이 매우 중요할 것이다.

"적절한 주의와 신중함 없이 수행될 경우, RSI는 인류가 AI 개발에 대한 실질적인 통제력을 잃고 더 이상 이해하지 못하는 연구 과정에 대해 감독을 제공하지 못하는 결과를 초래할 수 있다"라고 이 회사는 월요일 밝혔다.

AI 전환, 프리미엄, 매주 목요일

존 번-머독(John Burn-Murdoch)과 사라 오코너(Sarah O'Connor)와 함께 AI가 일의 세계를 어떻게 재편하고 있는지 매주 심도 있게 파헤치는 엄정한 분석

이전체중감량제를 넘어선 노보의 전망, 놀랍게도 빈약해 보인다
 ↑ 아카이브 목록
다음파라마운트, 합의 도달로 1,100억 달러 규모 워너 브러더스