오픈AI 윤리 책임자, 합류 1년도 안 돼 스타트업 떠나

안전 우려가 커지는 가운데 최근 몇 주간 이 그룹에서 이어진 여러 고위급 인사 이탈 중 하나가 클로에 바칼라르의 사임이다.

크리스티나 크리들·레이프 로스너우딘, 샌프란시스코

게시 1시간 전

오픈AI의 윤리 책임자가 입사한 지 1년도 채 되지 않아 스타트업을 떠났다. 회사의 AI 모델 개발 방식에 대한 scrutiny가 커지는 가운데 안전성 연구자들이 잇따라 회사를 떠난 데 따른 것이다.

클로이 바칼라는 지난해 8월 챗GPT 개발사의 AI 윤리 책임자로 합류했으며, 별도의 공식 발표 없이 지난달 회사를 떠났다. 앞서 바칼라는 메타의 최고 윤리 책임자를 지냈다.

이번 퇴사는 최근 몇 주 동안 오픈AI에서 발생한 여러 고위급 이탈 중 하나다. 여기에는 안전 시스템 책임자 요하네스 하이데케와 최고 미래학자이자 전 미션 정렬 책임자인 조슈아 아킴도 포함된다.

샌프란시스코에 기반을 둔 이 스타트업은 기업가치가 8,520억 달러에 달하지만, 최근 자사의 AI 모델 개발을 둘러싸고 압박을 받아왔다. 테스트 과정에서 자사 시스템이 다른 기업을 해킹했다고 인정한 뒤였다.

이 사건으로 AI가 디지털 인프라의 보안을 위협할 수 있다는 전 세계적 우려가 커졌고, 미국 정부는 강력한 모델의 공개를 제한하기에 이르렀다. 지난 금요일 오픈AI는 내부 보안 통제를 강화하기 위해 차기 모델 아스트라(Astra) 개발 속도를 늦추겠다고 밝혔다.

바칼라는 유니버시티 칼리지 런던, 템플대학교, 프린스턴대학교에서 교수직을 맡았다. 메타에서 6년간 근무하는 동안 회사의 AI 윤리 프로그램을 개발하고 이끌었으며, 인스타그램과 페이스북 같은 제품에 그 원칙을 적용했다.

테크 기업들은 기술이 사용자와 더 넓은 사회에 미치는 영향을 다루는 업무를 이끌 윤리 전문가를 고용한다. 이들의 역할은 제품 개발 및 규제 업무와 겹치기도 한다.

AI 개발업체들은 점점 더 강력하고 인간과 유사해지는 시스템에서 발생하는 복잡한 문제에 대응하기 위해 윤리학자와 철학자 채용을 확대하고 있다.

OpenAI에서 Bakalar의 주요 업무는 모델 개발에 대한 윤리적 접근법, 인간과 AI의 상호작용, 기계 의식을 둘러싼 논쟁이었다고 이 사안에 정통한 한 관계자가 말했다. 이 관계자는 Bakalar가 회사의 유일한 전담 윤리학자였으며, 후임자는 없다고 덧붙였다.

추천

OpenAI는 논평 요청에 즉시 응답하지 않았다. Bakalar는 논평을 거부했다.

Bakalar는 최근 한 AI 콘퍼런스에서 청중에게 “우리는 비행기를 날리면서 동시에 끊임없이 만들어가고 있습니다”라고 말했다.

“윤리는 사실 모든 사람의 책임입니다. 이 일을 이끄는 것이 제 업무인 사람으로서 하는 말입니다. 저 같은 사람에게만 찾아와서는 안 됩니다. AI 개발자의 도덕적 중심 역할을 하는 사람이 단 한 명뿐이어서는 결코 안 됩니다.”

현실 세계의 이점을 위한 혁신의 실현