가짜 위성 이미지 잇따르자 구글 어스 AI 도구 철회

보안 전문가들은 생성형 도구가 분쟁 피해와 사건을 확인하는 데 사용되는 위성 이미지에 대한 신뢰를 훼손할 위험이 있다고 말한다.

런던의 댄 클라크와 제이미 존

05:03 업데이트

구글은 설득력 있는 위성 이미지를 조작하기 쉽게 만들어 허위정보 확산을 가속한다는 보안 연구자들의 비판이 제기되자, 구글 어스에서 새로운 AI 기반 이미지 편집 도구를 철회했다.

구글은 목요일 이미지 생성 모델 ‘나노 바나나’를 구글 어스에 통합했다고 발표했다. 이에 따라 사용자는 “보고 싶은 것은 무엇이든 입력하고” “전 세계 어디든 가상으로 재구상할” 수 있다.

이 시스템을 사용하면 이용자가 AI로 생성한 객체와 장면을 위성 이미지에 삽입할 수 있다. X 이용자들은 가자지구에 조작된 폭탄 분화구가 생긴 모습, 이란의 원자력 발전소, 암스테르담의 한 거리에서 발생한 교통사고를 보여준다고 주장하는 이미지를 공유하며 이 기능을 재빨리 시연했다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 또는 브라우저 설정을 확인하세요.

전쟁 지역을 비롯해 접근이 어려운 지역의 정보를 검증하기 위해 Google Earth를 사용하는 오픈소스 정보(OSINT) 전문가들은 이 도구가 이미지의 진위를 확인할 때 가장 널리 활용되는 기준점 가운데 하나를 훼손할 수 있다고 경고했다.

앨런 튜링 연구소의 선임 연구원인 샘 스톡웰은 “Google Earth는 수십 년 동안 기자와 조사관들이 의심스러운 이미지를 대조하는 오래된 기준 레이어 역할을 해왔다”며 “동일한 기준에 생성형 도구를 탑재하는 것은 가짜 이미지를 폭로하는 데 사용되는 바로 그 측정 기준을 오염시키는 일”이라고 말했다.

Google Earth에서 이미지를 조작해 X에 공유한 OSINT 전문가이자 Digital Digging 뉴스레터의 저자인 헹크 판 에스는 “이제 사람들이 사진의 진위 여부를 확인하기 위해 사용하는 바로 그 안에서 가짜가 만들어지고 있다”고 말했다.

Google은 금요일 “더 강력한 안전장치를 마련하는 작업을 진행하는 동안 Google Earth에서 이 기능을 철회할 것”이라고 밝혔다.

Google은 “또한 … 당사 정책을 위반하는 것으로 보이는 생성 이미지를 사람들이 공유한 스크린샷도 확인했다”고 말하며, “생성된 이미지는 다른 사람들이 볼 수 있는 Google Earth의 기본 화면에는 표시되지 않았고 AI가 생성한 이미지라는 워터마크가 표시돼 있었다”고 덧붙였다.

이번 사건은 소셜미디어에서 AI 생성 이미지의 확산에 대한 우려가 커지는 가운데 발생했다. 이로 인해 개인과 정부가 증거를 조작하고 이를 전 세계 수백만 명에게 유포하는 일이 훨씬 쉬워지고 있다.

동영상 설명

X에서 한 사용자가 이 도구를 이용해 멕시코 국경의 난민을 가짜 이미지로 생성하는 장면을 녹화한 화면

3월 중동 전역에서 전쟁이 격화하는 가운데, 이란의 드론 공격 이후 카타르 내 미국 레이더 시스템의 피해를 보여준다고 주장하는 인공지능(AI) 변조 위성 이미지가 X에 유포됐다.

또 다른 AI 생성물로 보이는 게시물은 이슬람 공화국의 고(故) 최고지도자가 잔해에서 끌려 나오는 모습을 보여준다고 주장했으며, 또 다른 AI 강화 게시물은 이라크 내 미군 기지의 피해 규모를 과장했다.

미국기업연구소(AEI)의 연구 애널리스트 브래디 아프릭은 구글의 도구가 구글 어스에 통합돼 있기 때문에 이전의 이미지 생성기보다 한 단계 더 나아갔다고 말했다.

그는 “이러한 가짜 이미지들은 실제 위성 이미지에 기반하고 있어, 지형과 규모의 불일치처럼 AI 생성물임을 드러내는 몇 가지 특징이 사라진다”고 말했다.

Africk은 워터마크만으로는 사람들이 속는 것을 막기에 충분하지 않다고 경고했다. “사람들은 이미지를 스크롤해 지나가거나 공유하면서 그것이 AI로 생성된 것인지 확인하는 경우가 거의 없습니다.”

그래픽: Jana Tauschinski

위험을 평가하고 시장 변동성에 대응하며 전략 수립에 활용하기 위한 데이터 활용