AI 기반 위협, ‘수개월 내’ 성공할 수도… 파이브 아이즈 경고

서방 정부와 기업들은 AI 분야에서 확보한 우위가 오래 지속되지 않을 수 있다고 경고했다.

파이브 아이즈 정보 협력체의 사이버 수장들은 서방의 인공지능으로 무장한 적대 세력들이 수개월 안에 정부와 기업의 방어 체계를 압도할 수 있는 공격을 개발하는 데 성공할 수 있다고 경고했다.

현재로서는 서방이 우위를 점하고 있다. 상업용 AI의 발전과 이를 군사 및 첩보 역량에 통합하는 속도가 러시아와 중국 등 경쟁국을 앞선 것으로 보이기 때문이다.

그러나 미국이 주도하고 영국, 캐나다, 뉴질랜드, 호주가 참여하는 이 동맹은 이 같은 우위가 오래 지속되지 않을 수 있다고 이례적인 공동 경고에서 밝혔다.

공동 성명은 “시한은 수년이 아니라 수개월”이라고 밝혔다.

이번 경고는 미국이 일주일 전 앤스로픽에 외국 국적자의 최첨단 AI 모델 접근을 차단하라고 명령하고, 해당 모델의 수출을 안보 위협으로 규정한 뒤 나왔다.

성명은 이른바 ‘프런티어 모델’의 역량이 향상되면서 서방 국가들이 자체 핵심 인프라를 방어하고 공격적 사이버 역량을 개발하는 양쪽 모두에서 우위를 확보하게 됐다고 인정했다.

사이버 수장들은 “프런티어 AI 모델은 현재 업계의 기대를 넘어설 것으로 예상되며, 공격과 방어 양쪽의 사이버 역량을 근본적으로 변화시킬 것”이라고 말했다.

성명은 중국이나 러시아 등 특정 적대 세력을 거명하지 않았지만, 이미 존재하는 AI 모델이 설계하고 성능을 강화한 정교한 공격의 공세에 대비하라는 정부와 기업 모두에 대한 행동 촉구로 보인다.

서방의 사이버보안 전문가들은 이미 훨씬 더 정교하고 동시에 더 많은 대상을 공격할 수 있는 AI 기반 위협에 직면했다.

구글 위협 인텔리전스 그룹은 5월, 이전에는 알려지지 않았던 취약점을 발견한 뒤 인공지능을 사용해 이를 공격으로 완전히 전환한 특정 공격을 이미 한 차례 차단했다고 밝혔다.

당시 이들은 러시아에 기반을 둔 세력이 인공지능 모델을 악용해 자동으로 적응하는 공격을 미세 조정하고 만들어내고 있다고 의심했지만, 중국과 북한 해킹 집단도 유사한 시도를 하고 있다고 지적했다.

서방의 가장 정교한 AI 모델이 가진 일부 역량은 잘 알려져 있다. 숨겨진 취약점을 찾기 위해 여러 세대에 걸친 코드를 샅샅이 살펴볼 수 있는 앤트로픽의 클로드 미토스(Claude Mythos) 출시를 둘러싼 우려도 그중 하나다. 그러나 중국과 러시아가 개발한 모델에 대해서는 상대적으로 알려진 바가 적다.

파이브 아이즈(Five Eyes) 사이버 수장들의 공동 경고는 상당한 자원을 갖춘 적대 세력으로부터 스스로를 방어하는 데 드는 비용과 위험의 상당 부분을 기업이 떠안도록 요구해 온 패턴을 따랐다.

이들의 제안은 대부분 공격 표면을 줄이고 사고에 대비하라는 상투적인 구호에 그쳤으며, 서방 기업들은 수십 년 동안 이런 조언을 받아왔다.

하지만 이번에는 사이버 수장들이 서방 기업에 방어 역량을 강화하기 위해 AI 모델을 도입하라고 구체적으로 요구했다. 이는 표적과 적대 세력 간 군비 경쟁의 윤곽을 사실상 제시한 것이지만, 서방 정부 스스로 자국을 더 안전하게 만들기 위해 무엇을 하고 있는지는 분명히 밝히지 않았다.

이들은 “AI 도구를 보안 운영에 통합하는 조직”이 더 안전할 것이라고 경고했다. “지체하는 조직은 커지고 피할 수 있었던 위험에 직면하게 될 것이다.”

영국 국가사이버보안센터(NCSC)는 자신들이 확인한 이 중대한 새로운 위협으로부터 영국을 보호하기 위해 무엇을 하고 있는지 묻는 질문에 즉각 답변하지 않았다.

위험을 평가하고 시장 변동성에 대응하며 전략 수립에 활용하기 위한 데이터 활용