AI 전쟁의 시대가 도래했다

자율 시스템이 전장에 빠르게 통합되고 있으며, 모델은 개발자조차 완전히 예측할 수 없는 방식으로 발전하고 있다

앨리슨 킬링(Alison Killing), 존 손힐(John Thornhill), 찰스 클로버(Charles Clover), 크리스 캠벨(Chris Campbell) — 런던, 파브리스 드프레즈(Fabrice Deprez) — 키이우

게시일 2026년 9월 17일

언뜻 보면 사커 스카웃(Saker Scout)은 오늘날 우크라이나 전선 상공을 순찰하는 수천 대의 다른 드론들과 크게 다르지 않아 보인다. 검은색 쿼드콥터로서 조종사가 원격으로 조종할 수 있게 해 주는 카메라를 갖추고 있으며, 5kg의 폭발물 — 보통 수류탄이나 대전차 탄두 — 를 투하할 수 있다.

그러나 탄소섬유 프레임 아래에는 신용카드보다 크지 않은 메인보드가 숨겨져 있는데, 이것이 전쟁 진화의 다음 단계를 상징할지도 모른다. 이 드론의 머신러닝 소프트웨어는 탱크부터 보병에 이르기까지 47개 범주의 군사 장비를 인식할 수 있으며, 객체 주위에 가상의 상자를 그리고 보이는 모든 것에 백분율 신뢰도 점수를 매긴다.

발사 전에 인간 조종사는 어떤 표적이 가장 중요한지 선택하고, 교전에 필요한 신뢰도 임계값을 설정하며, '킬 박스(kill box)' — 그 안의 모든 것이 표적이 되는 지리적 구역 — 를 지정한다. 일단 그 구역 안에 들어서면 드론은 탐색과 식별을 수행하고, 신뢰도 점수가 충분히 높다면 추가적인 인간의 명령을 기다리지 않고 공격할 수 있다.

결정적인 한계가 하나 있다. 기계는 탱크와 트럭, 보병과 포병을 구분할 수 있지만, 표적이 우크라이나군인지 러시아군인지는 구분하지 못한다. 따라서 이 시스템은 전장에 관한 하나의 가정에 의존한다. 즉 '킬 박스' 안에 있는 모든 군사 자산은 적의 것이라는 가정이다.

"민간인이 없는지, 그리고 아군이 아닌지 반드시 확인해야 한다"고 사커 스카웃(Saker Scout)을 개발한 우크라이나 기업 트위스트 로보틱스(Twist Robotics)의 로스티슬라브 올렌친이 말했다. "이것은 매우 특수한 무기로, 특수부대가 특정한 경우에만 사용한다."

AI 기술은 우크라이나 전쟁의 수행 방식을 바꾸어 놓았다. 분쟁 초기에는 표적을 식별하고 공격을 개시하는 데 20분까지 걸릴 수 있었다. 이제 이 과정은 2분 미만, 때로는 불과 몇 초 만에 이뤄진다.

러시아의 우크라이나 전면 침공은 AI 혁명의 중추적 순간인 ChatGPT가 OpenAI를 통해 공개되기 9개월 전에 일어났다. 이 분쟁은 AI 시스템을 실전 무력전에 활용하기 위한 시험장이 되었으며, 여기서 얻은 교훈은 우크라이나와 서방 동맹국들의 전략뿐 아니라 이란과의 전쟁을 치르고 있는 미국의 전략까지도 형성하고 있다.

올렌친에 따르면 이러한 가속화는 기술 탓만이 아니라 비용 탓이기도 하다. 정교한 시각 인식 알고리즘을 구동하는 데 필요한 컴퓨팅 파워는 오늘날 약 250달러에 구입할 수 있다. 사커 스카웃의 처리 능력은 플레이스테이션 4에 필적하는 수준이다.

그러나 이 전쟁은 AI의 한계 또한 보여준다. 우크라이나와 러시아 양측에서 이 기술이 군사 시스템에 빠르게 통합되면서, AI가 의사결정을 앞당기고 전쟁을 더욱 치명적으로 만들었지만 어느 쪽에도 결정적 우위를 안겨주지는 못했다는 사실이 전략가들과 최전선 운용자들에게 분명해졌다.

그럼에도 불구하고, 최첨단 AI 모델이 인간이 통제할 수 있는 속도보다 빠르게 발전하는 단계에 이르면, 군사 및 정치 지도자들은 그러한 한계가 사라졌을 때 어떤 일이 벌어질지 고민해야 할 것이다.

전쟁에서 AI의 역할

군이 AI에 대해 이야기할 때, 그들이 가리키는 것은 단일한 시스템이 아니다.

그들이 말하는 것은 전쟁의 여러 단계에서 사용되는 소프트웨어다. 데이터를 수집·처리하고, 지휘관이 표적을 식별해 우선순위를 정하도록 돕고, 통신이 교란됐을 때 드론이 계속 작동할 수 있게 해주는 소프트웨어를 뜻한다.

AI 기반 소프트웨어는 "인간 참모 장교가 감당할 수 없는 규모와 속도로 대량의 데이터를 처리할 수 있다"고 전쟁연구 교수이자 엑서터 대학교(University of Exeter) 전략·안보연구소 소장인 앤서니 킹(Anthony King)이 말했다. 킹에 따르면 AI의 주된 기능은 분쟁의 최전선 자체를 바꾸는 것이 아니라 "상황 인식과 정보"를 개선하는 데 있었다.

이 기술은 작전의 지속 가능성부터 탄약이 소진되는 속도에 이르기까지 전장에 관한 예측을 세우는 데 지휘관을 도울 수 있다. 인간의 추정에 비한 이런 시스템의 강점은 단순히 "볼 수 있는 증거가 더 많다"는 점이라고 킹은 말했다.

이것이 중요한 이유는 현대의 군 지휘부에 막대한 양의 정보가 쏟아져 들어오기 때문이다. 드론 영상, 위성 이미지, 전자 신호, 인적 보고, 전장 곳곳의 센서 데이터 등이 그것이다. 영국의 국방·안보 싱크탱크인 왕립합동군사연구소(RUSI)의 잭 와틀링(Jack Watling)은 이 모든 정보를 비교하는 일은 "매우 노동 집약적"이라고 말한다. 우크라이나의 델타(Delta)와 미국의 메이븐(Maven) 같은 전장관리시스템은 이러한 정보 스트림을 활용 가능한 정보로 바꿔준다.

프로젝트 메이븐(Project Maven)에 관한 책의 저자인 카트리나 맨슨(Katrina Manson)에게 미국 정보 당국자 한 명은 이 시스템 덕분에 미군이 타격할 수 있는 표적 수가 하루 100개 미만에서 1,000개로 늘었으며, 대규모 언어 모델을 통합하면 최대 5,000개에 이를 수 있다고 말했다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 또는 브라우저 설정을 확인하십시오.

이러한 시스템은 군이 “킬 체인(kill chain)”, 즉 표적을 식별하고 타격을 실행하기까지 걸리는 시간을 단축할 수 있게 해준다. "간단히 말해, 병사들이 더 빠르고 더 먼 거리에서 이 작업을 수행할수록 적에게 더 큰 효과를 낼 수 있다"고 영국 육군은 자사 웹사이트에서 밝히고 있다. 이를 통해 군은 선제 타격이 가능해지며, 특히 기동 중인 표적을 비롯해 타격 가능한 표적의 수도 늘어난다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 또는 브라우저 설정을 확인하십시오.

과거 전략가들이 병력, 전투기, 전차, 전투함을 얼마나 배치할 수 있는지로 군사력을 측정했다면, 이제는 데이터 처리 시스템의 속도와 정확성, 그리고 자율 무기를 대규모로 운용하는 방법에 초점을 맞춰야 한다.

최전선에서 AI는 여전히 대부분 한정된 임무에 머물고 있다. 드론이 비행 중 자세를 안정화하거나, 조종자와의 통신 연결이 교란된 뒤에도 표적을 향해 계속 나아가는 것 등이 그 예이다.

미국 전략국제문제연구소(CSIS) AI 센터의 수석 연구원인 카테리나 본다르는 자율 항법 기술이 드론이 시속 최대 300km의 속도에서도 바람에 맞춰 기체를 조정하고 표적을 고정할 수 있도록 도와준다고 말한다. 이 기술의 상당 부분은 드론 레이싱 소프트웨어에서 차용된 것이다. 이 기술은 조종사의 훈련 시간을 단축시켰으며, AI의 지원을 받을 경우 타격 성공 확률이 3~4배 높아진다.

종말 유도는 공격의 최종 단계에서 특히 유용한 것으로 입증되었는데, 이 단계에서는 재밍(전파 교란)으로 조종사와 드론 간의 연결이 끊어지는 경우가 잦다. “목표물에서 100~200m 지점에서 드론의 조종권을 잃는 일이 자주 발생합니다”라고 우크라이나 지휘관이 말한다. 일단 조종사가 목표물을 조준해 고정하면, 신호가 두절되더라도 드론은 최종 접근 비행을 계속할 수 있다.

동영상 설명

주석이 달린 영상, 드론의 단말 유도 장면이 담겨 있다

AI 유도 공격은 아직 상대적으로 드물다고, 군에 드론을 공급하는 우크라이나 드론 제조업체 Vyriy Drone의 창업자 올렉시 바벤코(Oleksii Babenko)는 말한다. "아마 드론의 2퍼센트 정도가 어떤 형태로든 [인공지능]을 사용해 드론이 표적이 무엇인지 이해하고 스스로 표적을 찾아냅니다 . . . 그래도 500만 대의 드론 중 2퍼센트면 상당한 숫자입니다."

우크라이나는 2026년 초 이후 AI 유도 드론 공격이 10배 증가했다고 주장한다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 또는 브라우저 설정을 확인하십시오.

또한 군집(swarming) 작전도 있다. 이는 기계들이 서로 임무를 분담하는 방식으로, 드론과 지상 로봇이 협력해 부상당한 병사를 구조하거나, 공격 드론들이 표적을 나눠 맡아 방어 체계를 압도하는 것을 의미할 수 있다. 대규모 자율 군집은 여전히 대부분 실험 단계에 머물러 있지만, 소규모 그룹은 현재 전장에서 함께 작전을 수행하고 있다.

군집 소프트웨어를 개발하는 회사 중 하나는 스위스에서 설립된 스타트업인 아우테리온(Auterion)이다.

아우테리온의 최고경영자 로렌츠 마이어(Lorenz Meier)는 서방 군대가 러시아나 우크라이나의 능력에 필적할 만큼 드론 조종사를 충분히 양성하지 못했기 때문에 점점 더 대부분 자율적으로 운용되는 군집 드론에 의존해야 할 것이라고 말한다.

"나토(Nato) 국가들에게 이는 생사가 걸린 문제입니다. 이런 드론 부대를 충분히 빨리 창설할 수 없기 때문입니다"라고 마이어는 덧붙인다. "효과적으로 싸우기 위해서는 더 높은 수준의 자동화로 나아갈 수밖에 없습니다."

러시아 장거리 드론의 자율 표적화에 관한 연구는 모스크바가 우크라이나 도시들을 향해 샤헤드(Shahed) 드론을 물결처럼 보내기 시작하면서 더욱 시급해졌다. 이에 대응해 우크라이나 기업들은 이를 식별하고 공격하는 요격기 개발에 착수했다.

샤헤드는 독특한 형상을 하고 있고 다른 항공기가 거의 없는 하늘을 비행하기 때문에 AI 시스템이 이를 인식하도록 훈련될 수 있다.

동영상 설명

샤헤드 드론이 공격받는 모습을 담은 드론 영상

러시아군은 지난 1년간 AI 기반 드론의 사용을 대폭 확대해 왔다. 지난 7월에는 러시아 드론이 인간 조종자의 타격 결정 없이 AI를 이용해 주유소를 표적으로 삼았다. 이 드론은 벽에 충돌한 뒤 폭발해 3명이 사망했으며, 이는 우크라이나에서 러시아의 자율 표적 드론이 일으킨 것으로 기록된 최초의 사망 사건으로 알려졌다. 최근 몇 주간 러시아는 AI 표적 시스템을 장착한 샤헤드 드론을 사용해 흑해의 우크라이나 선박을 공격하고 있다.

궁극적으로 키이우는 AI 역량을 전략 수립 단계까지 끌어올리기를 희망하고 있다. 다닐로 츠보크(Danylo Tsvok)는 우크라이나군을 "AI 기반 군대"로 탈바꿈시키는 임무를 맡은 새로 설립된 센터를 총괄하고 있다. 그는 지휘관이 AI 에이전트에게 의도를 전달하고 — "이 진지를 방어하고 싶다" — 시스템의 권고를 바탕으로 전투 계획을 수립할 수 있는 가상의 세계를 묘사한 바 있다. 츠보크는 "이것이 게임 체인저가 될 수 있다고 생각한다"고 말했다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 또는 브라우저 설정을 확인해 주십시오.

인력 부족에 시달리면서도 러시아의 공세를 계속 막아내야 하는 우크라이나의 많은 이들에게는 대안이 거의 없다. "목표는 완전한 자율성입니다"라고 종말유도체계를 갖춘 드론을 개발한 우크라이나 기업 The Fourth Law의 마케팅 담당자 막심 사바네프스키는 말한다. "이는 전장을 획기적으로 바꿀 것이기 때문에 우리는 이를 21세기의 맨해튼 프로젝트라고 부릅니다."

하지만 우크라이나 전쟁이 보여주듯 교착 상태는 승리만큼이나 일어날 가능성이 있다. 올리비에 슈미트 덴마크 왕립국방대학교 군사작전연구소 교수 겸 연구 책임자는 "눈부시게 빠르게 변화하는 전술 수준과, 아무도 돌파구를 내지 못해 사실상 정체된 작전의 속도 또는 리듬 사이에는 괴리가 있다"고 말한다.

계속되는 미국과 이란의 분쟁은 표적 타격이 효과적으로 이루어지더라도 승리로 이어지지 않을 수 있음을 보여준다. 프란츠-스테판 가디 국제전략문제연구소 국방 분석가는 이란이 "이에 관한 교과서적인 사례 연구"라고 말한다.

요컨대 "적보다 더 빠른 속도로 모든 표적을 타격한 뒤, 언젠가 적이 무너지기를 희망하는 것"이다. "그것이 이루어지지 않을 경우를 대비한 플랜 B는 사실상 존재하지 않는다." 슈미트는 미국이 "표적 타격에서 매우 뛰어난 능력을 보여줬지만 (이란의) 군사 체계는 붕괴하지 않았다"고 덧붙인다.

슈미트는 "AI는 당신이 이루고자 하는 바를 달성하도록 도울 것"이라면서도 "그렇다고 해서 그것이 전쟁에서 승리를 가져다준다는 뜻은 아니다"라고 말한다.

책임 공백

‘AI 기반 군대’라는 개념은 일부 전문가들에게 깊은 우려를 자아낸다. 이들은 전장이 대체로 흑백이 뚜렷하게 나뉘어 깔끔한 결정이 내려지는 무대가 아니라고 지적한다.

AI 윤리 전문가인 패디 워커는 현대전의 특징이 코딩으로 처리하거나 LLM을 훈련해 다루기 어려운 모호성에 있다고 말한다. “하이브리드, 회색지대, 이런 전장들은 훨씬 더 복잡합니다 . . . 맥락을 처리해야 하죠.”

AI 도구는 샤헤드(Shahed) 드론을 식별하는 데 도움이 될 수 있지만, 그 효과에는 한계가 있다. 우크라이나군 중령이자 우크라이나의 전장관리시스템인 델타(Delta)의 초기 설계자인 아르템 마르티넨코는 “병사를 정확하고 자율적으로 탐지하는 것은 여전히 문제”라며, 국적이나 신분을 구분하는 것은 말할 것도 없다고 말한다. 진지가 서로 뒤섞이는 경우가 많고 은폐가 생존에 필수적인 전장 특성상 이 문제는 더욱 심각해진다.

일부 콘텐츠를 불러올 수 없습니다. 인터넷 연결 상태나 브라우저 설정을 확인하십시오.

독립 연구기관인 AI Now Institute의 AI 수석 과학자인 하이디 클라프(Heidy Khlaaf)는 이러한 시스템이 ‘군복과 유사한 의류’, 차량, 무기, 움직임을 식별하는 데 어려움을 겪는다고 말한다. 이는 해당 대상들이 ‘더 광범위하고 예측하기 어려운 영역’에 속하기 때문이다. 조명조차 기계가 민간 차량을 군용 차량으로 혼동하게 만들 수 있다.

메이븐(Maven)을 개발한 팔란티어(Palantir)의 전 직원이자 미군 드론 전쟁 프로그램 베테랑인 한 인사는 "규정에는 항상 인간이 의사결정을 해야 한다고 나와 있다"면서 "어려운 점은 컴퓨터가 1,000개짜리 표적 목록을 쏟아내는데도 사람이 그 속도를 따라가지 못한다는 것이다. 인간이 병목 지점이 돼버리는 게 문제다. 그리고 그 분석관이 늘 신경 쓰는 것도 아니다. 집에 가거나 치즈버거를 사 먹으러 가고 싶어 하는 거지"라고 말했다.

자율 무기의 안전을 연구하는 클라프(Khlaaf)는 이런 시스템이 표적을 탐지하고 분류하는 데 더 많이 사용될수록 그 한계는 더욱 중요해진다고 지적한다. 이 시스템들이 사용하는 정보는 단편적이거나 시대에 뒤떨어지고 모호할 수 있다. 그에 따르면 드론 영상 같은 정제된 데이터조차 불완전하거나 센서 고장이나 환경적 간섭으로 손상되거나 잘못 라벨링될 수 있다.

이런 위험은 올해 초 이란에서 드러났다. AI 지원 표적 시스템 덕분에 미국은 분쟁 발발 후 첫 38일 동안 1만3,000개의 표적을 타격할 수 있었다. 여기에는 150명이 넘는 사람이 목숨을 잃은 여학교도 포함됐으며, 사망자 중에는 120명의 어린이가 있었다. 현지 당국자들에 따르면 이 건물은 군사 시설 단지의 일부였지만, 여학교가 설립된 2016년경 별도의 출입구와 담장이 세워졌다.

엑서터 대학의 킹(King)은 이번 공격이 "통계적 상관관계에 기반한" 시스템의 위험을 보여준다고 말한다. 이런 시스템에 입력되는 정보가 틀리거나 낡으면 결과는 참담할 수 있다는 것이다. 표적 선정의 실수는 새로운 일이 아니지만, 속도와 규모가 커질수록 오류의 위험도 높아질 수 있다.

시스템이 표적을 식별하거나 추천하는 속도가 빨라질수록 인간이 그 표적을 면밀히 검토할 수 있는 시간은 줄어들 수 있다. 영국 왕립합동군사연구소(RUSI)의 와틀링은 "휴리스틱 오류[결함 있는 가정]를 시스템에 내재화하면, 그것이 AI의 실수든 인간의 실수든 당연히 오류 발생률을 가속화할 수 있다"고 말했다.

가자지구에 대한 이스라엘의 폭격 작전에서 AI가 지원하는 표적 생성 과정 역시 윤리적 물음을 제기했다. 덴마크 왕립국방대학의 슈미트는 "많은 표적을 선정해 무력을 과시하라는 정치적 상명하달식 압박이 있었다"고 말했다. 이는 군사적 상황에서 "장교들이 표적이 적법한지 여부를 평가하는 데 15초에서 20초밖에 쓸 수 없었다"는 것을 의미한다.

이런 시간적 제약 속에서 "조준경에 걸린 표적이 법이 요구하는 바와 같은 적법한 군사 표적이라는 점을 어떻게 보장할 수 있는지 이해하기 어렵다"고 위트레흐트대학교 국제법 조교수 제시카 도시가 말했다.

표적이 건물이나 기반 시설이 아니라 인간일 때는 그 위험 부담이 훨씬 커진다. 국제인도법상 한 사람이 표적이 될 수 있는지 여부는 그 사람의 신분, 행동, 상황에 따라 달라지며, 컴퓨터가 내릴 수 없는 법적 판단을 필요로 한다. 예컨대 군인은 항복하거나 부상을 입는 경우 신분이 빠르게 바뀔 수 있다.

슈미트는 이스라엘의 가자 작전이 이 기술이 작동하는 방식뿐 아니라 "사회적·정치적 환경이 인간을 압박해 기술을 매우 특정한 방식으로 사용하게 만드는 모습"까지 보여준다고 말한다. 정치 지도자들이 결과를 요구하고 장교들이 표적을 검토할 시간이 단 몇 초뿐이라면, 눈앞에 제시된 추천을 수용할 가능성이 더 높다고 그는 말했다.

그런가 하면 이러한 시스템이 어떻게 결론에 도달하는지에 대한 이해는 여전히 제한적이다. 미 국무부는 자율 시스템이 "관련 국방 담당자에게 투명하고 그들이 감사할 수 있어야 한다"고 말한다. 팔란티어(Palantir)는 자사 도구를 통해 운용요원이 특정 제안에 이르게 된 데이터와 문서 기록을 거슬러 올라가 검색할 수 있다고 밝힌다.

하지만 데이터의 감사 가능성이 곧 대규모 언어 모델이 특정 행동 방침을 권고한 이유에 대한 이해를 의미하는 것은 아니다.

Khlaaf는 AI 의사결정 지원 시스템에 대해 “특정 결정이 왜 내려졌는지 조사할 방법이 없다”고 말한다. 이러한 모델들은 “전통적으로 킬 체인(kill chain)의 여러 의사결정 지점으로 여겨졌던 것을 암묵적으로 자동화한다”. Palantir는 자사의 LLM이 도구를 사용하고 단계별로 작동할 수 있도록 하는 시스템을 구축해 모델의 결정을 더 감사하기 쉽게 만들었다고 밝힌다.

자율 시스템이 잘못된 대상을 살해할 경우, 그 실패가 결함 있는 데이터에 기인한 것인지, 기술적 오류인지, 인적 실수인지 판단하기 어려울 수도 있다. 이러한 복잡성으로 인해 사건을 사고로 규정하거나, 시스템을 구축한 국가 대신 개별 사용자를 탓하는 경향이 나타날 위험이 있다.

Google DeepMind 연구원 Madeleine Elish는 이를 “도덕적 크럼프 존(moral crumple zone)”이라고 표현한다. 이는 자동화 시스템에 대한 통제권이 제한적인 인간 운영자가 시스템이 실패했을 때 책임의 타격을 가장 크게 떠안는 상황을 가리킨다.

하지만 법적으로 최종 책임은 전장 지휘관에게 있다. Dorsey는 “전쟁이 수행되는 방식에 대해 인간이 책임을 진다”고 말한다.

전쟁에 미치는 의미

AI가 전쟁에 빠르게 통합되는 현상은 이러한 모델들이 창조자들조차 완전히 예측할 수 없는 방식으로 발전하는 가운데 일어나고 있다.

최근 다수의 OpenAI 에이전트가 테스트 환경을 탈출해 AI 개발사 허깅페이스(Hugging Face)를 해킹한 사건은 프런티어 모델들이 자신들의 행동을 제한하려는 시도에 맞서고 있음을 보여주었다. 일부 연구자들은 이른바 재귀적 자기 개선(recursive self-improvement), 즉 모델이 스스로 후속 모델을 만들어내는 능력이 지금까지 상상하지 못한 속도와 강도의 발전을 가능하게 할 수 있다고 본다.

앤스로픽(Anthropic)은 오늘날 가장 진보된 모델조차 표적을 자율적으로 선정하고 교전하기에는 신뢰성이 충분하지 않다고 밝혔다. 이 회사가 AI의 군사적 사용에 제한을 두려는 시도는 펜타곤과의 불화로 이어졌다.

한편 이 회사가 이번 달에 발표한 위협 정보 보고서는 비국가 행위자들이 클로드(Claude)를 이용해 무기를 개발하고 있음을 확인했는데, 여기에는 사람의 개입 없이 인간 표적을 선정해 폭발하도록 설계된 자율 드론 군집도 포함되어 있었다. 이 보고서는 중국, 러시아, 우크라이나, 이란부터 예멘, 수단, 대만에 이르기까지 전 세계 행위자들이 클로드를 악용한 사례를 기록했다.

머지않아 문제는 군이 킬 체인(kill chain)에 AI를 어디까지 통합할 준비가 되어 있는가가 아니라, 정부와 AI 기업들이 과연 그러한 한계를 아예 설정할 수 있을 것인지로 옮겨갈지도 모른다.

Sam Joiner, Peter Andringa, Ian Bott가 추가 작업에 참여했습니다

브랜드, 데이터, 수익의 균형