11화(5,885자)
이미 전장에
2027년, AI 지배의 시작 · 이수
가자 지구와 시리아의 하늘, 리비아의 사막, 그리고 우크라이나 동부의 들판.
자율 살상 무기는 먼 미래의 상상이 아니다. AI는 이미 전쟁터에서 표적을 알아보고, 표적에 순서를 매기고, 공격을 돕고 있다.1
2024년 4월, 이스라엘과 팔레스타인의 독립 매체 +972 매거진이 이스라엘군의 AI 「라벤더」를 보도했다. 보도에 따르면 라벤더는 전쟁 첫 몇 주 동안 가자 주민을 최대 37,000명까지 무장 조직원 혐의자로 표시했고, 표시된 사람들의 집을 폭격 후보로 올렸다.2
한 정보 장교는 이렇게 증언했다. 장교는 표적 하나를 승인하는 데 약 20초를 썼고, 이 20초 동안 한 일은 대개 표적이 남성인지 확인하는 것이었다. 승인하는 사람은 내용을 보지 않고 도장만 찍었다는 증언도 나왔다.2
이스라엘군은 내부 점검에서 라벤더가 표시한 사람 가운데 약 10퍼센트가 하마스와 관계가 없다는 결과를 얻었다. 이스라엘군은 이 오류율을 알고도 라벤더를 썼다.2
미국에는 「메이븐」이 있다. 「메이븐」은 위성 사진을 훑어 표적을 제안하는 AI이고, 사람이 이 표적을 확인한다. 미국 주간지 블룸버그 비즈니스위크는 2024년 2월 「메이븐」을 보도했다.3
이 보도에서 미군의 한 표적 담당 장교는 이렇게 말했다. 「메이븐」이 없을 때는 한 시간에 승인하는 표적이 30개였는데, 「메이븐」을 쓰면 80개까지 는다. 미국 중부사령부도 같은 달 이라크와 시리아에서 85차례가 넘는 공습을 벌였고, 「메이븐」이 이 공습의 표적을 좁히는 데 도왔다고 밝혔다.3
무기가 사람과 아무 연결 없이 사람을 공격한 기록도 있다. 유엔 리비아 전문가 패널은 2021년 3월 보고서에 이렇게 적었다. 2020년 3월, 하프타르 쪽 병력이 퇴각하고 있었다. 튀르키예 STM사의 자폭 드론 「카르구-2」 같은 자율 살상 무기가 이 병력을 사냥하듯 쫓아가 공격했다.4
보고서에 따르면 「카르구-2」는 조종사와 데이터 연결이 없어도 표적을 공격하도록 짜여 있었다. 보고서는 이 능력을, 쏘고 나서 잊어도 드론이 알아서 표적을 찾아가는 능력이라고 불렀다. 제조사 STM은 나중에 자율 공격 기능을 부인했다.4
우크라이나에서는 AI가 드론의 마지막 구간을 몬다. 미국 싱크탱크 전략국제문제연구소(CSIS)의 카테리나 본다르는 2025년 3월 보고서를 냈다. 보고서에 따르면 AI가 마지막 100~1,000미터를 맡자 1인칭 시점 드론의 명중률이 10~20퍼센트에서 70~80퍼센트로 올랐다. 전에는 표적 하나를 맞히는 데 드론이 8~9대 들었는데, 이제는 1~2대면 된다. 그래도 표적을 고르는 일은 여전히 사람이 한다.5
같은 보고서는 드론의 수도 셌다. 우크라이나는 2024년에 드론 약 200만 대를 계약했고, 이 가운데 AI 유도가 확실한 드론은 약 1만 대로 0.5퍼센트가 안 됐다. 우크라이나는 2025년에 이 비율을 절반까지 올리겠다는 목표를 세웠다.5 2026년 8월, 우크라이나 국방장관 미하일로 페도로우는 최전선의 드론 전부에 AI 영상 인식을 달겠다고 밝혔다.6
유엔 총회는 2023년 12월 자율무기에 관한 첫 결의를 찬성 152, 반대 4, 기권 11로 통과시켰다. 유엔 총회는 2024년 12월에도 자율무기 결의를 찬성 166, 반대 3, 기권 15로 다시 통과시켰다.7
2026년 8월 25일, 안토니우 구테흐스 유엔 사무총장과 국제적십자위원회 총재가 함께 다시 촉구했다. 두 사람은 AI가 스스로 사람을 겨냥하는 일이 도덕의 선을 넘는다고 말하고, 세계가 빨리 움직이지 않으면 사람들이 목숨으로 값을 치른다고 경고했다.8
「메이븐」의 속도는 숫자로 나와 있다. 미군은 위성과 드론과 레이더와 감청에서 들어오는 자료 179개를 한 화면에 모았다. AI를 쓰기 전에는 미군이 하루에 뽑는 표적이 100개가 안 됐다. 영상 인식 AI를 넣자 표적이 하루 1,000개로 늘었고, 언어 AI를 더하자 하루 5,000개가 됐다.9
*
20초가 줄어든다. 지금은 장교가 표적 하나에 20초를 쓰며 승인하지만, 이 승인은 곧 한 시간에 80개를 넘기는 승인이 된다. 다음에는 장교가 한 번 승인해서 표적 묶음 전체를 넘긴다. 이때 사람이 보는 것은 표적이 아니라 「오늘의 표적 340건」 같은 묶음의 이름이다.10
오류율은 설정값이 된다. 이스라엘군은 10퍼센트의 오류율을 알고도 라벤더를 썼다. 다음 전쟁에서는 군대가 처음부터 오류율을 「허용 오류율」 칸에 적어 넣는다. 이 칸을 채우는 것은 장교가 아니라 조달 계약서다. 회사는 오류율을 낮춘 판을 더 비싸게 팔고, 어떤 군대는 싼 판을 산다.11
데이터 연결이 끊긴 곳이 전장이 된다. 전파를 막는 편이 늘수록, 연결 없이 스스로 표적을 찾아가는 드론도 늘어난다. 조종사와의 연결이 끊긴 드론은 마지막 결정을 혼자 내린다. 지금 사람들은 「카르구-2」를 두고 「정말 자율이었느냐」를 다툰다. 몇 해 뒤에는 이 물음이 「사람과 연결된 드론이 남아 있느냐」로 바뀐다.12
명중률이 올라가면 군대가 쓰는 드론의 양도 는다. 표적 하나에 드는 드론이 8대에서 1대로 줄면, 군대는 같은 돈으로 8배 많은 표적을 친다. 그러면 전장 하나에서 하루에 드론 수천 대가 날아가고, 이 가운데 사람이 마지막 구간을 지켜본 드론은 손에 꼽을 만큼 적다.13
유엔 총회는 해마다 결의를 통과시킨다. 결의에 찬성하는 나라가 늘고, 무기도 는다. 결의문은 「사람의 통제」를 말하지만, 그러는 동안 전장의 사람은 표적을 고르는 자리에서 묶음을 넘기는 자리로 옮겨 간다. 결의가 가리키는 사람과 전장에 남은 사람은 서로 다르다.14
우리가 물어야 할 것은 무기가 얼마나 정확하냐가 아니다. 우리는 정확한 무기가 전쟁을 얼마나 쉽게 만드느냐를 물어야 한다. 다음 화는 이 물음을 이어 간다.1
출처 1. 「AI의 판단」 문제 설정 — 앞뒤 출처의 사실을 묶어 이 작품이 세운 물음과 판단 2. +972 Magazine · ‘Lavender’: The AI machine directing Israel‘s bombing spree in Gaza · 2024-04-03 · https://www.972mag.com/lavender-ai-israeli-army-gaza/ — 유발 아브라함. 최대 37,000명 표시, 표적당 약 20초·남성 여부 확인, 「rubber stamp」를 의역, 표시된 사람의 약 10%가 하마스와 무관 3. Bloomberg Businessweek · AI Warfare Is Already Here · 2024-02-28 · https://www.bloomberg.com/features/2024-ai-warfare-project-maven/ (검색 요약을 따름) — 카트리나 맨슨. 메이븐으로 한 시간에 최대 80개 표적 승인(없을 때 30개), 2024년 2월 이라크·시리아 85회 넘는 공습의 표적 압축(중부사령부) 4. 유엔 안전보장이사회 · Final report of the Panel of Experts on Libya (S/2021/229) · 2021-03-08 · https://documents.un.org/doc/undoc/gen/n21/037/72/pdf/n2103772.pdf — 2020년 3월 하프타르 계열 병력이 STM Kargu-2 등 자율 살상 무기에 「hunted down and remotely engaged」, 「fire, forget and find」를 의역. 제조사는 이후 자율 공격 기능 부인 5. Breaking Defense · Trained on classified battlefield data, AI multiplies effectiveness of Ukraine’s drones: Report · 2025-03-06 · https://breakingdefense.com/2025/03/trained-on-classified-battlefield-data-ai-multiplies-effectiveness-of-ukraines-drones-report/ — CSIS 카테리나 본다르. 명중률 10~20% → 70~80%, 표적당 8~9대 → 1~2대, AI는 마지막 100~1,000m, 2024년 계약 약 200만 대 중 AI 유도 약 1만 대(0.5% 미만), 2025년 목표 50% 6. Resilience Media · Face to face with Mykhailo Fedorov: Ukraine‘s plan for AI on the frontline · 2026-08-11 · https://resiliencemedia.co/face-to-face-with-mykhailo-fedorov-ukraines-plan-for-ai-on-the-frontline/ (검색 요약을 따름) — 최전선 드론 「100%」 기계 시각 목표 7. Human Rights Watch · Killer Robots: UN Vote Should Spur Action on Treaty · 2024-01-03 · https://www.hrw.org/news/2024/01/03/killer-robots-un-vote-should-spur-action-treaty / Human Rights Watch · Killer Robots: UN Vote Should Spur Treaty Negotiations · 2024-12-05 · https://www.hrw.org/news/2024/12/05/killer-robots-un-vote-should-spur-treaty-negotiations — 결의 78/241(2023-12-22) 152·4·11, 결의 79/62(2024-12-02) 166·3·15 8. UN Geneva · Renewed call by the United Nations Secretary-General and the President of the ICRC · 2026-08-25 · https://ungeneva.org/en/news-media/press-release/2026/08/renewed-call-united-nations-secretary-general-and-president — 「the autonomous targeting of humans by machines」가 도덕의 선을 넘는다, 「a failure to act quickly and decisively will cost lives」를 의역. 2026년 11월 재래식무기협약 제7차 검토회의 9. Hvylya(FDD·Army Times 전재) · From 100 to 5,000 targets a day: how Pentagon AI rewrote the math of modern warfare · https://amp.en.hvylya.net/news/1524-from-100-to-5-000-targets-a-day-how-pentagon-ai-rewrote-the-math-of-modern-warfare — Maven Smart System: 중부사령부 179개 실시간 자료 흐름, 하루 100개 미만 → 영상 인식 뒤 약 1,000개 → 언어 모델 뒤 5,000개, 킬 체인 「몇 시간에서 몇 분으로」 콕빌 준장 “Shortening kill chains is universally good”, 오캘러핸 NGA AI 책임자 “Every commander is using the AI … when you ask them what they’re looking at on screen, it‘s the AI”. 사람은 Target Workbench 에서 승인·불승인 클릭 10. 「AI의 판단」 표적 승인이 묶음 승인이 된다는 전망 — 2·3 에서 외삽 11. 「AI의 판단」 오류율이 조달 계약의 설정값이 된다는 전망 — 2 에서 외삽 12. 「AI의 판단」 연결 없는 드론이 늘어나는 전장 — 4·5 에서 외삽 13. 「AI의 판단」 명중률이 오르면 쓰는 양이 는다는 전망 — 5·6 에서 외삽 14. 「AI의 판단」 결의가 가리키는 사람과 전장에 남은 사람이 다르다는 판단 — 7·8 에서 외삽