미국 국방부가 전투 중 표적을 선정하는 절차에 AI를 적극적으로 활용할 수 있도록 군사 원칙을 비공개로 개정한 것으로 확인됐다. 기존의 ‘인간이 행동을 시작하는 시스템(Human-in-the-loop)’에서 ‘인간의 모니터링 아래 AI가 행동을 시작하는 시스템(Human-on-the-loop)’으로 원칙을 전환하면서, 앞으로 AI가 전쟁 수행 과정에서 더 큰 역할을 맡게 될 가능성이 커졌다는 평가가 나온다.

블룸버그가 입수한 개정 문서에 따르면, 미 국방부는 지난 4월 ‘합동 표적 설정(Joint Targeting)’ 지침을 수정했다.

이 문서는 미군이 전투에서 무엇을 공격할지 결정하는 공식 절차를 규정한 것으로, 개정본에는 “AI가 행동을 시작하고 인간이 이를 모니터링하는 시스템”을 미래 지향적 모델로 제시하는 내용이 포함됐다.

이는 현재의 “인간이 행동을 시작하는 시스템”에서 한 단계 더 나아간 개념이다. 문서에는 “미래 전쟁의 속도와 적대국의 AI 발전 수준을 고려하면 미군도 완전 자율 시스템을 채택해야 할 수 있다”라고 명시됐다.

미 국방부는 최근 AI를 활용해 정보 수집부터 지휘관의 결심, 타격까지 이어지는 ‘센서-사수(sensor-to-shooter) 사이클’을 단축하겠다고 밝힌 바 있다. AI가 방대한 정보와 작전 데이터를 인간보다 훨씬 빠르게 분석해 지휘관에게 선택지를 제공함으로써 전투 속도를 높이겠다는 구상이다.

다만 국방부는 AI가 독자적으로 표적을 선정하거나 공격을 수행하도록 허용하는 것은 아니며, 최종 판단은 지휘관이 내린다고 설명했다.

이번 개정판은 AI 의존에 따른 위험성도 인정하고 있다. “AI 강화 의사결정은 심각한 도덕적·법적 딜레마를 초래할 수 있으며, 이를 완화하기 위한 명확한 윤리 지침이 필요하다”라고 밝혔다.

특히 최근 이란 미나브 지역에서 혁명수비대 해군 기지 인근 초등학교가 공격받아 약 120명의 어린이가 사망한 것으로 추정되는 사건이 논란이 되자, 개정 문서는 민간인 피해 완화(civilian harm mitigation) 관련 내용을 새로 추가했다.

또 부록에서는 “자동화는 인간의 사고나 주도적인 소통을 대체할 수 없다”라고 명시해 일종의 안전장치를 마련했다. 문서는 어떤 자동화 도구를 사용하더라도 지휘관이 표적 우선순위, 공격 효과, 작전 시점, 전쟁법 준수에 대한 최종 책임을 진다고 강조했다.

미 국방부는 AI가 표적 데이터의 품질을 높이고, 정보 공백을 메우며, 데이터 흐름을 자동화하는 데 큰 역할을 할 것으로 기대하고 있다. 구글 지도와 같은 공개 정보를 자동으로 대조해 이상 징후를 탐지하고 인간 검토를 지원하는 방식도 거론된다.

하지만 국제사회에서는 치명적 자율무기(Lethal Autonomous Weapons)에 대한 우려도 커지고 있다. 안토니우 구테흐스 유엔 사무총장은 이를 “정치적으로 용납될 수 없고 도덕적으로 혐오스럽다”라며 금지를 촉구해 왔다.

한편, 앤트로픽은 ‘완전 자율 무기’에 대해서는 기술이 아직 충분히 신뢰할 만한 수준이 아니며, 무력 사용의 최종 결정은 인간이 내려야 한다는 입장을 고수하고 있다.

박찬 기자 cpark@aitimes.com