AI 전쟁 시대… 美 국방부, AI 통제·보안 문제 직면

민간 AI 의존 커지며 공급망 보안·통제 문제 드러나

 

 

 

미국 국방부가 인공지능(AI)을 전장에 본격 도입하는 과정에서 예상보다 더 큰 문제에 직면했다. 단순히 기술 성능이 아니라, 해당 기술을 얼마나 안전하게 통제하고 보호할 수 있는지가 핵심 과제로 떠올랐다.

최근 미 합참의장 댄 케인 장군은 AI 기반 자율무기가 더 이상 미래 개념이 아니라며, 군 작전 전반에서 핵심 요소가 될 것이라고 밝혔다. 이는 드론이나 자동화 무기를 넘어, 전장 의사결정 자체에 AI가 깊숙이 관여하게 된다는 의미다.

하지만 이 같은 변화 뒤에는 보이지 않는 위험이 존재한다. 바로 소프트웨어 보안과 통제 문제다.

전쟁의 중심이 ‘무기’에서 ‘소프트웨어’로 이동

군 당국은 현재 지휘통제 시스템, 물류, 표적 선정 등 다양한 영역에 AI를 적용하고 있다. 문제는 이러한 시스템이 적의 공격 환경에서도 정상적으로 작동해야 한다는 점이다.

AI 모델은 데이터에 의존한다. 만약 적이 데이터를 조작하거나 시스템을 교란하면 잘못된 판단이 내려질 수 있다. 이른바 데이터 오염이나 모델 조작 공격이다.

또한 AI 시스템은 기존 무기와 달리 지속적으로 업데이트가 필요하다. 이 과정에서 보안 취약점이 생길 가능성도 크다. 단 한 번의 오류가 실제 전장에서는 치명적인 결과로 이어질 수 있다.

군 내부에서는 “이제 중요한 것은 AI가 얼마나 똑똑한지가 아니라, 얼마나 믿을 수 있는가”라는 인식이 확산되고 있다.

민간 AI 의존…새로운 공급망 리스크로 떠올라

문제는 AI 기술의 상당 부분이 민간 기업에서 개발되고 있다는 점이다. 군은 이미 다양한 민간 AI 모델과 소프트웨어에 의존하고 있다.

대표적으로 앤트로픽의 사례다. 이 회사는 강력한 AI 모델 ‘미토스 프리뷰(Mythos Preview)’ 공개를 제한하며 보안과 오용 가능성을 이유로 들었다.

그러나 미 정보기관은 해당 기술에 관심을 보였고, 일부 접근 권한이 제공된 것으로 알려졌다. 동시에 앤트로픽은 자사 AI가 자율무기나 감시에 사용되는 것을 제한하는 정책을 유지했다.

이로 인해 미 국방부는 해당 기업을 ‘공급망 리스크’로 지정했다. 이는 일반적으로 해외 기업에 적용되는 조치였지만, 이번에는 자국 기업에도 적용되면서 큰 논란이 됐다.

군은 기술 활용과 통제를 원하고, 기업은 윤리와 책임을 강조한다. 이 간극이 AI 시대의 새로운 보안 리스크로 떠오르고 있다.

실제 전장에서 이미 제기된 AI 책임 문제

AI의 위험은 이론에 그치지 않는다. 최근 미국 의회에서는 중동 지역 공습 과정에서 AI가 활용됐는지 여부를 두고 논란이 제기됐다.

특히 민간 피해가 발생한 사례에서 AI가 의사결정에 관여했는지, 그리고 그 책임은 누구에게 있는지에 대한 질문이 이어졌다.

이는 단순한 기술 문제가 아니다.

AI가 판단을 내리는 순간, 그 결과에 대한 책임 구조도 함께 설계되어야 한다는 의미다.

현재 군 내부에서도 AI 시스템의 검증, 감사, 통제 기준을 어떻게 마련할 것인지에 대한 논의가 진행 중이다.

“계약부터 바꿔야 한다”…

또 다른 문제는 군의 조달 방식이다. 기존 군 계약은 전투기나 장비처럼 고정된 하드웨어 중심으로 설계돼 있다.

하지만 AI는 계속 진화하는 소프트웨어다. 지속적인 업데이트와 보안 패치가 필요하다. 기존 계약 방식으로는 이런 특성을 반영하기 어렵다.

댄 케인 장군은 “더 나은 계약 구조가 필요하다”고 강조했다.

정부와 기업이 함께 책임을 나누고, 보안과 유지관리를 지속적으로 보장하는 방식으로 바뀌어야 한다는 것이다.

이 문제는 단순한 행정 절차가 아니라, 실제 전장 대응 능력과 직결된다.

기술 경쟁보다 더 중요한 ‘신뢰의 문제’

현재 미국은 AI 군사 활용에서 속도를 내고 있다. 하지만 속도만으로는 해결되지 않는 문제가 있다.

AI 시스템이 해킹되거나 조작되면, 오히려 적에게 유리한 결과를 낳을 수 있다. 또한 예측하지 못한 행동을 할 가능성도 존재한다.

결국 핵심은 기술 자체가 아니라, 그 기술을 얼마나 안전하게 통제하고 신뢰할 수 있는지에 있다.

AI 전쟁 시대가 본격화되면서, 전장의 승패는 단순한 무기 성능이 아니라 ‘보안과 통제 능력’에서 갈릴 가능성이 커지고 있다.

 

 

[출처 : 데일리시큐]