작전 직전 멈춰선 나포 계획
2026년 9월 CNN이 전한 사건이 큰 파장을 일으켰습니다. 미군이 인공지능이 만든 허위 보고서를 근거로 중동 해역의 중국 선박을 나포하려다 실행 직전에 멈춰선 겁니다. 보고서에는 해당 선박이 핵무기 프로그램 관련 부품을 운반한다는 내용이 담겨 있었습니다.
작성자는 하와이 태평양특수작전사령부 소속 분석관이었습니다. 그는 AI 챗봇에 화물의 물질 정보를 질의했고, 챗봇은 공개 자료와 기밀 신호를 뒤섞어 핵무기 부품이라는 결론을 내놨습니다. 분석관은 이를 표준 보고서로 정리해 부대 전체에 회람했고, 사령부는 곧바로 차단 작전에 들어갔습니다. 무장 병력과 군용기까지 중동 항구에 배치됐죠.
상황이 뒤집힌 건 작전 직전이었습니다. 상위 당국이 보고서를 재검토하는 과정에서 AI가 화물을 잘못 식별한 사실이 드러났습니다. 핵물자와 연결할 근거가 애초에 없었다는 겁니다. 한 소식통은 이 보고서를 전적으로 거짓이라고 표현했습니다. 결국 미군은 작전을 중단했고, 양국이 무력 충돌로 치닫는 상황은 막을 수 있었습니다.
확대되는 AI, 제각각인 기준
이번 사건이 주목받는 건 단순한 실수가 아니기 때문입니다. 미군과 정보기관은 원시정보 분석부터 타격 목표 선정, 예산과 군수, 공급망 관리까지 사실상 전 영역에 AI를 들여놓았습니다. 속도를 요구하는 시스템에서 AI는 이미 없어서는 안 될 도구가 된 셈입니다.
그런데 도입 방식이 워낙 흩어져 있습니다. 부서마다 쓰는 도구가 다르고 안전 기준도 제각각입니다. AI가 만든 정보를 걸러낼 통일된 검증 절차가 없다는 지적이 나옵니다. 전직 미 고위 관계자는 내부용 AI 도구 상당수가 상용 제품을 베낀 수준이라 오류 가능성이 높다고 경고했습니다.
특히 젊은 세대 분석관들이 AI 결과를 무비판적으로 받아들이는 경향이 위험 요인으로 꼽힙니다. 국방장관이 1월 AI 가속화 전략을 발표하며 도입을 밀어붙인 만큼, 구조적 허점은 앞으로 더 자주 드러날 수 있습니다.
인간이 있어도 부족한 안전장치
가장 뼈아픈 대목은 인간의 개입만으로 충분하지 않다는 점입니다. 의사결정에 사람이 들어가 있더라도 민간인 사상이나 아군 오인 사격을 막을 실질적 지침은 부족합니다. 빠른 판단을 요구하는 압박 속에서 검증이 건너뛰어지는 구조 자체가 문제입니다.
AI 활용을 줄이는 건 현실적인 답이 아닙니다. 관건은 속도와 정확성 사이의 균형을 어떻게 제도로 붙잡느냐입니다. 도구별 신뢰성을 확인하는 체계와 부처를 아우르는 통합 가이드라인 마련이 시급하다는 목소리가 커지는 이유입니다. 미중 충돌을 막은 이번 사건이 운 좋은 사례로 남을지, 경고로 남을지 지켜볼 일입니다.