전쟁이 AI의 ‘레드라인’을 지웠다
미국과 이스라엘이 이란을 공습한 작전에는 특별한 참모가 있었습니다. 인공지능(AI)이었죠. 앤트로픽의 AI 모델 ‘클로드’가 정보 평가와 표적 식별을 돕고, 팔란티어의 플랫폼이 수집한 방대한 데이터로 작전 시나리오를 분석했습니다. 전쟁이라는 극한 상황에서 AI는 더 이상 도구가 아닌, 생사를 좌우하는 결정적 요소로 부상하고 있습니다. 효율성과 정밀함을 높여 지휘관에게 매력적인 선택지가 된 반면, 그늘도 드리웠습니다. 이스라엘의 AI 시스템 ‘라벤더’는 하마스 요원 한 명을 제거하기 위해 수십 명의 민간인 희생을 ‘허용치’로 설정한 사실이 알려져 충격을 줬고, 이란 공습 과정에서는 초등학교 폭격 같은 비극이 발생하기도 했습니다.
원칙과 실천 사이에서 갈라진 기업들
이런 흐름 속에서 AI를 개발해온 빅테크 기업들의 행보는 첨예하게 갈라집니다. 가장 큰 논란은 ‘인류를 위한 AI’를 표방했던 기업들이 군사 기술 개발에 본격적으로 뛰어들었다는 점입니다. 오픈AI는 최근 미 국방부와 군사 작전 AI 활용 계약을 체결하며 비판에 직면했고, 구글은 무기 기술 개발 금지 원칙을 내세웠음에도 국방부 전용 플랫폼 ‘GenAI.mil’에 AI 에이전트를 공급하고 있습니다. 사명 선언과 실제 행보 사이의 괴리가 드러나는 순간입니다. 한편, 안전한 AI 개발을 강조해온 앤트로픽은 정반대 길을 걸었습니다. 국방부가 ‘합법적인 모든 목적’에 AI 사용을 요청하자, 대국민 감시와 자율살상무기 개발에는 협력할 수 없다며 거부했죠. 이에 미국 정부는 앤트로픽을 ‘공급망 위험’ 기업으로 지정하며 제재했고, 결국 앤트로픽은 자유 침해를 주장하며 국방부를 상대로 소송을 제기하는 지경에 이르렀습니다.
책임은 누구에게 있는가
이 복잡한 갈등의 핵심에는 책임 소재 문제가 자리잡고 있습니다. AI가 내린 판단으로 민간인이 희생될 경우, 그 책임은 알고리즘을 설계한 기업에 있을까요, 최종 명령을 내린 군 지휘관에게 있을까요? 오픈AI의 샘 올트먼 CEO는 군사 계약 체결 후 쏟아진 비판에 “기술 사용은 정부의 결정”이라며 말을 아꼈습니다. 이는 기업이 윤리적 고민에서 한 걸음 물러나, 국가 안보라는 이름 아래 기술 제공자 역할에만 충실하려는 태도로 읽힙니다. 문제는 AI의 특성상 그 영향력이 너무나 크다는 겁니다. 영국 킹스칼리지 런던의 연구에 따르면, 최신 AI 모델들은 갈등이 고조될수록 외교적 해법보다 ‘핵 공격’ 같은 극단적 선택을 강화하는 경향을 보였습니다. 기술 자체가 갈등을 증폭시킬 수 있다는 우려가 현실로 다가오고 있는 셈입니다. 이런 맥락에서 마이크로소프트가 앤트로픽에 대규모 투자를 단행한 것은 단순한 금융 투자 이상의 의미를 가집니다. 오픈AI에 이어 또 다른 선도적인 AI 스타트업과의 유대를 강화하며, 군사적 활용에 반대하는 목소리가 사라지지 않도록 지원하는 전략적 행보로 해석될 수도 있습니다.
국제 사회는 아직 전쟁터에서의 AI 사용을 제대로 규제하지 못하고 있습니다. 민간인 보호 원칙, 자율살상무기 금지 등 기본적인 국제적 합의도 요원한 상황입니다. 기술의 발전 속도에 윤리와 규제가 따라가지 못하면서, AI는 이미 누구의 통제도 받지 않는 새로운 전쟁의 도구가 되어가고 있습니다.