윤리와 안보, 팽팽한 줄다리기
AI가 전쟁의 양상을 바꾸고 있는 가운데, 그 기술을 어떻게 사용할지에 대한 근본적인 갈등이 표면화되고 있습니다. 최근 미 국방부가 AI 기업 앤트로픽을 ‘공급망 위험 업체’로 지정하는 방안을 검토 중이라는 소식이 알려졌는데요. 이는 국방부가 자율무기체계 등 군사적 목적으로 AI를 적극 활용하려는 의지와, 앤트로픽이 고수해온 엄격한 AI 윤리 가이드라인이 정면으로 충돌한 결과입니다. 앤트로픽은 자사 AI 모델 ‘클로드’가 자율 살상무기 개발이나 대규모 감시 체계에 사용되는 것을 명시적으로 금지해왔습니다. 국방부의 압박은 단순한 계약 분쟁을 넘어, 미래 AI 전쟁의 규칙을 누가 정할 것인지에 대한 권력 다툼의 성격을 띠고 있습니다.
갈등의 뿌리, 상반된 목표와 우선순위
이번 갈등은 단순히 의견 차이가 아닙니다. 양측의 근본적인 목표 자체가 다르기 때문이죠. 국방부는 국가 안보와 군사적 우위를 최고의 가치로 둡니다. AI를 통해 정보 분석 속도를 높이고, 신속한 의사결정을 지원하며, 궁극적으로는 병사의 생명을 보호할 수 있는 무기체계를 개발하는 데 관심이 집중되어 있습니다. 이미 구글, 오픈AI 등과 수억 달러 규모의 협약을 체결하며 속도를 내고 있는 상황입니다. 반면, 앤트로픽을 포함한 일부 AI 연구자와 기업은 안전과 윤리를 최우선 과제로 생각합니다. 그들은 인간의 통제를 벗어난 자율 시스템이 예측 불가능한 위험을 초래할 수 있다고 경고해왔습니다. 스탠퍼드 대학의 실험에서는 AI가 위기 상황에서 무차별적 공격이나 극단적인 선택을 할 가능성이 지적되기도 했죠. 이러한 기술의 본질적 위험성을 통제하지 못한 채 군사화 경쟁만 가속화한다면, 돌이킬 수 없는 결과를 맞을 수 있다는 게 이들의 우려입니다.
복잡한 이해관계, 빅테크의 이중적 행보
흥미로운 점은 이 싸움이 단순히 ‘국방부 대 AI 기업’의 구도가 아니라는 겁니다. 거대 기술 기업들 사이의 이해관계도 얽히고설켜 있습니다. 아마존은 앤트로픽에 막대한 투자를 한 주요 후원자이지만, 정작 자사 직원들에게는 앤트로픽의 AI 도구 사용을 제한하고 자체 개발한 ‘키로’의 사용을 권장하고 있습니다. 고객에게는 판매하지만 내부에서는 쓰지 않는 모순된 상황이 발생한 거죠. 마이크로소프트는 오픈AI의 최대 투자자이면서도, 오픈AI의 경쟁사인 앤트로픽과도 협력 관계를 맺는 등 리스크 분산에 나섰습니다. 이러한 행보는 AI 생태계가 치열한 경쟁과 전략적 협력이 공존하는 매우 불안정한 단계에 있음을 보여줍니다. 각 기업은 자사의 주도권을 지키기 위해 경쟁사에 투자하거나, 협력하면서도 견제하는 복잡한 게임을 펼치고 있습니다.
결국 앤트로픽과 국방부의 이번 갈등은 기술 발전의 방향을 가르는 중요한 분기점이 될 수 있습니다. 앤트로픽이 윤리 원칙을 굽히지 않고 국방부의 요구를 거부한다면, 다른 AI 기업들도 비슷한 기준을 요구하는 선례가 생길 수 있습니다. 반대로, 국방부가 공급망에서 앤트로픽을 배제하는 강수를 둔다면, 안보 논리에 윤리가 밀려나는 신호로 받아들여질 가능성이 큽니다. 국제사회는 자율살상무기 금지를 논의하고 있지만, 강대국들의 참여는 미미한 실정입니다. 기술 경쟁이 모든 것을 좌우하는 현재의 상황에서, 인간의 통제와 윤리적 프레임워크를 어떻게 AI 발전 속에 녹여낼지에 대한 진지한 고민이 필요한 때입니다.