원칙 지킨 기업이 ‘위험’이 된 이유
AI 스타트업 앤스로픽이 미국 국방부를 상대로 소송을 제기하며 첨예한 논쟁이 법정으로 넘어갔습니다. 앤스로픽은 미국 행정부로부터 ‘공급망 위험’ 기업으로 지정되고, 연방기관 내 AI 사용이 금지되자 이 조치가 위험이며 사업에 심각한 위협을 가한다고 주장하며 맞섰습니다. 소송의 핵심은 정부가 기업의 윤리적 견해가 다르다는 이유만으로 자의적인 제재를 가하는 것은 표현의 자유 침해라는 점이었죠. 이 갈등의 시발점은 AI의 무기화 문제였습니다. 국방부는 앤스로픽에 ‘합법적인 모든 목적’을 위한 AI 사용 권한을 요청했지만, 앤스로픽은 대국민 감시 및 완전 자율형 살상무기 개발에는 기술을 제공할 수 없다는 입장을 고수했습니다. 정부는 이 입장이 국가 안보를 위협한다고 판단했고, 결국 앤스로픽을 위험 기업으로 지정하며 계약에서 배제한 것입니다.
‘인류 위한 AI’ 표방한 거인들의 이중성
앤스로픽의 소송에는 구글 딥마인드의 수석과학자 제프 딘을 포함한 30여 명의 기술 전문가들이 법정조언서를 통해 지지를 보냈습니다. 그들은 정부의 행위가 자의적인 권력 남용이며 IT 업계 전체에 나쁜 선례를 남길 수 있다고 우려했습니다. 그러나 아이러니하게도, 같은 기술 업계에서 ‘인류를 위한 AI’를 표방해온 다른 거대 기업들은 정반대의 길을 가고 있었습니다. 오픈AI는 앤스로픽이 퇴출된 직후 미 국방부와 ‘군사 작전 AI 활용 계약’을 체결하며 큰 논란을 빚었습니다. 2015년 인류 전체에 이익이 되는 AGI 개발을 사명으로 설립된 회사가 군사 계약을 맺은 것이어서 이용자들의 강한 반발과 시위를 불러왔죠. 구글 역시 무기 기술에 AI를 개발하지 않겠다는 ‘AI 원칙’을 발표한 바 있으나, 국방부와의 계약을 유지하고 있습니다. 이러한 움직임은 안전과 윤리를 외치던 기업들의 원칙이 실익 앞에서 흔들릴 수 있음을 보여주는 사례가 되고 있습니다.
전장에 배치된 AI와 미래의 가드레일
이 모든 논의의 배경에는 AI 기술이 이미 전쟁의 현장에서 막대한 영향력을 발휘하고 있다는 냉정한 현실이 자리잡고 있습니다. 미 공군은 최근 작전에서 AI를 활용해 단 하루 만에 1000곳 이상의 목표물을 정밀 타격하는 데 성공했습니다. AI는 방대한 데이터를 분석해 표적을 신속히 식별하고 최적의 공격 계획을 수립함으로써 작전 효율을 극대화했죠. 이는 AI가 이제 정보 수집부터 전략 수립, 실행에 이르기까지 전쟁의 핵심 요소로 자리매김했음을 의미합니다. 전문가들은 이러한 급속한 군사화 흐름 속에서 윤리적 안전장치, 이른바 ‘가드레일’이 시급하다고 목소리를 높입니다. 그들은 AI 감시 체계가 민주적 거버넌스에 위협이 될 수 있으며, 인간 개입 없이 작동하는 자율 무기 체계의 오작동 위험을 경고합니다. 현재의 갈등은 단순한 기업 대 정부의 소송이 아니라, 기술 발전의 속도와 방향성을 사회가 어떻게 통제할 것인지에 대한 근본적인 질문을 던지고 있습니다. 법적·윤리적 체계가 기술을 따라가지 못하는 상황에서 이번 소송의 결과는 AI의 미래 역할에 중요한 기준을 제시할 전망입니다.