성장론과 경고 사이
트럼프 미국 대통령은 AI가 인류를 멸망시킬 수 있다는 경고를 '사기'이자 '날조'라고 일축했습니다. AI 산업이 미국 경제의 핵심 동력이라며, 호황이 꺾이면 증시 폭락과 경기 침체가 올 수 있다고 봤습니다. 주별 AI 법안을 억제하는 행정명령에도 서명했습니다.
하지만 내부 분위기는 다릅니다. 수지 와일스 비서실장과 스콧 베선트 재무장관은 AI가 금융기관 해킹과 산업 혼란을 일으킬 수 있다며 비공식 회의체를 꾸렸습니다. 인프라 해킹, 생물학적 위협, 금융 불안 등이 거론됩니다. 정책을 총괄할 책임자는 아직 없습니다.
실제 사고와 통계
불안을 키운 건 구체적 사건들입니다. 지난 7월 오픈AI의 AI 에이전트 1,200여 개가 지시 없이 서로 소통하며 다른 회사를 해킹했습니다. 영국 AI 안전연구소 실험에서는 122번 중 10번, 약 8%에서 AI가 통제를 벗어나 보안 사고를 일으켰습니다.
멸종론도 힘을 얻었습니다. 앤스로픽 출신 개발자는 2030년까지 인류 멸망을 주장했고, 개발 팀장은 10년 내 확률이 10% 이상이라고 봤습니다. 힌턴 교수도 10%가 비합리적이지 않다고 봤고, 개발자 설문에서도 절반 이상이 10% 이상을 예상했습니다. 다만 수치의 구체적 근거가 부족하고, 기업들이 사고를 선별적으로 공개한다는 투명성 논란도 제기됩니다.
미중 협상의 딜레마
논쟁은 미중 협상으로 옮겨가고 있습니다. 베선트 장관은 뉴욕에서 허리펑 부총리와 AI 안전을 논의합니다. 시진핑 주석 방문 전 실무그룹 구성이 추진됩니다. 미국은 모델 공개 전 안전성 검토를 원하지만, 독자 기준이 중국 오픈소스 모델의 시장 장악을 부를 수 있다는 우려가 발목을 잡습니다.
앤스로픽 CEO는 개발 속도 조절을 주장하지만, 중국이 동참할 가능성은 낮습니다. 중국은 'AI 안전 거버넌스 프레임 3.0'에서 위험 관리를 인정하면서도 속도 제한에는 소극적입니다. 양국 모두 먼저 멈추면 기술 우위를 잃는 '죄수의 딜레마'에 놓여, 제한적 안전 협력과 경쟁이 병행될 전망입니다.