속도 조절론과 확산론의 충돌
최첨단 AI 개발 속도를 늦춰야 한다는 목소리가 커지고 있습니다. Anthropic CEO 다리오 아모데이는 최근 블로그에서 프론티어 AI 속도 조절이 필요하다며 10년 안에 인류 멸종 위험이 있을 수 있다고 경고했는데요. 일부 연구자는 인류 전멸 확률이 10%를 넘는다고 주장했습니다.
오픈AI 샘 올트먼, 구글 딥마인드 데미스 허사비스, 일론 머스크 등도 독립 평가자 도입과 자율 규제 필요성에 동의했습니다. 하지만 기업 간 시장 점유율 경쟁은 속도 감축을 어렵게 만드는 죄수의 딜레마로 작용합니다.
반대로 도널드 트럼프 미국 대통령은 속도 조절 논의를 음모론이라고 일축했습니다. 중국 외교부도 이를 공포 조장이라 반박했는데요. 미국과 중국 모두 상대가 멈추지 않을 것으로 보고 감축보다 우위 확보에 무게를 두는 모습입니다.
트럼프의 AI군 창설과 명칭 변경
트럼프 대통령은 우주군처럼 AI군을 창설하겠다는 구상을 내놨습니다. AI 차르를 지명해 부대 조직과 운영을 맡기고, 지능이 높은 인재만 선발하겠다는 겁니다. AI가 차세대 산업혁명이며 미국 GDP의 25%를 차지할 수 있다고도 했습니다.
그는 AI 인류멸망론을 급진좌파가 만든 사기극이라고 비난했습니다. 또 인공지능이라는 용어가 부정확하다며 SI, EI 같은 대체 명칭을 제안하고 투표를 요청했습니다. AI 위험을 부정하면서도 중국과의 기술 경쟁에서 앞서야 한다는 점을 거듭 강조한 셈입니다.
군비경쟁을 넘어 안전 경쟁으로
AI 기업들은 독립 감독기구 설립을 제안하지만, 현재 그런 기관은 존재하지 않습니다. GPU 사용량이나 출시 일정만으로 감축 여부를 객관적으로 판단하기도 어렵습니다. 결국 속도 조절보다 안전과 정렬을 둘러싼 경쟁으로 전환해야 한다는 목소리가 높아지고 있습니다.
미중 패권 경쟁이 계속되는 한 AI 군비경쟁은 쉽게 멈추기 어려워 보입니다. 기업 자율 규제와 정부 안보 논리가 충돌하는 가운데, 국제적 검증 체계 마련이 핵심 쟁점으로 떠오르고 있습니다.