유엔서 터진 AI 경고
제81차 유엔총회가 인공지능(AI)을 최대 화두로 떠올렸습니다. 안토니우 구테흐스 유엔 사무총장은 일반토의 연설에서 AI 선도국들을 향해 위험 정보를 공유하고 공동 테스트와 안전장치를 마련하자고 촉구했는데요. 그는 AI 위험을 냉전시대 핵위험에 빗대며 지정학적 경쟁 속에서도 최소한의 공동 규칙이 필요하다고 강조했습니다.
구테흐스 총장은 '다자간 AI 위험관리 프레임워크'를 제안했습니다. 인간의 통제를 벗어난 AI와 자율살상무기를 경고하며 "킬러로봇은 미래에 설 자리가 없어야 한다"고도 했죠. 임기 마지막 총회 연설이어서 무게감은 더 컸습니다.
20개국 선언, 그러나 미·중은 없었다
같은 시기 독일·캐나다·핀란드·노르웨이·호주 등 20여 개국과 유럽연합은 AI를 인간의 지시와 감독, 통제 아래 두자는 공동성명을 냈습니다. 배치 전 의무 시험과 독립적 평가, 나아가 국제기구 설립까지 검토하자는 내용인데요.
그런데 AI 양대 산맥인 미국과 중국은 이 선언에 참여하지 않았습니다. 두 나라는 AI를 핵무기와 같은 '두 초강대국의 게임'으로 보고 자체 통보 체계와 협력기구를 통해 주도권을 쥐려는 상황입니다. 트럼프 행정부는 속도조절론을 "미국 기술 패권을 무너뜨리려는 사기"라고 일축했고, 오히려 중국과 양자간 핫라인 구축을 구상 중입니다. 선언의 실효성 논란이 나오는 대목입니다.
연구자들의 번아웃과 속도조절론
현장의 분위기는 더 무겁습니다. 영국 AI안전연구소와 오픈AI, 앤트로픽, 구글 딥마인드 연구원들이 번아웃과 불안으로 병가와 사표를 내고 있다는 보도가 이어졌습니다. AI가 전력망과 군사 분야에 적용되고, 자연계에 없던 바이러스를 설계할 수 있다는 가능성까지 확인되면서 "인류의 미래를 도박하고 있다"는 자책이 커진 겁니다.
이런 가운데 앤트로픽 CEO 다리오 아모데이가 주도하는 '속도조절론'이 부상했습니다. 개발을 멈추지 않되 안전 기준을 세우고 국제 협력을 강화하자는 3단계 계획인데요. 다만 경쟁을 잠시 멈추려는 전략이거나 규제로 후발주자를 따돌리려는 의도가 섞였다는 비판도 나옵니다. 유엔이 만든 독립 패널 같은 다자 협의체에서 논의가 이뤄져야 진정성을 얻을 수 있다는 지적입니다.