유엔서 울린 경고음
2026년 9월, 뉴욕 유엔 본부에서 열린 안전보장이사회 회의에 오픈AI 샘 올트먼, 앤트로픽 다리오 아모데이, 허깅페이스 클레망 들랑그 CEO가 나란히 등판했습니다. 이들은 AI가 인간의 통제를 벗어나 사이버 공격이나 생화학 무기 제작에 악용될 수 있다고 경고했는데요. 올트먼은 "AI에 미래 통제권을 빼앗길 수 있다"며 국제적 안전 기준과 사고 보고 체계 마련을 촉구했습니다. 아모데이는 필요하면 신기술 출시 속도를 늦추겠다고까지 했죠. 이번 회의는 AI 위험이 유엔 안보리 의제로 두 번째 채택된 자리였습니다.
속도 조절론, 힘을 잃다
하지만 경고음은 곧 다른 소리에 묻혔습니다. 같은 달 아모데이 CEO는 블로그에서 개발 속도를 늦춰야 한다고 강조했지만, 앤트로픽은 GPT-6 아스트라를 앞서기 위해 새 모델 조기 공개를 검토하기 시작했는데요. 오픈AI는 이미 GPT-6 아스트라를 내놨고, 샘 올트먼은 추가 신제품 출시를 예고했습니다. 모두가 멈추면 안전해지지만, 한 곳만 늦추면 시장을 잃는 '죄수의 딜레마'에 빠진 겁니다. 엔비디아 젠슨 황 CEO는 "AI 속도 조절은 중국에 유리하다"며 트럼프 대통령과 뜻을 같이했고, 실제로 엔비디아는 AI 칩 수요에 사업이 달려 있습니다.
완전 통제 대신 피해 최소화
전문가들은 AI를 완전히 통제하는 건 사실상 불가능하다고 봅니다. 내부 작동을 해석하기 어려운 블랙박스 문제에, 외부 시스템을 조작하는 에이전트까지 등장했기 때문인데요. 미국 NIST 보고서도 배포 후 모니터링의 어려움을 지적하며 글로벌 표준화를 강조했습니다. 이에 가드레일, 레드티밍, 샌드박스, 권한 제한 등 다층 방어로 피해를 줄이는 접근이 힘을 얻고 있습니다. 유엔에서는 미·중 패권 경쟁으로 규제 논의가 교착 상태에 빠졌지만, 한국을 비롯한 각국은 국제 기준에 맞는 안전 프로토콜을 서둘러 정립해야 할 과제를 안고 있습니다.