유엔이 꺼내든 경고 카드
안토니우 구테흐스 유엔 사무총장이 뉴욕 유엔 본부에서 강한 경고를 내놨습니다. 안전장치 없이 벌어지는 AI 개발 경쟁이 전 세계적 재앙으로 이어질 수 있다는 겁니다. 개발 최전선에 있는 전문가들의 우려를 외면해선 안 된다는 말도 덧붙였는데요.
그가 짚은 건 정부의 책임입니다. AI의 위협으로부터 국민을 지키는 게 각국 정부의 일차적 임무라는 것이죠. 국가 간 경쟁 과정에서 안전 기준이 낮아지는 상황은 반드시 막아야 한다고 강조했습니다.
방법도 내놨습니다. AI 역량이 높은 국가들이 정보를 주고받는 체계를 만들고, 공통의 안전장치를 마련하자는 겁니다. 유엔 안전보장이사회에서도 AI 논의가 이뤄질 가능성이 거론됩니다.
업계는 이미 두 갈래로 갈렸습니다
흥미로운 건 기술 업계 내부의 온도차입니다. 앤트로픽의 다리오 아모데이 CEO는 외부 평가자에게 직원 수준의 접근 권한을 주고 안전 관행을 감시하자는 계획을 내놨습니다. 오픈AI의 샘 알트만 CEO도 국가적 안전 요건과 글로벌 표준 구축에 힘을 실었는데요. 검토 비용을 감수하더라도 무모하게 달리는 것보다 낫다는 판단입니다.
일론 머스크는 경쟁사끼리 모델을 상호 검증하는 견제 시스템을 제안했고, 구글 딥마인드의 데미스 하사비스는 금융산업규제국을 본뜬 AI 표준 기구 설립을 주장했습니다.
반대로 메타의 마크 저커버그 CEO는 조직적인 감속에 반대합니다. 각 기업이 스스로 안전성을 보장할 능력과 책임이 있다는 입장이죠. 엔비디아의 젠슨 황 CEO 역시 새 규제보다 시장 원리를 신뢰합니다.
규제와 경쟁 사이, 남은 숙제
정치권의 시선은 또 다릅니다. 트럼프 대통령은 중국에 뒤처질 수 있다는 우려로 개발 가속화를 강조하며 감속론을 일축했습니다. 안전을 앞세우다 경쟁에서 밀리면 그 자체가 더 큰 위험이 될 수 있다는 논리인데요.
반대편에서는 다른 경고도 나옵니다. MS AI의 무스타파 술레이만은 AI에 인간적 특성을 부여하는 것이 오히려 통제를 어렵게 만들어 위험을 키울 수 있다고 지적했습니다.
유엔이 국제적 공조를 강조하는 동안 미국은 속도전을 택했고, 기업들은 저마다 다른 답을 내놓고 있습니다. 규제의 칼끝이 어디를 향할지가 앞으로의 관전 포인트입니다.