인류를 위협하는 AI, 유엔이 긴급 경고를 보냈습니다
볼커 튀르크 유엔 인권최고대표는 각국 정부와 개발사에 서한을 보내 현재의 AI 경쟁이 현 세대와 미래 세대 모두에게 되돌릴 수 없는 실존적 위험을 초래하고 있다고 밝혔습니다. 특히 인류의 운명을 결정할 AI 개발의 방향성을 소수의 강력한 기업에만 전적으로 의존하고 있는 상황을 지적하며, 국제인권법을 기반으로 한 긴급한 행동 경로 마련을 촉구했습니다.
이러한 경고는 빅테크 내부에서도 속도조절론이 대두된 시점과 맞물렸습니다. 앤트로픽의 다리오 아모데이 CEO가 성능 향상 속도를 늦춰야 한다고 주장하자, 일론 머스크와 샘 올트먼 오픈AI CEO도 동의 의사를 밝혔습니다. 심지어 앤트로픽 연구진은 AI가 초인적 수준에 도달해 10년 안에 인류를 멸종시킬 가능성이 10%를 넘는다는 구체적인 위험성까지 제기했습니다. 인류의 운명을 좌우할 AI 개발의 방향성을 소수 기업에만 맡겨두는 상황이 위험하다는 지적이 커지고 있습니다.
속도를 줄이자는데 왜 실현이 안 되나요
앤트로픽, 오픈AI, 구글 등 주요 기업들은 최첨단 모델의 안전성 평가를 위한 표준기구 설립을 물밑에서 논의했습니다. 아모데이 CEO는 외부 검증을 통한 공동 감속을 제안하며, 특정 위험 능력에 도달할 때마다 안전성을 입증하는 체크포인트 방식을 골자로 내걸었습니다.
하지만 규제 주체와 기준을 둘러싼 갈등이 컸습니다. 사티아 나델라 마이크로소프트 CEO는 소수가 아닌 생태계와 국가, 학계 등 폭넓은 주체가 통제해야 한다고 주장했고, 스튜어트 러셀 교수는 안전 요건을 먼저 정하고 충족할 때만 진전하는 순서의 변화가 필요하다고 지적했습니다. 규제가 거대 개발사나 오픈소스 진영에 선택적으로 부담을 줄 수 있다는 우려도 나왔습니다. 결국 막대한 투자와 경쟁 구조 속에서 상대가 멈추지 않으면 혼자서 속도를 늦출 수 없다는 죄수의 딜레마가 규제 실현을 가로막고 있습니다.
트럼프는 왜 중국을 언급했을까
도널드 트럼프 전 대통령은 AI를 둘러싼 최근 움직임을 역겨운 음모라고 규정하며 강하게 비난했습니다. 그는 이러한 상황이 지속될 경우 미국이 아닌 중국만이 최종적인 이득을 챙기게 될 것이라고 주장했습니다. 이는 데이터센터와 AI 인프라를 둘러싼 미중 패권 경쟁의 맥락에서 이해됩니다.
미국 내에서 AI 규제를 강화하거나 개발 속도를 늦추자는 목소리가 커질수록, 중국은 거대한 자원을 동원해 AI 기술을 앞서 나가려 할 것이라는 우려가 깔려 있습니다. 트럼프 전 대통령은 현재의 AI 규제 움직임이 결국 중국만 기뻐할 것이라며 강하게 비판했습니다. 다만 유엔과 학계는 기술 패권 논리보다 인류 안전을 우선에 두어야 한다는 입장을 고수하고 있어, 향후 국제사회의 공조 방향에 관심이 집중되고 있습니다.