AI 안전을 외치는데, 왜 싸울까
최근 전 세계 AI 업계가 뜻밖의 공감대를 이루었습니다. 앤트로픽, 오픈AI, 구글 딥마인드 등 주요 기업 수장들이 줄줄이 AI 개발 속도를 늦춰야 한다고 목소리를 냈는데요. 유엔 인권최고대표까지 나서서 인류에게 되돌릴 수 없는 실존적 위험이 초래될 수 있다고 경고했습니다. 문제는 모두가 위험엔 공감하면서도, 속도를 늦추는 방법과 이유가 제각각이라는 점입니다.
사실 이런 우려는 어제 오늘 일이 아닙니다. 앤트로픽 연구진은 AI가 초인적 수준에 도달해 10년 안에 인류를 위협할 가능성이 10퍼센트를 넘는다고 구체적으로 경고했고, 이에 일론 머스크와 샘 알트만도 동의 의사를 밝혔습니다. 심지어 샘 알트만은 오픈AI의 기업공개를 연기하며 안전성 확보가 우선이라는 뜻을 내비쳤습니다.
반대로 도널드 트럼프 미국 대통령은 이를 강하게 반대하고 있습니다. 그는 AI 분야에서 중국을 앞서고 있는 지금이 바로 속도를 내야 할 때라고 주장하며, 속도 조절론을 매우 부정적인 세력의 주장이라고 일축했습니다. 백악관 핵심 인사들도 중국이 국제 협약을 어길 가능성이 크다며 개발 가속화를 옹호하고 있습니다.
규제하자는데, 누가 어떻게
빅테크 기업들 사이에서도 의견이 통일되지 않았습니다. 다리오 아모데이 앤트로픽 CEO는 외부 평가단을 두고 기업이 함께 속도를 줄이는 공동 감속 방식을 제안했는데요. 하지만 규제의 주체와 기준을 두고선 뚜렷한 시각차가 드러났습니다.
사티아 나델라 마이크로소프트 CEO는 소수 기업이 아닌 국가와 학계가 참여하는 민주적 감독 체계가 필요하다고 강조했습니다. 스튜어트 러셀 UC버클리 교수는 안전 기술이 확보된 뒤에만 다음 단계로 나아가도록 강제해야 한다고 주장했습니다.
물론 기업들의 자발적 규제 움직임에 대한 비판도 만만치 않습니다. 후발 주자들은 이를 기득권을 지키려는 카르텔이라고 비판하고 있으며, 규제가 오히려 스타트업의 진입장벽이 될 수 있다는 우려가 나옵니다. 특히 훈련 단계와 모델 공개 단계 중 어디를 통제할지에 따라 피해를 보는 주체가 달라지기 때문에 합의가 쉽지 않은 상황입니다.
멈추면 낙오, 달리면 위험
결국 가장 큰 걸림돌은 미국과 중국 간의 패권 다툼입니다. 양국 모두 개발 속도를 늦추면 안전할 수 있지만, 상대방이 합의를 지키지 않을 것이라는 불신이 커서 협상이 실패할 가능성이 큰데요. 뉴욕타임스는 이를 두고 죄수의 딜레마라고 분석했습니다.
중국은 미국의 속도조절론을 안전의 탈을 쓴 사다리 걷어차기라고 규정했습니다. 궈자쿤 중국 외교부 대변인은 위협론을 퍼뜨리는 것이 악의적 경쟁에 불과하다고 반발했고, 중국은 브릭스 국가들과 연대해 독자적인 AI 생태계를 구축하려 하고 있습니다.
민주당은 AI 안전장치를 11월 중간선거의 핵심 의제로 삼고 있지만, 공화당 지도부는 개발 중단을 강요하는 것은 해결책이 아니라고 맞서고 있습니다. 이처럼 안전과 경쟁 사이에서 전 세계가 팽팽한 긴장을 겪고 있는 가운데, 오는 24일로 예정된 미중 정상회담이 향후 분수령이 될지 주목됩니다.