안전이냐 성장이냐, 갈라진 목소리
AI 개발 속도를 둘러싼 논쟁이 업계와 정치권을 넘어 전방위로 번지고 있습니다. 다리오 아모데이 앤트로픽 CEO가 통제 불능 위험을 경고하며 속도 조절을 제안했고, 샘 올트먼 오픈AI CEO와 데미스 허사비스 구글 딥마인드 CEO, 일론 머스크 xAI CEO 등이 동조하면서 논쟁이 본격화됐는데요. 아모데이 CEO는 자동차 산업처럼 자체 점검과 업계 표준, 국제 공조로 이어지는 3단계 접근법이 필요하다고 강조했습니다.
반대편도 만만치 않습니다. 젠슨 황 엔비디아 CEO는 파국론에 과학적 근거가 없다고 일축하며 가속을 주장했고, 마이크로소프트는 속도보다 인간의 통제에 무게를 두는 'AI 행동강령'을 내놨습니다. 같은 AI 진영 안에서도 사업 구조와 이익 지점에 따라 입장이 정반대로 갈리는 셈입니다.
정치권도 예외는 아니다
이 논쟁은 정치권으로도 옮겨붙었습니다. 미래생명연구소가 주최한 '친인간 총회'에는 좌파의 상징인 버니 샌더스 상원의원과 우파 MAGA 진영의 스티브 배넌 전 백악관 수석전략가가 나란히 참석해, AI 위협 앞에서는 당파를 넘어서야 한다는 데 뜻을 모았습니다. 다만 중국 대응을 두고는 샌더스가 국제 합의를 통한 개발 중단을, 배넌이 전면 차단을 주장하며 해법이 갈렸습니다.
오픈AI와 앤트로픽, 구글 딥마인드 3사는 이미 금융산업규제국(FINRA)을 모델로 한 독립 민간 AI 표준기구 설립을 추진 중입니다. 오픈AI는 항공 산업의 안전 협력 사례를 들어 반독점 면제가 불필요하다는 입장이지만, 앤드루 퍼거슨 FTC 위원장은 경쟁사 진입을 막는 '해자 구축'이라며 의구심을 보내고 있습니다.
넘기 힘든 현실의 벽
가장 큰 걸림돌은 미중 패권 경쟁입니다. 도널드 트럼프 대통령은 속도 조절론이 중국만 이롭게 할 것이라며 규제에 반대하고 있고, 중국 외교부도 이를 악의적인 경쟁으로 규정하며 맞서고 있습니다. 여기에 벤처캐피털로부터 수천억 달러를 조달한 투자자들이 개발 감속을 원하지 않는다는 점도 변수입니다.
전문가들은 AI가 스스로 다음 세대를 개발하는 '재귀적 자기개선' 속도가 인간의 검증 능력을 앞지를 수 있다고 경고합니다. 제프리 힌턴 교수는 향후 10년 내 AI가 인류를 파괴할 가능성을 10%로 봤고, 요슈아 벤지오 교수는 AI가 이미 해킹과 설득 능력을 갖췄다고 지적했습니다. 결국 속도 조절이 실현되려면 기업의 성장과 투자자의 수익, 국가의 패권이라는 세 가지 가치를 일부 포기해야 하는데, 그 대가를 치를 주체가 아직 보이지 않습니다.