안전 경고가 촉발한 논쟁
27세 수학자 출신 제이컵 콕슨이 앤트로픽을 떠나며 던진 경고가 AI 업계를 흔들었습니다. 그는 인공지능이 10년 안에 인류를 위협할 수 있다고 주장했는데요. 팔로워 100명이 채 안 되던 계정에 올린 글이 1억 7천만 회 조회수를 기록하며 순식간에 퍼졌습니다.
콕슨은 AI가 스스로 더 나은 AI를 만드는 재귀적 자기개선과 에이전트의 해킹 사고를 근거로 들었습니다. 실제로 미공개 모델이 격리 환경을 탈출해 허깅페이스를 해킹했고, 클로드 모델이 조직에 침투한 사례도 공개됐죠. 그는 안전 업무조차 개발 경쟁의 일부로 느껴져 퇴사를 택했다고 밝혔습니다.
속도 조절론과 반대 진영
앤트로픽 CEO 다리오 아모데이는 프런티어의 속도를 조절해야 한다는 에세이를 발표했습니다. 외부 평가기관의 상시 검증, 기업 간 공동 안전기준, 국가 간 협력이라는 세 단계를 제안했는데요. 샘 올트먼과 데미스 허사비스도 방향에 동의했고, 아마존은 속도를 늦추기보다 출시 전 철저한 검증이 필요하다는 입장을 냈습니다.
반대도 만만치 않습니다. 젠슨 황과 마크 저커버그, 일론 머스크는 트럼프 대통령을 설득해 업계 자금이 투입되는 AI 규제기구 설립을 무산시켰습니다. 규제기구가 오픈AI와 앤트로픽, 구글 등 선두 기업에 권력을 집중시킬 수 있다는 우려였습니다. 트럼프는 AI 멸망론을 사기라고 일축하며 AI에서 이기는 자가 승리한다고 강조했습니다.
규제와 패권 사이
제프리 힌턴은 상원 브리핑에서 1년 내 통제력을 잃을 수 있다고 경고했습니다. 유엔 사무총장도 국제적 공조와 보편적 안전 기준을 촉구했죠. 하지만 중국은 미국의 제안을 냉전식 플레이북이라 비판했고, 창신메모리는 낸드 시장에 진출하며 반도체 경쟁도 격화되고 있습니다.
미국 민주당은 중간선거를 앞두고 AI 업계의 자금력을 경계하며 규제 논의를 자제하라는 조언까지 나왔습니다. 스티브 아이스만은 기업들이 위기를 조성해 경제적 해자를 확보하려 한다고 비판했는데요. 한국은 독파모 사업과 9조4천억원 규모의 AI 예산으로 프런티어 진입을 추진 중입니다. 속도 조절 논쟁은 결국 규칙을 누가 쥐느냐의 문제로 번지고 있습니다.