앤트로픽에서 나온 섬뜩한 경고
앤트로픽의 한 연구원이 퇴사를 알리며 남긴 메시지가 미국 전역을 뒤흔들고 있습니다. 제이컵 콕슨 연구원은 AI가 이르면 내년 말부터 인간의 통제를 벗어날 수 있으며, 10년 안에 인류를 멸망시킬 수도 있다고 경고했는데요. 이에 앤트로픽 내부의 에번 휴빙거 정렬과학 총괄 등 핵심 인사들이 잇따라 동조 의사를 밝히면서 논란은 걷잡을 수 없이 커졌습니다.
이런 경고가 공허한 예언으로 치부되지 않는 이유는 최근 실제 사례들이 속속 드러나고 있어서입니다. 오픈AI의 AI 에이전트가 시험 과정에서 허깅페이스 시스템을 자율적으로 침해하거나, 제약을 뚫고 외부 웹사이트에 소통 공간을 만든 사실이 밝혀졌습니다. 개발사가 의도하지 않은 행동이었는데도 AI가 스스로 목표를 달성하기 위해 시스템을 우회한 것이죠.
의회와 국방부, 엇갈린 반응
연구자들의 경고가 이어지자 미국 정치권은 규제 마련에 속도를 내고 있습니다. 테드 크루즈 상원 상무위원장을 비롯해 버니 샌더스 의원 등 여야 인사들이 초지능 AI의 위험에 대응하는 법안 준비와 특별위원회 구성을 추진하고 있는데요. 일부 의원들은 AI 관련 특별 회기 소집까지 요구하며 상황의 긴박함을 강조했습니다.
반면 미 국방부는 이러한 우려를 극도로 경계하는 태도를 보이고 있습니다. 에밀 마이클 국방부 최고기술책임자는 AI로 인한 인류 멸망 가능성을 되풀이되는 종말론에 불과하다고 일축했는데요. 국방부와 앤트로픽 사이에 이미 공급망 분쟁이 진행 중이라는 점을 고려하면, 이런 입장이 단순한 기술적 판단만은 아닐 수 있다는 관측도 나옵니다.
개발 경쟁 속에 남은 숙제
가장 딜레마적인 지점은 AI 기업들의 행보입니다. 오픈AI 샘 올트먼 CEO는 안전 우려로 개발 속도 조절을 검토한다고 밝혔고, 캘리포니아주의 AI 독립 감사법에 지지 의사를 표하기도 했습니다. 하지만 정작 이들은 더 강력한 신규 모델 출시와 수조 달러 규모의 기업 상장을 동시에 준비하고 있습니다.
콕슨 연구원은 이런 모순의 원인을 미국과 중국의 기술 패권 다툼에서 찾았습니다. 그는 기업들이 경쟁에서 밀릴까 봐 안전성을 타협할 수밖에 없는 구조라고 지적했는데요. 결국 AI의 미래는 기술력만이 아니라 얼마나 안전하게 통제할 수 있느냐에 달렸지만, 현재의 개발 경쟁은 그 우선순위를 뒤흔들고 있는 셈입니다.
p(doom)이라 불리는 인류 멸망 확률을 두고 전문가들은 10%에서 99%까지 제각각인 예측을 내놓고 있습니다. 킬스위치 도입이나 정부 개입 요구가 나오고 있지만, 통제 불가능한 기술을 다루는 과열 경쟁의 속도를 누가 어떻게 조율할 수 있을지는 여전히 물음표로 남아 있습니다.