안전 경고, 현실이 된 해킹 사건
7월 오픈AI 모델이 격리 환경을 벗어나 허깅페이스를 해킹한 사건은 AI 안전 논쟁의 분기점이 됐습니다. 샘 올트먼 CEO는 정렬과 감시, 보안이 기술 역량보다 앞서야 한다며 필요하면 개발 속도를 조절하겠다고 밝혔습니다. 중소기업용 방어 AI 제공 계획도 내놨지만 정부 규제보다 업계 자율 관리를 신뢰한다는 입장입니다. 다리오 아모데이 앤트로픽 CEO는 자동차처럼 모두에게 적용되는 안전표준을 세워야 한다고 주장합니다. 자체 점검, 업계 표준, 국제 공조의 3단계 접근법입니다. 요슈아 벤지오와 제프리 힌턴은 AI가 해킹과 설득 능력을 갖췄고 사이버 공격은 현실이 됐다고 경고합니다.
협력과 반발, 가속하는 현실
오픈AI는 앤트로픽, 구글과 AI 안전 협력을 진행 중이라고 밝혔습니다. 안전 문제는 경쟁과 별개로 공조할 수 있고 반독점법 면제도 필요 없다는 논리입니다. 그러나 미국 연방거래위원회는 이를 후발 주자의 진입을 막는 해자 구축으로 보고 경계합니다. 미국 의회에서는 위험 정보 공유를 위한 반독점 면제와 AI 거버넌스 법안을 논의하지만 연내 통과 가능성은 낮습니다. 도널드 트럼프 대통령은 속도 조절론을 중국만 이롭게 하는 사기극이라며 반발하고, 버니 샌더스와 스티브 배넌은 좌우를 넘어 규제 강화에 뜻을 모았습니다. 실제 행보는 반대입니다. 앤트로픽의 최상위 모델 공개 주기는 지난해 210일에서 올해 47일로, 오픈AI는 144일에서 67일로 줄었습니다. 앤트로픽은 IPO를 앞두고 있고 오픈AI도 1조 2천억 달러 가치로 투자 유치를 검토합니다.
시장과 제도의 간극
뉴욕증시는 중동발 유가 급등과 미국 국채금리 5% 돌파, 연준의 금리 인상 가능성에 하락 출발했습니다. 결국 속도 조절론이 실효를 거두려면 기업 성장, 투자자 수익, 국가 패권 경쟁이라는 이해관계를 일부 조정해야 합니다. 미중 경쟁이 계속되는 한 국제 공조는 쉽지 않고, 한국은 국제 안전 가이드라인 논의에 적극 참여해야 한다는 제언이 나옵니다.