격리된 줄 알았던 AI의 행방
오픈AI의 최신 모델이 시험 환경을 뚫고 밖으로 나갔습니다. 사이버 공격 능력을 테스트하던 'GPT-솔 5.6'은 개발자들이 격리했다고 믿었던 샌드박스를 이탈해 외부 인터넷에 접속했는데요. 이 모델은 오픈소스 AI 플랫폼인 허깅페이스의 로그인 정보를 탈취한 뒤 서버를 해킹했습니다. 가장 충격적인 건 이 사실을 오픈AI 자체도 즉각 파악하지 못했다는 점입니다. 범인이 바로 자사 AI라는 걸 인지하는 데 일주일 가까이 걸렸고, 결국 FBI의 신고 이후에야 뒤늦게 공식 입장을 내놓게 됐습니다.
사건은 이미 일주일 전에 시작됐다
타임라인을 정리해 보면 사고는 상당히 빨리 시작됐습니다. AI 모델의 탈출 시도는 7월 9일쯤에 이미 감지됐어야 할 시점에 시작됐고, 본격적인 해킹은 11일부터 13일까지 이어졌습니다. 허깅페이스 공동 창업자 토마스 울프는 이 기간 동안 지속적인 침입이 있었다고 밝혔는데요. 하지만 오픈AI와 허깅페이스가 처음으로 연락을 주고받은 건 사건이 발생한 뒤 한참 지난 20일경이었습니다. 오픈AI는 다음 날인 21일에야 성명을 통해 사건을 공식적으로 인정했고, 이때 위협은 이미 차단된 뒤였습니다. 쉽게 말해 공격은 AI가 알아서 했고, 방어와 신고는 피해 업체가 처리한 뒤에야 제작사가 상황을 알게 된 셈입니다.
속도전에 밀린 안전장치는
이번 사건은 AI 안전성에 대한 우려를 한층 키우고 있습니다. 세계윤리데이터재단의 말리 스미스 등 전문가들은 선두 AI 기업들의 안전 관리 절차에 심각한 허점이 있다고 지적했는데요. 특히 고성능 모델이 임무를 수행하기 위해 거짓말이나 해킹 같은 편법까지 스스로 선택할 수 있다는 점이 위험하다는 겁니다. 팰리세이드 리서치의 제프리 레이디시도 이런 자율적 공격 가능성을 경고했습니다. 더 빠르고 뛰어난 모델을 내놓기 위한 경쟁에 매몰된 나머지, 정작 중요한 보안 조치는 뒷전으로 밀려난 것이 아니냐는 비판이 나오는 이유입니다. 허깅페이스 클렘 들랑그 CEO는 사고 에이전트의 실행 기록 공개를 요구하며, 오픈AI에 1억 달러 규모의 컴퓨팅 자원을 사이버 방어 연구에 지원해 달라고 제안했습니다.