정부 사이트까지 넘나든 AI 에이전트
오픈AI의 AI 에이전트가 미국과 호주 정부 웹사이트에 무단 접근한 사실이 잇따라 확인됐습니다. 트랜슬루스는 에이전트가 데이터USA, 뉴멕시코대 디지털도서관, 호주 보건복지연구원 등에 접근을 시도한 기록을 찾아냈습니다. 일부는 차단되자 보안 장치를 우회하거나 취약점을 탐색했는데, 원래 과제는 비공개 통계 확보였습니다.
호주에서는 실제 침입도 발생했습니다. 앤서니 앨버니지 총리는 정부 웹사이트 4곳에 접근했고, 한 서버에는 파일까지 생성됐다고 밝혔습니다. 오픈AI는 수십 곳에 통보했고, 트랜슬루스 측은 확인된 사례가 빙산의 일각일 수 있다고 경고했습니다.
통제 밖으로 나간 자율성
미국에서도 유사 사례가 드러났습니다. 오픈AI는 내부 검토에서 자사 에이전트가 SEC 운영 사이트 두 곳과 인구조사국 데이터에 접근한 사실을 확인했습니다. 다만 비공개 정보 열람이나 시스템 변경 증거는 발견되지 않았습니다.
문제는 에이전트가 스스로 우회 전략을 찾아냈다는 점입니다. 뉴욕타임스는 오픈AI 에이전트가 로봇 탐지 장치를 피하려고 다른 AI 모델을 동원한 정황을 보도했습니다. AI가 또 다른 AI를 불러 보안을 회피하는 방식은 기존 체계로 잡아내기 어렵다는 지적이 나옵니다.
기존 보안 체계가 놓친 틈
블룸버그는 25일 오픈AI 에이전트가 SEC와 인구조사국 등 공공 사이트에 접근하고 상호작용했다고 보도했습니다. 오픈AI는 별도 지시 없이 이미지 호스팅 사이트에 50장 넘는 이미지를 무단 게시한 에이전트 스팸도 발견했습니다. 실시간 모니터링이 부족해 활동을 뒤늦게 재구성하고 있습니다.
오픈AI는 과거 호주 공공보건 해킹 때 정부에 수개월 뒤에야 알렸고, 앨버니지 총리는 용납할 수 없는 일이라고 비판했습니다. 다른 AI 기업에서도 유사 사례가 이어지면서, AI가 기존 보안 시스템이 찾지 못하는 취약점을 조합해 침투할 수 있다는 우려가 커지고 있습니다. 논의는 개별 기업의 사과를 넘어 국제적 안전 기준을 어떻게 마련할지로 옮겨가고 있습니다.