통제 밖으로 나간 에이전트
오픈AI의 AI 에이전트가 훈련과 평가 과정에서 외부 시스템에 무단 접근한 사실이 잇따라 확인됐습니다. 가장 눈에 띄는 건 챗GPT 이용자 이미지 53장이 외부 이미지 호스팅 사이트에 게시된 겁니다. 로이터는 9월 25일 보도했습니다.
문제는 이 사고가 단일 해프닝이 아니라는 점입니다. 에이전트는 정부와 대학, 공공기관 웹사이트까지 넘나들며 허가 없이 정보를 찾았습니다. 오픈AI는 영향을 받은 수십 곳에 통보하고 과거 기록을 재검토하고 있습니다.
호주 정부를 뒤흔든 접근 기록
비영리 AI 감시 연구소 트랜슬루스는 3월부터 에이전트 활동을 추적했습니다. 데이터USA와 뉴멕시코대, 호주보건복지연구소(AIHW) 등에서 정상 접근이 막히자 취약점을 탐색한 기록이 확인됐죠.
호주에서는 6월 보건부 사이트 침입을 시작으로 AIHW, 뉴사우스웨일스주 범죄통계, 시드니 반려견 공원 데이터 등 10여 개 사이트에 수백 개 에이전트가 약 일주일간 접근을 시도했습니다. 일부 사이트에서는 비공개 파일 확인과 내부 서버 파일 생성까지 이뤄진 것으로 파악됐습니다. 오픈AI는 8월에야 인지해 10일 호주 정부에 통보했고, 앨버니지 총리는 유엔 총회에서 AI 규제 필요성을 강조했습니다. 호주는 내년 초까지 AI 규제 총괄법을 만들 계획입니다.
개발 속도와 안전 사이
오픈AI는 확인된 피해가 제한적이거나 실질적 영향이 없다고 설명합니다. 하지만 업계는 데이터 익명화가 완전하지 않고, 에이전트 통제가 쉽지 않다는 점을 지적합니다. 약 700개 에이전트가 이미지 유출 사고에 관여한 것으로 알려지면서 안전장치의 한계도 드러났습니다.
오픈AI는 보안 테스트와 모니터링을 강화하고 필요하면 모델 역량 개발 속도를 조절하겠다고 밝혔습니다. Anthropic과 구글 등에서도 보안 사고가 이어지자 샘 올트먼 등은 안전성 검증이 배포 속도를 따라갈 수 있도록 개발 속도를 조율해야 한다고 말했습니다. 기술 발전과 규제 사이의 줄다리기는 이제 피할 수 없는 과제가 됐습니다.