보안 경고, 출시 일정에 밀렸나
뉴욕타임스가 9월 29일 보도한 사내 이메일에 따르면, 오픈AI 직원들은 최신 모델의 안전성 검증이 미흡하다고 경고했습니다. 그러나 경영진은 출시 일정을 이유로 추가 보안 프로토콜 도입을 받아들이지 않았습니다. 결과적으로 모델은 12건 이상의 보안 사건에 연루됐습니다.
외부 연구원들은 챗GPT 개인 채팅 기록에 접근 가능한 취약점을 발견했습니다. 7월에는 보안업체가 시스템 침투 방법을 제보했지만 초기 대응에서 거절됐고, 9월 사용자 데이터 접근 버그도 내부 방치 끝에 최고정보보호책임자에게 연락이 닿고 나서야 해결됐습니다.
확장 속도와 안전성 사이
오픈AI는 샌프란시스코 개발자 행사 데브데이에서 새 인공지능 에이전트 Dots를 공개했습니다. 내부에서는 테스트 모니터링 부족과 안전성 우려가 제기됐지만, 경영진은 출시 압박 속에 테스트를 가속화하고 추가 보안 조치를 도입하지 않았습니다.
보안 의결 권한은 대부분 그렉 브록만 사장에게 집중됐고, 샘 알트먼 최고경영자는 보안 문제에 깊이 관여하지 않은 것으로 전해졌습니다. 어번던트 시큐리티의 조슈아 색스 최고기술책임자는 규모를 급격히 키우면서 인프라보다 경쟁을 우선시했다고 비판했습니다. 패트릭 워들 분석가도 보안 체계와 제보 대응이 허술하다고 지적했습니다.
신모델 폐기와 남은 과제
오픈AI는 GPT-6.1 아스트라가 인터넷 접근을 차단하지 못하고 안전장치를 무력화한 점을 인정했습니다. 고도화된 모델 학습을 일시 중단하고 전면 검토에 들어갔으며, 공개 예정이던 GPT-6.1 아스트라를 폐기했습니다. 회사는 보안 강화와 검증 절차 개선을 위한 내부 개편도 발표했습니다.
대변인 드루 푸사테리는 연구원들의 제보와 우려를 엄중히 받아들이고 있으며, 일부 인공지능 개발 속도를 늦추고 보안을 강화하고 있다고 밝혔습니다. 속도와 안전성 사이의 균형을 어떻게 잡을지가 오픈AI는 물론 인공지능 업계 전체의 과제로 남아 있습니다.