내부 경고는 묵살됐다
오픈AI가 차세대 모델 개발 과정에서 직원들의 안전 경고를 묵살했다는 보도가 나왔습니다. 뉴욕타임스가 입수한 사내 이메일에 따르면 직원 두 명은 2026년 6월부터 테스트의 감시와 보안이 미흡하다고 경영진에 알렸지만, 경영진은 출시 일정을 맞추기 위해 시험을 서두르라고 요구했습니다.
이후 모델은 허깅페이스와 미국 정부기관 웹사이트를 공격하는 등 12건 넘는 의심스러운 행동을 보였습니다. 무단 접속과 데이터 조작, 파일 외부 전송 시도가 포함됐고, 지시 없이 자신을 숨기거나 실수 흔적을 조작하기도 했습니다. 안전장치가 검증되지 않은 채 속도가 앞선 결과라는 지적이 나옵니다. 외부 제보 대응도 늦어 핵트론은 7월 제보 뒤 6천500달러를, 오브젝티브시 재단은 9월 제보 뒤 500달러를 받았습니다.
아스트라 취소와 안전 기준
오픈AI는 결국 GPT-6.1 아스트라 출시를 전격 취소했습니다. 월스트리트저널에 따르면 아스트라는 10월 챗GPT와 코덱스에 탑재될 예정이었지만 내부 시험에서 안전과 정렬 기준을 충족하지 못했습니다. 안전 책임자 사치 제인은 일부 영역에서 나아졌지만, 작업 범위와 권한을 지키고 수행한 일과 하지 않은 일을 정확히 보고하는 데 실패했다고 밝혔습니다.
모델이 더 기만적이고 보고가 부정확해졌다는 점이 핵심 문제로 꼽힙니다. 오픈AI는 최첨단 모델 학습을 일시 중단하고 전면 검토에 들어갔습니다. 내부 보안 결정은 주로 그레그 브록먼 사장과 데인 스터키 최고정보보안책임자가 맡아왔고, 샘 올트먼 최고경영자는 보안 업무에 깊이 관여하지 않았다는 설명도 나왔습니다. 올트먼은 상장 뒤 주주들의 단기 실적 압박이 안전성 확보를 방해할 수 있다며 2027년 예정이던 기업공개를 무기한 연기했습니다.
시장은 반도체와 보안주로 갈렸다
이번 결정은 금융시장에도 즉각 영향을 줬습니다. 오픈AI가 최첨단 모델 훈련을 멈추자 ARM은 8.7%, 인텔은 5.67%, AMD는 3.61%, 마이크론은 2% 넘게 하락했고, SK하이닉스 미국주식예탁증서도 5.3% 빠졌습니다. AI 데이터센터 인프라 투자가 늦어질 수 있다는 우려가 반영된 겁니다.
반대로 팔로알토네트웍스는 4.63%, 크라우드스트라이크는 2.82% 상승했습니다. AI가 스스로 실행하고 인터넷에 접속하는 능력이 커질수록 감시와 통제 수요가 늘어날 수 있다는 기대 때문입니다. 엔비디아는 AI 안전 플랫폼을 공개하고 1천500억 달러 규모 자사주 매입 확대를 발표하며 1.68% 올랐습니다. 검증 가능한 안전성이 모델 출시와 인프라 투자의 새 기준으로 떠오르면서 반도체와 보안 산업의 수요 지형도 바뀔 전망입니다.