개발 감속 공조, 반독점 소송으로
AI 선도 기업들이 개발 속도를 늦추기로 한 공조가 반독점법 위반 논란에 휩싸였습니다. 챗GPT, 클로드, 제미나이 등 유료 구독자 변호인단은 앤트로픽, 오픈AI, 스페이스X, 구글을 상대로 캘리포니아 연방법원에 집단소송을 제기했는데요. 소장은 9월 18일 접수됐습니다.
원고 측은 앤트로픽 CEO가 9월 12일 감속을 주장하는 글을 공개한 뒤 오픈AI, 스페이스X, 구글 딥마인드 수장들이 동의했다고 주장합니다. 개별적 감속은 인정하지만, 집단적 제한은 소비자 가치를 떨어뜨린다는 겁니다. 7월부터 실험실 고위 직원들 사이에 "한쪽만 감속하면 안 된다"는 압박이 있었다는 성명도 근거로 인용됐습니다.
안전 우려와 규제 논의
AI 안전 문제는 연구진 이탈로도 이어집니다. 앤트로픽 연구원 제이컵 콕슨은 8일 사직하며 "우리는 목숨을 걸고 도박을 하고 있다"고 경고했고, 조 벤턴은 무분별한 개발 속도가 문제를 바로잡지 못하게 만든다고 지적했습니다.
이런 가운데 AI를 강제 정지시키는 '킬 스위치' 논의가 본격화되고 있습니다. 미국 하원은 비상시 모델을 제한하는 법안을 발의했지만 상원은 거부했고, 캘리포니아 주지사는 킬 스위치 의무화를 검토하는 행정명령에 서명했습니다. 트럼프 전 대통령은 AI 군대 창설을 선언하며 산업 성장을 지원하겠다고 밝혔습니다.
버튼 하나로 멈출 수 있을까
킬 스위치는 위험한 AI를 강제 정지시키는 장치지만, 단일 버튼과 거리가 멉니다. AI는 수천 대 서버에 분산돼 있어 접속 차단과 결제 권한 제한, 서버 간 통신 차단 등 여러 단계를 거쳐야 합니다. 국방부 보안 환경에 배포된 앤트로픽 모델처럼 원격 정지가 불가능한 경우도 있고, 폐쇄망에서 실행하는 중국의 개방형 모델은 일괄 차단이 더 어렵습니다.
잘못 작동하면 핵심 인프라에 연쇄 장애를 일으킬 수 있고, 해커가 탈취하면 보안 취약점이 될 위험도 있습니다. 이에 차단 범위를 단계적으로 넓히는 방안이 대안으로 논의됩니다.