백악관서 서명된 초지능 안전 협약
도널드 트럼프 미국 대통령과 주요 빅테크 수장들이 2026년 9월 29일 백악관에서 초지능(SI) 안전 협약에 서명했습니다. 구글, 메타, 엔비디아, 오픈AI, 앤트로픽, xAI 등 6개 기업 CEO가 참여했는데요. 협약은 AI 모델의 훈련과 운용 과정에서 사이버 보안, 생물안보, 화학적 위협을 막기 위한 내부 통제 장치를 마련하도록 규정했습니다.
트럼프 대통령은 이 문서를 두고 헌법과 같은 것이라며 도덕적 구속력을 강조했고, 별도로 10인 감독위원회와 SI 차르를 임명하겠다는 계획도 밝혔습니다. 핵심은 정부가 직접 규제하는 대신 기업 스스로 안전 기준을 세우고 외부 감사를 받는 자율규제 방식이라는 점입니다.
자율규제 놓고 갈린 업계 내부
공개석상에서는 일관된 목소리를 냈지만, 회동 뒤 비공개 논의에서는 온도차가 드러났습니다. 젠슨 황 엔비디아 CEO와 마크 저커버그 메타 CEO는 개발 속도를 늦추는 규제에 반대하며 트럼프 행정부의 규제 완화 기조를 지지했습니다. 반면 다리오 아모데이 앤트로픽 CEO는 AI 위험을 거듭 경고하며 모델의 실제 능력을 솔직히 알려야 한다고 맞섰습니다.
논쟁의 핵심은 자율규제기구 설립이었습니다. 앤트로픽, 오픈AI, 구글은 금융투자업 규제기관인 FINRA와 비슷한 독립 기구를 제안했지만, 황과 저커버그, 일론 머스크는 소수 선도 기업에 권한이 집중될 수 있다며 반대했습니다. 결국 별도 규제기관 설립안은 폐기되고, 내부 검토 강화와 외부 테스트만 합의문에 담겼습니다.
엔비디아 수혜와 남은 과제
이번 합의로 엔비디아가 반사이익을 볼 것이라는 전망이 나옵니다. 규제 부담이 줄면 AI 반도체 수요가 더 빠르게 늘어날 수 있기 때문입니다. 실제로 엔비디아는 AI 에이전트 접근을 제한하는 OpenShell과 실시간 감시 하드웨어 Sentry를 공개하며 안전과 공급 확대를 동시에 겨냥하고 있습니다.
반대로 앤트로픽은 국방부와의 갈등으로 국가안보 공급망 위험 기업으로 지정되는 등 진통을 겪고 있습니다. 그래도 2조 달러 기업가치를 목표로 한 IPO를 준비 중이고, 투자설명서의 상당 부분을 AI 위험 설명에 할애했습니다. 정치권 반응도 엇갈립니다. 민주당은 의무적 시험과 보고 규정을 요구하며 비판했고, 공화당은 자발적 협약을 중요한 첫걸음으로 평가했습니다. 자율규제가 실효를 거둘 수 있을지는 앞으로의 이행 과정에서 판가름 날 전망입니다.