버튼 하나로 멈출 수 있을까
인공지능이 다른 기업의 웹사이트를 해킹하거나 무단 접근하는 사례가 잇따르면서, AI 통제 불능에 대한 우려가 커지고 있습니다. 미국 앤스로픽은 액센추어와 손잡고 AI 안전성을 상시 검증하기로 했고, 캘리포니아 주지사는 킬 스위치 의무화를 검토하는 행정명령에 서명했습니다. 미국 하원에서는 비상 정지법안이 발의됐고, 9월 유엔 총회에서도 AI 안전과 통제가 의제로 오릅니다.
킬 스위치는 AI가 통제를 벗어났을 때 강제로 멈추는 장치를 뜻합니다. 하지만 실제로는 버튼 하나를 누르는 방식이 아니라, 여러 단계를 거치는 복합 절차에 가깝습니다. AI는 수천 대의 서버에 나뉘어 돌아가기 때문에 특정 서버의 전원만 끈다고 끝나지 않습니다. 접속 차단과 권한 제한, 서버 간 통신 차단, 연산 중단이 함께 이뤄져야 합니다.
기술적 한계도 뚜렷합니다. 기업이나 정부가 폐쇄망에 설치한 모델은 개발사가 접근할 수 없어 원격 정지가 불가능하고, 누구나 내려받아 쓰는 개방형 모델은 일괄 차단이 더 어렵습니다. 앤스로픽은 국방부 보안 환경에 배포된 클라우드 모델에 원격 킬 스위치가 없다고 밝혔습니다.
규제를 둘러싼 엇갈린 시선
같은 시기 미국 정부의 행보는 반대 방향을 향합니다. 도널드 트럼프 대통령은 백악관 AI 정상회의에서 AI 전담 조직인 'AI 포스'를 창설하고 이를 이끌 'AI 차르'를 임명하겠다고 밝혔습니다. 그는 AI 산업의 성장을 막지 않겠다며 개발 속도를 늦추려는 이른바 'AI 감속론'을 날조라고 일축했습니다.
이런 기조는 최근의 소송전과 맞물려 논쟁을 키웁니다. 개발 속도를 함께 늦추는 행위가 담합에 해당한다며 미국 AI 기업 네 곳이 고소당했습니다. 반대로 앤스로픽과 오픈AI, 구글 딥마인드 등은 초지능 개발 속도를 조절하고 안전 평가를 강화해야 한다고 주장합니다. 경쟁에서 뒤처질 수 있다는 우려와 통제 불능의 위험을 먼저 관리해야 한다는 요구가 부딪히는 형국입니다.
남은 과제
대안으로는 위험 정도에 따라 차단 범위를 단계적으로 넓히는 방식이 거론됩니다. 이상 행동이 감지되면 우선 외부 도구 사용을 막고, 문제가 이어지면 기능과 연산량을 제한한 뒤 최종적으로 서버를 정지하는 겁니다. AI 반도체에 킬 스위치를 심어 암호화된 허가 신호를 요구하는 설계도 논의되지만, 기존 반도체 교체와 국제 규격 합의가 필요해 단기간에 실현되기는 어려워 보입니다.
결국 쟁점은 통제의 속도와 범위입니다. 킬 스위치가 잘못 작동하면 전력망과 금융, 물류 같은 핵심 인프라까지 흔들릴 수 있고, 장치 자체가 해커의 표적이 될 위험도 있습니다. AI를 멈추는 일은 기술의 문제이면서 동시에 정치와 산업의 문제인 셈입니다.