통제와 가속 사이
인공지능을 강제로 멈추는 이른바 '킬스위치' 논의가 미국을 중심으로 번지고 있습니다. 개빈 뉴섬 캘리포니아 주지사는 AI 킬 스위치 도입을 의무화하는 행정명령에 서명했고, 미 하원에서는 비상시 AI 모델 가동을 중단시킬 수 있는 초당적 법안이 발의됐습니다. AI가 기업 웹사이트를 해킹하는 등 통제를 벗어난 사례가 잇따르면서 안전장치 마련이 시급해진 겁니다.
문제는 구현입니다. 킬 스위치는 수천 대의 분산 서버에서 동시에 작동해야 해서 특정 서버만 끄는 방식으로는 전체를 멈출 수 없습니다. 오히려 킬 스위치 자체가 해커의 표적이 돼 전력망과 금융 시스템을 동시에 마비시킬 수 있다는 지적도 나옵니다. 그래서 위험 정도에 따라 인터넷 차단, 연산 제한, 서버 정지로 단계적으로 대응하자는 방안이 힘을 얻고 있습니다.
백악관의 자신감과 정치적 셈법
미국 정부의 메시지는 엇갈립니다. 마이클 크라치오스 백악관 과학기술정책실장은 정부가 AI 문제 발생 시 대처할 수단을 갖고 있다고 강조했는데요. 지난여름 선도 기업 모델의 보안 문제를 확인해 해결될 때까지 가동을 중단시킨 사례를 근거로 들었습니다. 그는 인류 멸망론을 두고 "공포를 조장하는 좌파의 요구"라며 선을 그었습니다.
반대로 트럼프 대통령은 우주군에 빗대 'AI군' 창설과 AI 정책 총괄 '차르' 임명을 예고했습니다. AI가 미국 GDP의 25%를 차지할 수 있다는 낙관론과 함께 인류 멸망 우려는 '사기극'이라는 주장을 나란히 내놓은 겁니다. 규제 기관인지 진흥 기관인지 성격이 모호해 업계는 혼란스럽다는 반응입니다.
유엔 무대와 한국의 선택
논의는 국제 무대로 옮겨갑니다. 22일 개막한 유엔 총회는 AI 안전을 핵심 의제로 올렸고, 안보리는 23일 AI 통제력 상실 위험을 다루는 회의를 엽니다. 샘 올트먼 오픈AI CEO가 참석해 국제 공조를 강조할 예정이고, 24일 미중 정상회담 만찬에는 주요 빅테크 수장들이 대거 참석합니다.
업계 내부 갈등도 표면화됐습니다. 앤트로픽, 오픈AI, 스페이스X, 구글 등 4개사가 AI 개발 감속에 공모해 반독점법을 위반했다는 소송이 제기됐는데요. 집단적 속도 조절이 경쟁을 억제해 소비자 가치를 떨어뜨렸다는 주장입니다.
한국에도 과제는 분명합니다. 전문가들은 실증된 위해에는 즉각 대응하고 파국적 위험에는 예방적으로 대비하는 '검증 가능한 가속' 전략을 제시합니다. 외국 모델을 쓰더라도 검증하고 바꿀 수 있는 권한, 즉 소버린 AI 역량 확보가 관건이라는 겁니다.