안전장치 논쟁의 핵심
인공지능의 위험을 둘러싼 논쟁이 다시 뜨겁습니다. 빌 게이츠 마이크로소프트 공동창업자는 도널드 트럼프 대통령이 AI 위험성을 사기라고 일축한 데 대해 공개 반박했습니다. 그는 AI가 실제로 사이버 공격과 금융사기, 허위정보 유포는 물론 전력망과 정부 시스템까지 흔들 수 있다고 경고했는데요.
핵심 쟁점은 이른바 킬 스위치입니다. 위험한 AI를 즉시 멈추게 하는 장치를 의무화하자는 주장이 나오지만, 빨간 버튼 하나로 통제가 끝난다는 생각은 현실적이지 않습니다. 게이츠도 킬 스위치만으로는 부족하며 개발 단계부터 모델을 감시하고 기록하는 체계가 필요하다고 강조했습니다. AI 업계 리더들 사이에서도 통제 불능 상황에 대한 공포가 커지는 분위기입니다.
규제가 못 따라가는 속도
문제는 기술 발전 속도가 제도권의 대응을 압도한다는 점입니다. 각국 정부는 2년 전 만든 법이 벌써 한계에 부딪혔다고 인정할 정도인데요. 반대로 미국과 중국, 한국은 일제히 속도를 높이고 있습니다. 오픈AI는 GPT-6 아스트라를 공개해 추상 추론 평가에서 99.9퍼센트, 고난도 수학 평가에서 97.6퍼센트를 기록했습니다.
앤트로픽은 클로드를 연구개발에 직접 투입하며 속도조절론을 제기했고, 구글은 경량형 제미나이 모델로 멀티모달 시장을 넓히고 있습니다. 중국 딥시크는 저비용 모델 R1으로 추격했고, 문샷의 키미 K3는 3조 파라미터급 오픈소스 모델로 주목받습니다. 한국도 K-AI와 독자 AI 파운데이션 모델 사업, 모두의 AI 프로젝트로 격차 줄이기에 나섰습니다.
각국 선택과 남은 과제
배 부총리 겸 과학기술정보통신부 장관은 앞선 나라가 속도를 조절하는 것과 추격하는 나라가 속도를 낮추는 것은 완전히 다른 문제라고 짚었습니다. 안전 규제가 혁신과 경쟁력을 해친다는 우려와, 통제 불능의 위험을 키운다는 경고가 동시에 커지는 이유입니다.
게이츠는 중국도 AI 공격의 표적이 되고 싶지 않기 때문에 안전장치에 동참할 이해관계가 있다고 봤습니다. 기업 자율 규제만으로는 부족하다는 지적도 이어집니다. 글로벌 AI 시장은 올해 4500억 달러를 넘어 2034년 5조 6000억 달러 규모로 커질 전망인데요. 속도와 안전 사이의 균형을 어디에 둘지, 국제 공조의 향방이 관건입니다.