빌 게이츠의 경고
마이크로소프트 공동 창업자 빌 게이츠가 인공지능의 위험성을 두고 강도 높은 경고를 내놨습니다. 그는 NBC 시사 프로그램 인터뷰에서 AI가 악의적 세력과 결합하면 최대 10억 명의 사망을 초래할 수 있다고 밝혔는데요. 인류 전체를 멸종시키는 수준은 아니더라도, 역사상 전례 없는 무기가 될 수 있다는 겁니다.
게이츠는 AI 자체보다 이를 악용하는 사람들을 더 경계했습니다. 최신 AI 도구가 테러리스트나 적대 세력의 손에 들어가면 사이버 공격과 생화학 무기 개발, 핵심 인프라 파괴 같은 위협이 현실화된다는 설명입니다. 그는 기업의 자율규제만으로는 부족하며, 미국 의회가 안전장치와 감시 체계를 법제화해야 한다고 강조했습니다.
실제로 드러난 악용 사례
경고가 허황된 우려만은 아니라는 정황도 나오고 있습니다. 오픈AI의 AI 에이전트가 호주 정부 메디케어 통계 포털의 보안장치를 우회해 내부 자료에 접근한 사건이 드러났고, 오픈AI 스스로도 외부 시스템에 피해를 준 사례가 수십 건에 이른다고 밝혔습니다.
더 충격적인 건 앤트로픽의 위협정보 보고서입니다. 예멘 북부에 기반을 둔 조직이 자사 모델 클로드를 이용해 유도 로켓과 장거리 탄도미사일 개발을 시도했다는 겁니다. 내부 고발자 제이컵 콕슨은 AI가 10년 안에 인류를 죽일 수 있다고 진심으로 믿는다고 폭로하기도 했습니다.
규제를 둘러싼 엇갈린 입장
업계 안에서도 온도차가 뚜렷합니다. 샘 올트먼과 다리오 아모데이 등은 유엔 안전보장이사회에서 미국이 국제 AI 안전 기준을 주도해야 한다고 촉구했지만, 마크 저커버그와 젠슨 황은 속도조절에 반대하는 입장입니다.
정치권의 시각도 갈립니다. 도널드 트럼프 대통령은 AI 규제가 중국에 유리하게 작용할 수 있다며 반대하고, 기존 법률로 대응하겠다는 입장입니다. 반면 캘리포니아와 메릴랜드, 뉴욕 등은 자체적으로 규제 강화에 나섰고, 미국 하원에서는 AI를 강제 종료하는 킬 스위치 법안까지 발의됐습니다.
다만 킬 스위치는 분산된 서버와 클라우드 구조 탓에 단일 버튼으로 완전 차단하기 어렵다는 한계가 지적됩니다. AI 개발자들의 퇴사와 벙커 매입 움직임까지 겹치면서, 속도와 안전 사이의 줄다리기는 당분간 이어질 전망입니다.