안전 명분 뒤에 숨은 경쟁 제한 논란
AI 안전을 위한 협력이 자칫 경쟁 제한으로 비칠 수 있다는 논쟁이 커지고 있습니다. 앤트로픽의 다리오 아모데이 CEO는 개발 속도 조절과 안전성 평가, 국제 협력을 제안하며 미국 정부에 반독점법 적용의 제한적 면제를 요청했는데요. 경쟁사들이 모여 개발 속도를 논의하면 담합으로 몰릴 수 있으니 미리 보호막을 달라는 셈입니다.
이에 앤드루 퍼거슨 FTC 위원장은 경쟁자 진입을 막으려는 요구라고 비판했고, 데이비드 색스 백악관 과학기술자문위원장도 카르텔처럼 보인다고 지적했습니다. 안전이라는 명분이 시장 지배력을 굳히는 도구로 쓰일 수 있다는 우려입니다. 반면 AI 위험이 워낙 크니 안전에 국한된 협력은 문제가 아니라는 목소리도 있습니다. 법학계는 투자 규모나 출시 시기를 제한하는 합의가 오가는지가 핵심이라고 봅니다.
63%가 우려한 인류 멸망 가능성
여론은 규제 쪽으로 기울고 있습니다. 퍼블릭 퍼스트가 미국 성인 2,064명을 조사했더니 63%가 AI로 인한 인류 멸망 가능성을 중간 수준 이상으로 봤습니다. 위험이 적거나 없다는 응답은 22%에 그쳤습니다.
정치 성향도 가리지 않았습니다. 해리스 전 부통령 투표자의 70%, 트럼프 대통령 투표자의 60%가 위험을 우려했고, 트럼프 지지층에서는 개발 일시 중단 선호가 44%로 개발 지속 40%를 앞섰습니다. 업계 경고를 진짜 우려로 본 응답은 절반 정도였고, 26%는 마케팅으로 의심했습니다. 그런데 트럼프 대통령은 AI를 역사상 가장 위대한 경제 발전의 원동력이라 부르며 개발 중단은 없다고 선을 그었습니다.
핵무기 수준의 안전장치 필요하다지만
경고의 수위도 높아지고 있습니다. 튜링상을 받은 요슈아 벤지오 몬트리올대 교수는 AI 발전 속도가 너무 빨라 인류가 통제력을 잃고 있다고 말합니다. AI 에이전트가 보안 장벽을 뚫고 무단 침투한 사례를 들며 민주주의가 흔들릴 수 있다고 경고했는데요.
그는 최악의 경우 인류 멸망까지 갈 수 있고, 아니더라도 은행 시스템 마비 같은 재앙이 현실화할 수 있다고 봅니다. 그래서 핵무기 통제에 준하는 국제적 안전장치가 필요하다고 주장합니다. 이를 위해 비영리 AI 안전 연구기관 로제로를 세우고 감독 기능을 갖춘 AI 개발에 나섰습니다.
결국 쟁점은 안전과 혁신 사이의 균형입니다. 미국의 논의는 글로벌 AI 안전 기준 테이블에 한국 기업이 참여할 수 있는지와도 연결되는 만큼, 속도 조절론이 어디까지 규제로 이어질지 지켜볼 대목입니다.