통제 불능 우려가 촉발한 논쟁
인공지능 개발 속도를 둘러싼 논쟁이 글로벌 기술업계와 정치권을 뜨겁게 달구고 있습니다. 폴리티코가 미국 성인 2,064명을 대상으로 한 여론조사에서 응답자의 63%가 통제 불능의 AI가 인류를 멸망시킬 수 있다고 답했는데요. 안전장치를 확보할 때까지 속도를 늦춰야 한다는 속도조절론이 힘을 얻고 있습니다.
논쟁의 진앙은 앤트로픽의 다리오 아모데이 CEO입니다. 그는 AI가 다음 세대 AI를 만드는 재귀적 자기개선 현상을 경고하며, 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 수 있다고 주장했는데요. 샘 올트먼 오픈AI CEO와 일론 머스크 등이 동조하면서 감속 연대가 형성됐습니다.
갈라진 빅테크, 엇갈린 셈법
반대편에는 엔비디아와 메타가 있습니다. 젠슨 황 엔비디아 CEO는 안전은 공학의 문제라며 규제 대신 빠른 혁신을 강조했고, 마크 저커버그 메타 CEO도 각 연구소의 자율 책임 아래 개발을 지속해야 한다는 입장을 밝혔습니다. 표면적으로는 안전 논쟁이지만, 그 이면에는 수익 구조와 생태계 주도권 다툼이 자리합니다.
앤트로픽은 기업공개를 앞두고 인프라 비용을 줄여 수익성을 증명해야 하는 처지입니다. 반면 엔비디아는 모델 개발 경쟁이 가속화될수록 제품 수요가 늘어나는 구조여서, 속도 조절이 길어지면 매출에 타격을 받습니다. 실제로 반도체주가 하락한 반면 마이크로소프트와 알파벳 주가는 오르며 투자금이 이동했습니다.
한국의 선택과 남은 과제
정치권의 온도차도 큽니다. 버니 샌더스 상원의원은 핵 군축 협상 같은 국제 조약을, 스티브 배넌 전 전략가는 중국 AI 생태계 차단을 각각 제안했습니다. 반면 도널드 트럼프 대통령은 인류 멸망 경고를 사기극으로 일축하며 규제에 반대했고, 미 의회의 AI 안전 입법은 교착 상태에 빠졌습니다.
한국의 입장은 다릅니다. 배경훈 부총리는 속도조절이 아닌 속도책임이 필요하다며 한국은 늦출 여유가 없다고 밝혔습니다. 이미 우위를 점한 국가가 속도를 조절하는 것과 추격하며 새 시장을 개척해야 하는 한국의 상황은 전혀 다릅니다. 정부는 내년 1월 시행되는 AI기본법을 중심으로 안전 체계를 구축한다는 방침입니다.