AI 연구 자동화 앞두고 내부에서 나온 속도 조절 촉구
오픈AI와 앤스로픽 등 주요 AI 기업의 현직 연구자와 임원 1,170여 명이 미국 정부를 향해 AI 개발 속도를 의도적으로 조절할 수 있는 국제 체계를 마련해 달라고 촉구했습니다. '페이싱 더 프런티어(Pacing the Frontier)'라는 제목의 성명서에는 오픈AI의 야쿱 파호츠키 최고과학자와 마크 첸 최고연구책임자, 앤스로픽의 다리오 아모데이 CEO와 공동 창업자, 메타와 구글 딥마인드의 주요 인사들도 이름을 올렸는데요. 이는 AI 안전 문제가 더 이상 외부 비평가들의 전유물이 아니라 산업 내부에서도 심각하게 받아들여지고 있다는 의미로 풀이됩니다.
인간 통제 범위 넘어설 기술 발전 우려
이들이 가장 크게 우려하는 건 AI가 스스로 새로운 AI를 연구하고 개발하는 과정을 자동화하기 시작할 경우, 기술 발전 속도가 인간의 감독과 규제 능력을 앞지를 수 있다는 점입니다. 현재 개별 기업이나 국가가 경쟁에서 밀릴까 봐 독자적으로 개발 속도를 늦추기는 어려운 상황인데요. 따라서 미국 정부가 주도하는 국제적 조율이 필요하다는 논리입니다. 사실 오픈AI는 이미 2028년 초까지 상당한 연구를 AI 자동화 시스템과 협업으로 진행하는 것을 목표로 삼고 있어, 이러한 우려가 먼 미래의 이야기만은 아닌 셈입니다.
"중국 규제보다 미국 경쟁력 강화가 우선"
이와 대조적으로 마크 저커버그 메타 CEO는 규제보다 미국 자체의 AI 경쟁력 강화가 먼저라는 입장을 분명히 했습니다. 그는 최첨단 중국 AI를 미국 내에서 금지하는 것이 근본 해결책이 될 수 없다고 지적했는데요. 소수 기업이 규제 과정에 과도한 영향력을 행사하는 '규제 포획'을 경계해야 하며, 개방형 AI 모델을 통해 생태계를 발전시켜야 한다고 주장했습니다. 저커버그는 AI의 성능을 제한하는 것이 아니라 오히려 첨단 AI를 활용해 보안 취약점을 찾아내 보완하는 방향이 더 효율적이라는 입장을 내놓았습니다.
안전을 강조하는 목소리와 혁신을 통한 경쟁력 확보라는 두 입장은 미중 AI 패권 경쟁이 심화되는 가운데 더욱 첨예해질 전망입니다. 인터넷 기반 소프트웨어를 통제해야 하는 국제 협정이 과연 핵무기 통제 조약만큼의 실효성을 가질 수 있을지도 미지수입니다. AI 기술이 인류의 삶을 근본적으로 바꾸기 직전, 안전과 발전 사이에서 균형점을 찾는 일이 어느 때보다 중요해지고 있습니다.