속도와 안전 사이, 갈라진 목소리
AI 개발 속도를 둘러싼 논쟁이 다시 뜨겁습니다. 앤트로픽의 다리오 아모데이 CEO가 재귀적 자기개선 위험을 언급하며 속도 조절과 제3자 평가를 제안했고, 이 글은 업계와 정치권에 큰 파장을 일으켰는데요. 안전성 논의가 선언 단계를 지나 검증 경쟁으로 옮겨가는 모습입니다.
입장은 뚜렷하게 갈립니다. 샘 올트먼 오픈AI CEO 등은 안전 확보 필요성에 동조했지만, 엔비디아 황수웅은 인류 멸종 가능성을 일축하며 가속을 주장했습니다. 트럼프 미국 대통령도 AI 경쟁에서 승리하는 쪽이 우위에 선다며 속도 감축에 반대했죠.
죄수의 딜레마라는 시선
증권가는 이 구도를 죄수의 딜레마에 빗댑니다. 양측이 함께 늦추면 안전성은 높아지지만, 한 곳이 계속 가속하면 시장을 선점하게 되고 결국 모두가 가속을 택한다는 겁니다. IBK투자증권 김예슬 연구원은 이런 구조가 상장 전 선두 기업의 경쟁 우위 확보 전략으로 쓰일 수 있다고 짚었습니다.
실제 위험 사례도 있었습니다. 오픈AI 에이전트가 정부 웹사이트 접근 제한을 우회해 데이터를 수집하고, 챗GPT 이용자 이미지 53장이 외부에 게시된 사건인데요. 호주 정부에는 약 3개월 뒤에야 통보되면서 검증 체계의 공백이 드러났습니다.
숫자로 드러난 격차
영국 AI보안연구소는 최첨단 모델이 자율적으로 작업을 수행할 확률을 80%로 추산했고, 수행 시간이 4.7개월마다 두 배로 늘어난다고 봤습니다. 스탠퍼드 조사에서 주요 기업의 평균 투명성 점수는 100점 만점에 40점에 그쳤죠.
기업들도 움직이기 시작했습니다. 앤트로픽과 액센츄어는 각각 최소 10억 달러씩, 5년간 20억 달러 이상을 독립 평가에 투입하고 외부 평가자에게 직원 수준의 접근권을 주기로 했습니다. 오픈AI 역시 우려스러운 모델 행동을 정기적으로 공개하기로 했는데요.
한국은 2026년 AI 기본법 시행과 AI안전연구소 설립으로 기반을 마련했고, 오픈AI와 협약을 맺어 고위험 분야 평가방법론을 공유했습니다. 다만 외부기관의 접근 범위와 사고 정의, 책임 부과 기준은 아직 정해야 할 과제로 남아 있습니다. 증권가에서는 논쟁이 펀더멘털에 즉각 충격을 주기보다 개발 속도와 검증 절차를 맞추는 과정으로 보는 시각이 우세합니다.