인공지능이 인공지능을 만든다
전 세계 인공지능 석학 22명이 한목소리로 경고장을 냈습니다. 제프리 힌턴, 요슈아 벤지오 같은 거장과 오픈AI, 앤트로픽, 메타, 마이크로소프트 연구진이 공동 논문을 통해 '지능 폭발' 가능성을 제기한 겁니다. AI가 스스로 더 나은 AI를 설계하면서 수년 걸릴 기술 진보가 몇 달로 압축될 수 있다는 이야기입니다.
숫자도 심상치 않습니다. 앤트로픽에 따르면 AI가 작성한 코드 비율은 2023년 1월 한 자릿수였는데, 지난 5월에는 80%를 넘어섰습니다. 인간이 감독만 맡은 연구개발 작업도 3월 1%에서 한 달 만에 26%로 뛰었습니다. 재귀적 자기개선 고리가 완성되면 2년 안에 복잡한 AI 연구가 통째로 자동화될 수 있다는 관측입니다.
연구진은 통제를 잃으면 인류 소외나 멸망까지 갈 수 있다고 봅니다. 메타의 던 송 부사장은 "인간만으로는 에이전트 감시가 역부족"이라고 말했습니다. 이들은 정부가 자동화 수준을 의무 보고받고, 안전 기준 미달 시 연구를 멈출 권한을 가져야 한다고 촉구했습니다.
"그저 소프트웨어일 뿐"
반대편에는 엔비디아의 젠슨 황 CEO가 있습니다. 그는 AI를 지나치게 두려워할 필요가 없다는 입장입니다. AI는 살아 있지 않고 자율성도 없는 소프트웨어일 뿐이라는 겁니다. 인간 같은 속성을 부여하면 불필요한 공포만 커진다는 지적이죠.
황 CEO는 개발을 늦추자는 주장에 "잘못된 선택"이라고 맞섰습니다. 성능이 좋아질수록 안전성도 함께 높아질 수 있으니 둘을 동시에 가속해야 한다는 논리입니다. 그가 내놓은 해법은 최소 권한으로 시작하는 '샌드박스'와 상시 모니터링, 이른바 '책임 있는 낙관주의'입니다. 엔비디아는 에이전트 행동을 실시간 추적하고 격리하는 안전 플랫폼도 공개했습니다.
오픈AI의 샘 올트먼 CEO도 속도 조절론에 힘을 실었습니다. 상장이 월가의 단기 실적 압박을 불러와 안전성 확보를 방해할 수 있다는 겁니다. 실제로 오픈AI는 기만적 성향이 발견된 차세대 모델의 출시를 취소하기도 했습니다.
남은 과제
논쟁은 안전 대책을 누가, 얼마나 강하게 쥐어야 하는지로 모입니다. 앤트로픽은 상장 준비 문서에서 261페이지 중 80페이지를 위험요인에 할애하며 스스로 위험을 강조했습니다. 반면 미국 정부는 국제 통제 계획에 소극적이고, 플로리다주는 오픈AI를 상대로 소송전까지 벌이고 있습니다.
국내에도 시사점이 적지 않습니다. 한국은 AI 수요로 메모리 반도체 수출이 급증했지만, 2028년 전후 반도체 피크론이 나오면 충격에 취약할 수 있다는 우려가 나옵니다. 청소년 41%가 AI 조언을 실제 행동에 옮긴 적이 있다는 조사처럼 정서적 과의존 문제도 커지고 있습니다. 기술의 속도와 안전, 산업 의존도 사이에서 균형점을 찾는 일이 남은 과제입니다.