경고를 던진 한 연구원
인공지능이 10년 안에 인류를 죽일 수 있다는 경고가 전 세계를 뒤흔들었습니다. 영국 케임브리지 대학에서 수학을 전공한 27세 연구원 제이컵 콕슨이 샌프란시스코 공원에서 올린 짧은 글이었는데요. 팔로워가 100명도 안 되던 계정의 메시지는 순식간에 20만 명 넘게 퍼졌고, 조회수는 1억 7천만 회를 넘겼습니다.
콕슨은 알파고와 GPT-3를 거쳐 오픈AI와 앤트로픽에서 일한 인물입니다. 그런데 그는 안전 업무를 맡으면서도 AI 개발 경쟁에 가담하는 듯한 감각을 지우지 못했고, 결국 사직을 택했습니다. 이후 각국 정치인과 기업 대표들을 만나며 개발 속도를 늦춰야 한다고 주장해 왔습니다.
갈라지는 실리콘밸리
그의 경고는 업계의 오래된 균열을 다시 드러냈습니다. 앤트로픽 CEO 다리오 아모데이는 AI가 스스로 다음 세대 모델을 만드는 '재귀적 자기개선'을 근거로 속도 조절을 주장했고, 구글 딥마인드의 데미스 허사비스도 아직 이해되지 않은 위험이 크다며 같은 목소리를 냈습니다.
반대로 젠슨 황 엔비디아 CEO는 안전을 최우선으로 두면서도 공학적으로 풀 문제라며 속도와 안전을 동시에 달성할 수 있다고 맞섰습니다. 마크 저커버그 메타 CEO 역시 개발을 늦추기보다 기업 자체 통제에 무게를 두고 있고, 팔란티어의 알렉스 카프는 정부 규제보다 개발자의 책임을 앞세웁니다.
규칙을 쥐려는 경쟁
정치권의 반응도 엇갈립니다. 도널드 트럼프 전 대통령은 규제 강화가 중국에만 도움이 된다며 일축했고, 버니 샌더스 상원의원은 전면 중단을 요구했습니다. 찰스 3세 국왕은 너무 늦기 전에 충분한 통제 수단을 마련해야 한다고 경고했지만, 회담에서 구체적인 합의는 나오지 않았습니다.
쟁점은 결국 누가 검증하고 누가 브레이크를 쥐느냐입니다. 아모데이는 외부 평가기관의 상시 검증과 기업 간 공동 안전기준, 국가 간 협력이라는 세 단계를 제안했습니다. 다만 중국은 이를 냉전식 전략이라 비판했고, 안전 기준이 기술 진입 장벽이 될 수 있다는 우려도 나옵니다.