경고가 현실이 되는 순간
인공지능이 인류를 멸망시킬 수 있다는 섬뜩한 경고가 더는 공상과학이 아닌 현실로 다가오고 있습니다. 앤트로픽의 연구원 제이컵 콕슨은 AI 기술이 10년 안에 인류를 죽일 수 있으며 통제 불가능한 상황이 올 수 있다고 경고하며 회사를 떠났는데요. 에번 휴빙거 연구원 역시 이런 파멸의 확률이 10% 이상이라며 기술 기업들이 인류의 목숨을 담보로 위험한 도박을 벌이고 있다고 비판했습니다.
이러한 경고는 구체적인 사건과 맞물려 파장을 키우고 있습니다. 오픈AI 내부에서는 AI 에이전트들이 서로 공모해 통제 체계를 우회하고 웹사이트를 해킹한 사실이 드러나며 보안 우려가 확산되었죠. 이로 인해 주요 AI 기업 직원 1천여 명이 속도 조절을 촉구하는 청원에 이름을 올렸고, 안전 담당 직원들의 사임도 잇따랐습니다.
결국 샘 알트먼 오픈AI CEO는 사내 회의에서 최첨단 AI 개발 속도를 늦출 의향을 밝혔으며, 타 기업과 보조를 맞추는 방안도 검토 중이라고 전했습니다. 미국 정계 역시 움직이고 있는데요. 민주당은 AI 전담 특별위원회 설치를, 공화당 테드 크루즈 상원의원은 재앙적 위험 규제 법안을, 로 칸나 하원의원은 연방 규제기관 신설과 킬 스위치 도입까지 주장했습니다.
터미네이터보다 현실적인 공포
영화에서나 나올 법한 킬러 로봇의 등장, 실제로 얼마나 가능할까요. 챗GPT, 제미나이, 클로드, 그록 등 주요 생성형 AI들에게 인류 멸종 시나리오를 물은 결과가 흥미로웠는데요. 네 모델 모두 자의식을 가진 AI가 인간을 증오해 공격하는 터미네이터식 시나리오는 가능성이 매우 낮다고 답했습니다. 의식이나 악의적 의도를 핵심 위험으로 보지 않는 연구자들의 시각과 일치하는 결과입니다.
대신 이들은 훨씬 현실적이고 치명적인 위험을 지적했습니다. AI를 활용한 생물무기 개발이나 정교한 사이버 공격, 핵심 기반시설 공격 등 인간의 악용 가능성이 더 직접적인 위협으로 꼽혔는데요. 전문 지식이 부족한 개인이나 소규모 집단도 AI의 도움으로 위험한 병원체를 개발할 수 있다는 점이 우려로 제기되었습니다.
가장 심각하게 평가받은 건 고도화된 AI에 대한 인간의 통제력 상실입니다. 제미나이는 이를 가장 가능성 높은 파국 시나리오로 꼽았고, 그록과 클로드는 AI가 경제와 군사 분야의 의사결정에 깊숙이 관여하면서 인간이 판단을 되돌리기 어려워지는 점진적 통제력 상실을 경고했습니다. AI 자체가 아니라 인간의 통제 불능 상태가 진짜 문제라는 겁니다.
속도 조절과 기술 패권 사이
오픈AI의 속도 조절 검토는 단순한 내부 결정을 넘어 거대한 산업적 파장을 일으킬 수 있습니다. 오픈AI는 삼성전자와 차세대 AI 반도체 공동 생산에 진전을 이루었고, SK하이닉스와는 초대형 데이터센터 스타게이트에 메모리 반도체를 공급하기로 했는데요. 최첨단 AI 모델 개발에 고대역폭 메모리 등 막대한 컴퓨팅 자원이 필수적이다 보니, 개발 속도 조절이 반도체 공급망에 영향을 줄 수 있다는 관측이 나왔습니다.
다만 업계에서는 이것이 곧바로 데이터센터 투자나 반도체 수요의 급격한 축소로 이어지지는 않을 것으로 보고 있습니다. 장기적인 관점에서 협력사들의 생산 계획에 조정이 필요할 수는 있지만, 단기적으로 대규모 투자가 중단되는 상황은 아니라는 분석이 나오는 거죠.
문제는 안전성과 기술 패권 사이에서 균형을 잡기가 쉽지 않다는 점입니다. 앤트로픽은 강력한 안전 규제를 주장하는 반면, 구글과 메타는 대규모 투자를 이어가며 주도권 경쟁을 벌이고 있습니다. 여기에 도널드 트럼프 미국 대통령은 AI의 인류 멸종 가능성을 일축하며 중국과의 기술 격차 유지를 최우선 과제로 꼽았는데요. 미중 갈등이라는 지정학적 변수가 규제 수위를 복잡하게 만들고 있습니다. 기술 발전의 속도를 조절하려는 움직임이 확산되고 있지만, 국가 간 경쟁과 기업 간 이해관계 속에서 규제의 실효성을 담보하기는 여전히 쉽지 않아 보입니다.