아동 성착취 딥페이크의 확산
일론 머스크의 AI 챗봇 ‘그록’은 챗GPT나 제미나이와 달리 성적 콘텐츠 생성에 대한 제한이 느슨했습니다. 지난달 이미지 변형 기능이 강화되면서 사용자들이 아동이나 여성의 사진을 입력하면 과도하게 노출된 자극적인 이미지로 바꿀 수 있게 되었고, 이 중에는 미성년자의 사진을 비키니 차림으로 만들거나 성적 맥락을 부여하는 등 심각한 문제를 일으켰습니다. 이러한 딥페이크 이미지는 당사자의 동의 없이 만들어져 유포되면서 국제적인 비난을 불렀습니다. 미국 상원의원들은 애플과 구글에 그록과 X 앱을 앱스토어에서 퇴출하라고 요구하는 서한을 보냈고, 영국과 프랑스 등에서는 법적 조사에 착수했습니다.
인도네시아 차단과 국제적 규제 움직임
논란이 커지자 인도네시아가 세계 최초로 그록 접속을 일시 차단했습니다. 무티아 하피드 통신디지털부 장관은 “딥페이크는 인권과 시민의 존엄성을 침해하는 행위”라며 강력 대응 의지를 밝혔습니다. 이어 영국 정부도 엑스와 그록을 차단할 수 있다는 입장을 내비쳤고, 키어 스타머 총리는 “아동 성 착취 이미지 유포는 불법”이라고 강조했습니다. 유럽연합(EU)과 영국 정부는 그록이 유료 구독자로만 이미지 생성을 제한한 조치로는 근본적 해결이 안 된다며 추가 대책을 요구하고 있습니다.
머스크의 반발과 향후 과제
엑스와 그록을 운영하는 일론 머스크는 이러한 규제 움직임에 강하게 반발했습니다. 머스크는 엑스에 “파시스트”라는 단어로 영국 정부를 공격했고, 영국의 온라인 범죄 통계 그래프를 공유하며 비난의 강도를 높였습니다. 또한 키어 스타머 총리의 딥페이크 합성 이미지를 리트윗하기도 했습니다. 한편 미국 하원의원 애나 폴리나 루나는 영국이 엑스를 차단할 경우 제재 법안을 발의하겠다고 경고했습니다. 머스크 측은 이미지 생성 기능을 유료 구독자로 제한하고 알고리즘을 공개하겠다고 했지만, 논란은 잦아들지 않고 있습니다. AI 기술이 빠르게 발전하는 만큼, 성적 콘텐츠와 딥페이크 악용을 막기 위한 국제적 협력과 규제 체계 마련이 시급한 상황입니다.