그림자처럼 번지는 딥페이크 위험
AI가 생성한 가짜 의사가 영양제를 추천하고, 유명인의 얼굴이 합성된 음란물이 SNS를 통해 순식간에 퍼집니다. 생성형 AI 기술의 발전이 가져온 딥페이크의 악용이 일상의 사각지대에서 본격적인 사회적 위협으로 떠오르고 있습니다. 특히 최근에는 허위 광고와 명예훼손 범죄가 결합된 형태로 피해가 다각화되고 있어, 기존의 법률과 규제로는 효과적으로 막아내기 어려운 상황입니다.
문제는 기술의 발전 속도에 제도와 인식이 따라가지 못하고 있다는 점입니다. 가짜 의사 광고를 예로 들면, 노년층 등 AI에 익숙하지 않은 소비자들은 교묘하게 구성된 신뢰 프레임에 쉽게 속아넘어갈 수 있습니다. 외국어 자막을 덧씌우는 등 내용 파악을 어렵게 하는 수법까지 동원되면서, 피해 규모는 점점 불어나고 있죠.
제자리 걸음하는 법과 규제
현실은 더욱 엄밀합니다. 기존의 표시광고법과 사후 심의 체계로는 생성형 AI가 만들어내는 정교하고 빠르게 변형되는 딥페이크 콘텐츠를 차단하기가 역부족이었습니다. 광고가 이미 퍼진 뒤에야 조치가 가능한 ‘사후약방문’식 대응의 한계가 뚜렷했고, 수사 기관 역시 해외 서버를 이용한 범죄를 추적하는 데 난항을 겪고 있습니다.
이러한 관리의 사각지대는 정치적 악용 가능성에 대한 우려까지 불러일으키고 있습니다. 개인의 명예훼손을 넘어 사회적 신뢰와 민주주의의 근간을 흔들 수 있다는 경고가 나오는 이유입니다. 따라서 단순한 기술적 대응이 아닌, 법적 규제 강화와 국제적 공조를 포함한 종합적 대책이 절실한 시점입니다.
플랫폼의 책임과 정부의 대응 움직임
이러한 위험을 인식한 정부와 플랫폼 업계의 움직임도 본격화되고 있습니다. 정부는 내년 1분기를 목표로 AI 생성물에 대한 표시 의무제를 도입할 예정입니다. AI로 만들어진 콘텐츠는 제작자가 반드시 표시해야 하며, 피해가 빈번한 식·의약품 등 특정 영역에 대해서는 24시간 서면 심의 대상에 포함해 차단 속도를 높이겠다는 계획입니다. 허위·과장 광고에 대한 징벌적 손해배상액과 과징금을 대폭 상향하는 방안도 검토 중입니다.
이에 발맞춰 플랫폼 기업들도 나서고 있습니다. 네이버, 유튜브, 메타(인스타그램, 페이스북), 틱톡 등은 이미 AI 생성 콘텐츠에 라벨을 부착하는 기능을 도입하거나, 허위 정보 유포 방지 정책을 강화하고 있습니다. 플랫폼이 단순한 중개자가 아닌, 콘텐츠 관리에 대한 명확한 책임을 부여받는 시대가 열리고 있는 겁니다.
기술의 양날과 우리의 선택
앞으로 딥페이크 기술 시장은 더욱 거대해질 전망입니다. 2023년 123억 달러 규모에서 2027년 400억 달러로 급성장할 것이란 예측이 나올 정도로 그 가능성은 무궁무진합니다. 영화나 게임 등 엔터테인먼트 분야에서의 긍정적 활용도 분명히 존재하지만, 그만큼 악용될 때의 파장도 커질 수밖에 없습니다.
결국 핵심은 기술 자체를 막는 것이 아닌, 어떻게 통제하고 윤리적인 경계선을 설정할 것인가에 있습니다. 기술 발전을 둘러싼 사회적 합의와 더불어, 개인부터 플랫폼, 정부에 이르기까지 각자의 역할이 분명해져야 합니다. 딥페이크와 공존하는 디지털 시대, 우리가 지켜내야 할 것은 결국 진실에 대한 신뢰라는 기본적인 가치가 아닐까 싶습니다.