명문대 의사부터 스타까지…AI가 만든 가짜 홍보대사들
최근 온라인 공간에서 AI가 만든 가짜 의사와 유명인이 불법 제품을 광고하는 사례가 속출하고 있습니다. 서울대 출신 전문의로 위장한 AI 가짜 의사가 전립선 비대증 영양제를, 치과의사로 위장한 인물이 입냄새 제거 유산균을 추천하는 허위 광고가 발견됐습니다. 식품의약품안전처는 지난달까지 AI 관련 불법 의료 광고만 93건을 적발했습니다. 의료 분야뿐만 아니라, 방탄소년단 RM이나 손흥민 선수, 호날두의 얼굴과 목소리를 합성한 딥페이크 영상이 불법 온라인 도박 앱을 홍보하는 사례도 빈번합니다. 한국소비자원의 조사에 따르면, 두 달간 페이스북에서만 유명인이나 방송사 뉴스를 조작한 딥페이크 광고가 14건 적발됐습니다. AI 기술의 발전이 오남용으로 이어지며 국민의 건강과 재산을 위협하는 새로운 형태의 범죄로 진화하고 있는 겁니다.
이러한 가짜 광고는 기존 규제의 사각지대를 파고듭니다. AI가 생성한 인물은 실존하지 않아 기존의 ‘사칭’ 규정으로는 처벌하기 어렵고, 플랫폼을 통해 순식간에 유포되며 신속한 차단이 어려운 구조적 문제가 있습니다. 특히 도박 광고의 경우, 수사가 시작된 지 오래된 손흥민 선수 사칭 영상이 여전히 페이스북에 노출되는 등 플랫폼 본사의 대응 속도가 현실을 따라가지 못하고 있습니다.
정부, 'AI 생성물 표시제'로 투명성 강화…심의는 '패스트트랙' 탄다
정부는 이러한 디지털 신기술의 악용에 본격적으로 대응하기 위한 법적 장치를 마련하고 있습니다. 가장 핵심적인 조치는 AI로 만들어진 콘텐츠임을 반드시 표시하도록 하는 ‘AI 생성물 표시제’의 도입입니다. 방송통신위원회를 중심으로 관련 법(정보통신망법)을 개정해, 포털과 플랫폼, 게시자 모두에게 AI 생성 사진·영상·광고에 대한 표시 의무를 부과할 계획입니다. 이용자가 이 표시를 지우거나 훼손하는 행위도 금지됩니다. 이 제도는 소비자에게 ‘이 콘텐츠는 AI가 만들었구나’라는 판단의 근거를 제공해 허위 광고에 현혹되는 것을 사전에 차단하겠다는 취지입니다.
동시에 불법 광고 차단 속도를 높이기 위한 제도 개선도 추진됩니다. 기존 복잡한 심의 절차로 인해 불법 광고가 광범위하게 퍼진 뒤에야 조치가 가능했던 한계를 극복하기 위해서입니다. 정부는 식품, 의약품 등 소비자 피해가 클 수 있는 품목의 허위·과장 광고에 대해서는 24시간 이내 ‘신속 심의’를 적용하고, 생명이나 재산에 대한 중대한 피해가 우려될 경우에는 심의 결과를 기다리지 않고 방송통신위원회가 플랫폼에 직접 임시 차단을 요청할 수 있는 ‘긴급 시정 요청’ 절차를 도입합니다.
손해액 최대 5배 배상…징벌적 제재로 위험 행위 억제
가짜 광고를 만드는 행위 자체에 대한 처벌도 대폭 강화됩니다. 정부와 여당이 추진 중인 핵심 제재 수단은 **‘징벌적 손해배상제’**입니다. 악의적으로 허위·조작 정보를 유포해 피해를 입힌 경우, 실제 손해액의 최대 5배까지 배상 책임을 지도록 하는 제도입니다. 이는 단순한 시정 조치를 넘어, 불법 광고로 얻는 경제적 이익보다 훨씬 큰 비용을 부과함으로써 사전에 위험 행위를 억제하려는 목적이 있습니다.
공정거래위원회와 식약처는 표시·광고법상 과징금 수준도 대폭 상향할 방침입니다. 김민석 국무총리는 최근 국가정책조정회의에서 “AI를 활용한 허위·과장 광고에 대한 사전 예방과 사후 차단을 추진하겠다”며 강력 대응 의지를 밝혔습니다. 이번 대책은 쿠팡 개인정보 유출 사고와 함께 논의된 ‘디지털 신기술의 부작용’에 대한 포괄적 점검의 일환으로, 내년 상반기까지 관련 법 개정을 완료할 계획입니다.
기술의 그림자…규제와 대응의 속도전이 시작된다
AI 딥페이크와 생성 기술의 발전은 창의적인 콘텐츠 생산의 문을 넓혔지만, 동시에 기존에 상상하기 어려웠던 정교한 사기와 허위 정보 유포의 도구로도 활용되고 있습니다. 문제는 이러한 기술의 악용이 단순한 사기 수준을 넘어, 공공기관과 언론, 유명인의 신뢰를 붕괴시키고 사회적 혼란을 초래할 수 있다는 점입니다. 정부의 대응은 표시 의무화를 통한 투명성 제고와, 강력한 제재를 통한 경제적 억지력 확보라는 두 축으로 진행되고 있습니다.
그러나 기술의 발전 속도에 규제가 제때 따라잡을 수 있을지, 그리고 글로벌 플랫폼에 대한 실효성 있는 규제가 가능할지에 대한 우려도 남아 있습니다. 궁극적으로는 플랫폼의 자발적이고 적극적인 조치와 함께, AI 생성 콘텐츠에 대한 소비자들의 비판적 시각과 디지털 리터러시가 더욱 중요해질 전망입니다. 기술의 진화는 계속될 테니, 그에 따른 사회적 방어 체계 역시 지속적으로 진화해야 하는 숙제를 안겨주고 있습니다.