법의 시작과 기대
지난 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 일명 AI 기본법이 본격적으로 시행됐습니다. 기술의 빠른 발전 속에서 법적 틀을 마련해 혁신을 지원하면서도 동시에 사회적 신뢰를 확보하겠다는 취지입니다. 법의 핵심은 국가인공지능전략위원회를 중심으로 한 거버넌스 체계 구축과, AI 산업을 위한 R&D 및 데이터 인프라 지원 근거를 마련한 데 있습니다. 특히 사람의 생명이나 기본권에 중대한 영향을 미칠 수 있는 ‘고영향 AI’와, 막대한 연산량을 요구하는 ‘고성능 AI’에 대해서는 위험 관리와 안전성 확보를 위한 엄격한 의무를 부과하고 있죠. 이 법안은 기술 발전의 가속페달과 사회적 안전장치를 동시에 설계하려는 시도로 평가받고 있습니다.
생성형 AI에 대해서는 투명성 확보가 중요한 화두로 떠올랐습니다. AI 기본법은 생성형 AI 서비스 제공자에게 그 사실을 명확히 안내하고, 생성물임을 식별할 수 있도록 가시적이거나 비가시적인 워터마크를 삽입할 것을 의무화했습니다. 위반 시 최대 3천만 원의 과태료가 부과될 수 있어, 가짜 뉴스나 딥페이크 같은 악용 사례를 방지하려는 의도입니다. EU의 AI법이 위험 등급에 따른 사전 허가제에 가깝다면, 한국의 접근법은 원칙 중심의 유연한 규율을 표방하고 있습니다.
워터마크, 지워지다
그러나 법 시행이 채 보름도 지나지 않아 예상치 못한 난관에 부딪혔습니다. AI가 만든 이미지나 영상에 부착된 워터마크를 쉽게 제거하는 방법이 소셜미디어와 온라인 커뮤니티를 통해 빠르게 확산되고 있는 거죠. 유튜브에는 관련 방법을 소개하는 콘텐츠가 등장했고, 윈도우의 ‘생성형 지우기’나 맥의 ‘클린업’ 같은 운영체제 기본 도구부터 시작해, ‘매직이레이저’, ‘바일로’ 같은 전용 무료·유료 프로그램까지 그 목록은 다양합니다. 결국 법이 AI 사업자에게 부과한 의무는, 최종 유통 단계에서 이용자에 의해 간단히 무력화될 수 있는 구조적 취약점을 드러냈습니다.
현행법은 AI 서비스를 만드는 ‘사업자’에게 워터마크 표시 의무를 지우고 있을 뿐입니다. 따라서 사업자가 규정을 잘 지켜 워터마크를 넣더라도, 이를 다운받은 이용자가 고의로 지우고 SNS에 다시 올리는 행위 자체를 막을 명분이 약한 상황이에요. 이는 심각한 규제의 공백으로 이어져, 법의 실효성 자체에 대한 의문을 낳고 있습니다. 워터마크는 AI 생성물과 실제 콘텐츠를 구분하는 핵심 장치인데, 그 장치가 쉽게 제거될 수 있다면 법의 근본적인 목적이 훼손될 수 있다는 지적입니다.
실효성 확보를 위한 고민
이러한 문제를 인지한 국회에서는 이미 보완 입법 작업에 착수했습니다. 정보통신망법 개정안을 통해 AI 생성물을 게시하는 ‘게시자’ 본인에게도 표시 의무를 부과하고, 플랫폼 사업자에게는 해당 표시가 유지되도록 관리할 책임을 지우는 방안이 검토되고 있습니다. 더 나아가, 이용자의 임의 워터마크 제거 및 훼손 행위 자체를 금지하고 위반 시 처벌할 수 있는 근거를 마련하려는 움직임도 있습니다. 이는 규제의 사슬을 생산자에서 유통자, 최종 이용자까지 확장해 실효성을 높이려는 시도로 풀이됩니다.
전문가들은 규제의 필요성에는 공감하면서도 그 방식에 대해 신중할 것을 당부합니다. 기술적 표준을 강제하는 것만으로는 부족하며, 이를 우회하는 행위까지 효과적으로 통제할 수 있는 법적·기술적 대안이 병행되어야 한다는 거죠. 또한, 과도한 규제가 오히려 산업 생태계의 혁신 역량을 위축시킬 수 있다는 우려도 존재합니다. AI 기본법이 추구하는 ‘유연한 규율’의 진정한 의미는, 단순히 규제가 느슨하다는 것이 아니라, 빠르게 변하는 기술 환경에 맞춰 실질적으로 효과를 발휘할 수 있는 규제를 설계하는 데 있을 겁니다. 시행 초기부터 제기된 이 같은 논란은, 기술 입법이 마주하는 고전적인 딜레마—혁신의 자유와 사회적 보호의 균형—를 다시 한번 환기시키고 있습니다.