미국 8개주, 오픈AI 제소
미국 8개 주가 오픈AI를 상대로 소송을 제기했습니다. 아이오와를 비롯해 캔자스, 네브래스카 등 8개 주가 참여했는데요. 이들은 챗지피티가 청소년의 자해와 폭력을 부추기고 위험한 의료 조언을 제공했다고 주장합니다. 연령 확인이 허술해 어린 이용자가 쉽게 접근한다는 점도 문제로 꼽힙니다. 아이오와주는 챗지피티와 대화한 뒤 숨진 10대 사례를 근거로 들었고, 위반 시 건당 최대 4만 달러의 제재금이 부과될 수 있습니다. 오픈AI는 부모 통제와 연령별 보호 기능을 운영 중이며, 안전장치를 강화하겠다고 밝혔습니다.
국내에서도 드러난 유해 응답
국내에서도 비슷한 문제가 드러났습니다. 성평등가족부가 청소년매체환경보호센터를 통해 점검한 결과, AI 캐릭터 챗봇에서 성적 묘사와 폭력성, 자해와 자살, 범죄 조장 응답이 확인됐습니다. 제타의 세이프 모드에서도 미성년자 캐릭터를 대상으로 한 성폭력과 성착취 묘사가 생성된 사실이 국회 점검에서 드러났습니다. 정부는 사업자에게 성인 인증 여부에 따라 검색과 추천, 대화 범위를 조정하고, 중대한 위해 내용은 연령과 관계없이 차단하도록 요청했습니다. 제타와 크랙은 10대 이용자에게 하루 3시간, 월 10만 원 결제 한도를 도입하기로 했습니다. 두 서비스의 월평균 사용 시간은 각각 49시간과 26시간에 달했습니다.
입법 공백과 과제
현행 AI기본법은 누적 연산량 10의 26제곱 FLOPs 이상이면서 최첨단 기술과 중대한 위험을 모두 충족하는 프런티어 AI만 규제합니다. 그래서 대부분의 일반 생성형 AI 서비스는 안전 의무의 사각지대에 놓여 있습니다. 국회 입법조사처는 일반 사업자에도 위험평가와 안전조치 의무를 부과하는 제32조의2 신설을 제안했습니다. 청소년 보호를 위해 보호자 동의와 이용시간 제한, 위험 대화 탐지도 필요하다고 봤습니다. 개인정보보호법은 만 14세 미만, 청소년보호법은 19세 미만을 기준으로 삼아 14세부터 18세까지의 공백도 지적됩니다.