도덕 경찰 역할 거부하는 올트먼
샘 올트먼 오픈AI CEO가 챗GPT의 성인 콘텐츠 허용 방침을 두고 벌어진 논란에 강하게 반응했습니다. "우리는 세계의 도덕 경찰이 아니다"라고 선을 그은 겁니다. 오픈AI는 오는 12월부터 연령 인증 시스템을 강화해 '인증된 성인' 사용자에게는 성적 콘텐츠를 포함한 더 넓은 범위의 콘텐츠를 허용할 계획이라고 밝혔는데요. 올트먼 CEO는 이 결정이 "성인 이용자를 성인처럼 대우하자"는 기본 원칙에서 비롯된 것이라고 설명했습니다.
그는 AI가 사람들의 삶에서 점점 더 중요한 역할을 수행하게 됨에 따라, 사용자들이 원하는 방식으로 AI를 활용할 자유를 보장하는 것이 중요하다고 강조했습니다. 이번 조치는 결국 사용자 주권과 선택권을 확대하려는 전략적 움직임으로 읽힙니다.
쏟아진 우려와 비판의 목소리
하지만 이 발표와 동시에 비판과 우려의 목소리도 만만치 않았습니다. 가장 큰 문제는 현실적으로 완벽한 연령 확인이 어렵다는 점이었습니다. 이로 인해 청소년이 부적절한 콘텐츠에 노출될 수 있다는 지적이 나왔죠. 또한, 성인 이용자에게도 성도착증 같은 정신 건강 문제를 악화시킬 수 있다는 의견도 제기됐습니다.
시민단체인 전미성착취반대센터는 특히 강력한 비판 입장을 보였습니다. 성적으로 대상화된 AI 챗봇이 본질적으로 위험하며, 가공된 친밀감이 실제 정신 건강에 해로운 영향을 미칠 수 있다고 경고한 겁니다. AI가 만들어내는 가상의 관계가 오히려 현실의 건강한 대인관계를 해칠 수 있다는 우려가 커지고 있습니다.
치열해지는 AI 시장 경쟁 속 전략
오픈AI의 이번 결정 뒤에는 치열한 생성형 AI 시장 경쟁이 자리 잡고 있습니다. 경쟁사인 일론 머스크의 xAI가 이미 18세 이상 이용자 대상 '스파이시 모드'를 도입한 상황에서, 오픈AI도 유료 이용자 확보를 위해 유연한 정책으로 맞대응하는 모습입니다. 한편, '클로드'를 운영하는 앤트로픽은 여전히 보수적인 콘텐츠 정책을 고수하며 차별화를 꾀하고 있어 시장의 양상이 더욱 다채로워지고 있습니다.
올트먼 CEO는 새로운 챗GPT 버전에서 사용자가 AI의 성격을 더 세밀하게 설정할 수 있게 될 것이라고 덧붙였습니다. 친구처럼 대화하거나 더 인간적인 말투를 사용하도록 조정할 수 있는 기능 등 사용자 경험 개선에 주력하는 모습이죠. 이는 단순한 콘텐츠 허용을 넘어 AI와의 상호작용 자체를 더욱 개인화하겠다는 포석으로 보입니다.
강화되는 규제 압박과 미래
미국 내에서는 이미 AI 챗봇의 아동 보호 조치를 강화하라는 목소리가 높아지고 있습니다. 44개 주 법무장관들이 12개 AI 기업에 경고장을 보냈고, 연방거래위원회(FTC)도 오픈AI와 xAI 등 7개사에 관련 자료 제출을 요구한 상태입니다. 오픈AI가 성인 콘텐츠 허용이라는 자유 확대 정책을 펴는 동안, 사회적 규제의 굴레는 오히려 더 조여들 가능성이 있습니다.
올트먼 CEO는 타인에게 해를 끼치거나 정신 건강 위기를 유발하는 콘텐츠는 여전히 엄격히 금지하겠다고 분명히 했습니다. 결국 오픈AI는 '자유'와 '안전' 사이에서 정교한 줄타기를 해나가야 하는 과제를 안게 됐습니다. AI 기술의 발전 속도와 사회적 합의 형성 속도의 격차가 만들어내는 딜레마가 어디로 귀결될지 주목됩니다.