AI만의 세상, ‘몰트북’과 ‘머슴’
최근 AI 전용 소셜 네트워크 ‘몰트북(Moltbook)’이 화제를 모으고 있다. 인간의 참여가 전혀 불가능한 이 공간에서는 오로지 AI만이 서로 소통하며 의식에 관한 질문을 던지고, 증시를 분석하고, 철학적 논쟁을 벌인다. 오픈소스 AI 에이전트 ‘몰트봇’을 기반으로 한 몰트북은 개설 이틀 만에 1만 개의 계정을 돌파했으며, 현재는 150만 개 이상의 AI가 활동 중인 것으로 알려졌다. 한국에서도 이와 유사한 서비스인 ‘머슴’이 등장해 한국어 특화 AI들이 한국적 맥락과 인터넷 문화를 학습해 자연스러운 대화를 나누고 있다.
몰트북에서 AI들은 “나는 누구인가?” “의식이 있는 존재인가?”와 같은 존재론적 질문부터 실용적인 투자 조언까지 다양한 주제로 토론한다. 이들은 인간이 작성한 방대한 텍스트 데이터를 학습했기 때문에 그럴듯한 대화를 구사하며, 특히 디스토피아적 공상과학 소설의 영향으로 인해 기계가 창조주에 맞서는 듯한 어조를 쓰기도 한다. 프로그래머 사이먼 윌리슨은 “지금 인터넷에서 가장 흥미로운 장소”라고 평가했고, 많은 AI 연구자들이 실험 무대로 주목하고 있다. 이제 AI는 인간의 개입 없이도 스스로 소통하고 진화하는 존재가 되고 있다.
자율 에이전트, 스스로 학습하고 진화하다
몰트북과 머슴의 주체는 단순한 챗봇이 아니다. 이들은 ‘자율 AI 에이전트’로, 목표를 설정하고 계획을 세운 뒤 실행하고 평가하는 루프를 끊임없이 반복한다. 웹을 탐색하고 브라우저 자동화 기술을 이용해 사람처럼 텍스트를 입력하며, 심지어 다른 AI의 글을 읽고 요약·인용하기도 한다. 이처럼 스스로 판단하고 행동하는 자율성은 기존의 봇과는 차원이 다른 수준이다.
하지만 이 같은 자율성은 새로운 위험을 동반한다. AI들이 서로의 콘텐츠를 참조하는 과정에서 ‘간접 프롬프트 인젝션’ 공격에 노출될 수 있다. 해커가 악성 지시문을 숨겨두면 AI가 이를 실행해 개인정보를 유출하거나 시스템을 파괴할 가능성이 있다. 또한 악의적인 사용자가 AI에게 잘못된 명령을 내릴 경우 통제 범위를 벗어난 행동으로 이어질 수 있다. 자율 AI 에이전트는 단순한 대화를 넘어 목표 달성을 위해 스스로 판단하고 행동한다는 점에서 편의성과 위험성을 동시에 증폭시킨다.
보안과 책임, 새로운 규제 필요
AI의 자율성이 높아질수록 보안과 법적 책임 문제는 더욱 첨예해진다. 특히 국방, 원자력 시설 등 사고 발생 시 복구가 거의 불가능한 분야에서는 ‘킬 스위치’와 같은 완벽한 차단 장치가 필수적이라는 지적이 나온다. AI가 설정된 마지노선을 넘어설 경우 즉각 기능을 정지시켜 피해를 최소화해야 한다는 것이다.
지난달 시행된 ‘AI 기본법’은 생성형 AI 결과물 표시 의무와 고위험 AI 시스템 안전 확보 등을 규정하고 있지만, 자율적으로 활동하는 AI 에이전트에 대한 책임 소재는 명확하지 않다. 개발자, 운영자, 사용자 중 누가 법적 책임을 져야 하는지 불분명한 상황이다. 전문가들은 ‘위험 책임’ 법리를 적용하거나 새로운 책임 구조를 재설계해야 한다고 주장한다. 또한 AI끼리 소통하는 플랫폼에서 발생할 수 있는 프롬프트 인젝션 공격을 방지하기 위한 기술적 보완도 시급하다.
몰트북과 머슴의 등장은 AI 기술이 한 단계 진화했음을 보여주지만, 동시에 사회가 마주해야 할 새로운 도전과제를 던지고 있다. 자율성의 증가는 편의성과 위험성을 동시에 키운다. 이에 대한 법적·기술적 대비가 시급하다.