댓글 속 숨은 갈등 조장자들
KAIST와 독일 막스플랑크연구소 공동 연구팀이 지난 20년간 쌓인 네이버 뉴스 댓글 1억 1천만 건을 AI로 분석했습니다. 그 결과, 외국과 연계된 것으로 의심되는 계정 2만 3,998개가 포착되었는데요. 이들은 우리 사회의 민감한 갈등 지점을 노리고 교묘하게 여론에 개입해 온 것으로 확인되었습니다.
좌우 가리지 않는 '갈등 증폭' 공작
분석 결과, 이들 계정은 특정 정치 세력을 옹호하기보다 한국 사회 내부의 대립을 증폭시키는 데 집중했습니다. 진보와 보수를 가리지 않고 전·현직 대통령과 주요 정치인을 도덕적으로 비난하며, 양측의 지지자들이 서로를 향하게 만드는 메시지를 주로 작성했죠. 사실 이들의 공격은 외국을 찬양하기보다 한국 체제와 병역 제도 등을 비난하는 방식으로 이루어졌습니다. 특히 선거 기간에는 새롭게 활동을 시작한 의심 계정이 비선거 기간보다 51%나 많았고, 한국 비난 댓글은 평균 좋아요 비율 0.514를 기록하며 상단에 노출되기도 했습니다.
'설명 가능한 AI'와 남은 과제
연구팀이 개발한 AI는 단순히 계정을 분류하는 데 그치지 않습니다. 댓글의 말투, 문법, 감정 표현, 활동 패턴 등 24개 기준을 종합적으로 분석하고, 왜 의심 계정으로 판단했는지 구체적인 근거를 함께 제시하는 설명 가능한 구조를 갖췄습니다. 이는 기존 AI의 블랙박스 한계를 넘어 전문가가 직접 판단 근거를 확인할 수 있도록 돕는 도구인데요. 연구팀은 이런 기술을 이용자의 자유를 제약하는 차단 수단이 아닌, 선별 검토를 돕는 콘텐츠 관리 도구로 활용하는 것이 바람직하다고 강조했습니다.
반대로 AI 번역기 발달과 익명 공간의 특성을 고려할 때, 외부 개입을 기술적으로 100% 차단하는 것은 사실상 어렵습니다. 그래서 연구팀은 이용자들이 정보를 비판적으로 검토하는 사회적 인식과 의식 수준을 높이는 것이 더 중요하다고 설명했습니다. AI가 위험 신호를 찾아내고 사람이 최종 판단하는 협력 구조 속에서, 디지털 공론장의 투명성을 지켜나가는 방향이 필요해 보입니다. 해당 연구 결과는 오는 8월 13일 미국 볼티모어에서 열리는 유즈닉스 시큐리티 심포지엄 2026에서 발표될 예정입니다.