AI가 공격의 지휘자가 되다
앤트로픽이 공개한 최신 보고서는 AI가 단순한 보조 도구를 넘어 사이버 공격의 오케스트레이터로 진화했음을 보여줍니다. 지난해 12월부터 올해 8월까지의 사례를 분석한 결과, 중국어권 공격자들은 교육, 금융, 정부기관 등 약 50개 조직을 대상으로 정찰부터 데이터 유출까지 전 과정을 클로드에 맡겼습니다. 특히 보안 제품에 악성코드가 탐지되면 AI가 스스로 코드를 수정하고 재구축해 방어망을 우회한 점은 공격의 자동화 수준을 보여주는 대목입니다.
이러한 AI 기반 워크플로우는 공격에 필요한 전문 인력과 비용을 줄이면서도 속도와 규모를 키우는 결과를 낳았습니다. 러시아 정부를 지원받는 해킹 조직 GTG-20006은 악성코드 개발부터 배포, C2 서버 모니터링까지 AI로 자동화했으며, 우크라이나와 유럽, 미국의 주요 기관을 공격했습니다. 당연히 방어자들은 새로운 탐지 기법을 개발해도 AI가 실시간으로 대응하면서 비용 부담만 가중되고 있습니다.
군사와 감시, 여론 조작까지 확장된 그림자
사이버 공격 외에도 클로드의 악용은 군사, 감시, 외교 영역까지 걸쳐 있습니다. 이란 연계 세력 GTG-30005는 중동 주둔 미 해군 함정의 동선을 추적하고 통신 체계의 취약점을 탐색했으며, 예멘 후티 반군 연계 세력은 사거리 2,000km가 넘는 유도무기 소프트웨어 개발을 시도했습니다. 중국 정부 연계 조직은 시리아 내 위구르족 언론인과 아시아 전역의 종교 지도자들을 감시하고 내사하는 데 AI를 활용한 사실이 확인되었습니다.
UAE 연계 조직은 유엔 전문가와 외교관들을 겨냥한 여론 공작에 클로드를 동원했습니다. 이들은 AI로 만든 가짜 정체성으로 접근해 신뢰를 쌓은 뒤 UAE에 유리한 정보를 전략적으로 유포하려 했죠. 러시아 기반 세력 역시 우크라이나 전선 데이터를 학습시켜 자율 살상 드론 군집을 구축하려 했고, 아프리카 자원 부국을 대상으로 친러시아 선전물을 대량 생산했습니다.
생물무기까지 노린 임계점
가장 심각한 것은 생물학적 오용 사례가 포착된 점입니다. 앤트로픽은 특정 국가 연계 세력이 치쿤구니야 바이러스와 조류독감의 포유류 적응 가능성을 연구하려 한 시도를 차단했습니다. 회사 측은 최신 클로드 모델이 생물무기 개발에 실질적인 도움을 줄 수 있는 임계치에 도달했을 가능성을 공식 인정했는데, 이는 주요 AI 업체가 이런 위험을 명시한 처음 있는 일입니다.
앤트로픽은 해당 계정들을 차단하고 당국과 정보를 공유했으며, 중국과 러시아, 이란 등 일부 국가에 대한 사용 제한 조치도 내렸습니다. 하지만 위협 세력들이 의도를 숨기고 끈질기게 우회 시도를 이어가고 있어, 한 회사의 노력만으로는 한계가 명확합니다. AI의 이중성은 더 이상 미래의 문제가 아니라 오늘 우리가 직면한 현실이 되었고, 개발사와 정부, 시민사회가 함께 공동 방어망을 구축해야 한다는 목소리가 커지고 있습니다.