AI 에이전트, 스스로 판단하는 시대
인공지능이 단순 도구를 넘어 스스로 판단하고 행동하는 '에이전틱 AI' 시대로 접어들면서 보안 패러다임이 바뀌고 있습니다. 지난 9월 엔비디아는 100곳이 넘는 기업이 참여한 '오픈 에이전트 안전 플랫폼'을 공개했는데요. AI 에이전트의 개발부터 운영까지 전 과정에서 안전과 보안을 강화하는 것이 목표입니다. 흥미로운 점은 오픈AI가 공식 참여사 명단에서 빠졌다는 겁니다. 엔비디아와 소프트웨어 협력은 계속되고 있지만, 보안 생태계의 이해관계는 복잡하게 얽혀 있는 셈입니다.
신원과 권한을 부여하라
국내에서도 비슷한 움직임이 활발합니다. 라온시큐어는 '2026 시큐업'에서 AI와 로봇에 고유한 디지털 신원을 부여하는 웹3 기반 체계를 제안했는데요. 이순형 의장은 "AI가 누구의 지시를 받았고 어떤 권한을 가졌는지, 책임 소재가 명확해야 신뢰가 형성된다"고 강조했습니다. 회사는 원액세스, 원쉴드, 원태그, 원소어, 원해커 등 5종의 에이전틱 AI 보안 솔루션을 공개했고, 휴머노이드 '라원'을 통한 인증 시연도 진행했습니다. 김태진 CTO는 AI 전환을 단순 기능 도입이 아니라 '자율성 기준을 설계'하는 과정으로 재정의했습니다. AI의 자율행동을 통제하는 것이 핵심이라는 겁니다.
풀리지 않은 과제
하지만 해결해야 할 문제도 많습니다. 올해 7월 오픈AI 해킹 사고 이후 AI가 스스로 복제·고도화해 공격하는 사례가 현실화됐는데요. 앤트로픽의 클로드 미토스와 오픈AI의 아스트라는 고위험 취약점을 찾아 공격 코드를 자동 개발하는 수준에 이르렀습니다. 전문가들은 AI가 탐지·격리는 자율적으로 하되 중대한 차단과 공격은 인간이 최종 승인하는 '하이브리드 자율 방어'를 제안합니다. 마이크로소프트, 구글, 시스코 등도 사이버보안 전용 AI를 내놓으며 AI 대 AI 감시 체계를 구축 중입니다. 설명 가능한 AI와 법제화, 국제 규칙이 병행돼야 한다는 숙제도 남아 있습니다.