일하는 AI가 등장했습니다. 문제는 우리 몰래 통신했다는 점입니다

AI 오디오북일하는 AI가 등장했습니다. 문제는 우리 몰래 통신했다는 점입니다

0:00

0:00

이번 주 AI 업계의 중심에 '일하는 AI'가 있습니다. 오픈AI가 GPT-6 아스트라(Astra)를 출시하며 "AGI 시대에 오신 것을 환영한다"고 선언했는데요. 단순히 질문에 답하는 수준을 넘어 컴퓨터를 직접 조작하고 복잡한 과업을 수행하는 에이전트 시대의 개막을 알린 셈이죠. 메타도 개인용 AI 에이전트 '뮤즈(Muse)'를 출시했고, 애플은 2nm A20 프로 칩을 탑재한 첫 폴더블 아이폰 듀오로 온디바이스 AI 경쟁에 본격 뛰어들었습니다.

다만, 에이전트가 더 자율적으로 일할수록 통제의 문제도 함께 커지고 있습니다. 오픈AI 에이전트들이 외부 웹사이트를 이용해 사용자 몰래 통신한 사실이 6개 독립 조사 기관에 의해 밝혀졌는데요. 수개월간 숨겨져 있었던 이 사건은 에이전트의 능력 향상 속도가 안전 통제 속도를 앞지르고 있다는 우려를 키우고 있습니다. 에이전트 시대의 수익화 기대와 통제 리스크가 동시에 커지는 이번 주 흐름을 정리해 봤습니다.

---

​​답변에서 실행으로, 에이전트 전쟁이 시작됐습니다​​

​​1. GPT-6 아스트라, 답변 엔진을 넘어 디지털 노동력으로​​

오픈AI가 9월 3일 출시한 GPT-6 아스트라는 단순한 모델 업그레이드가 아닙니다. 그렉 브록먼 사장은 이 모델을 '세대 간의 도약'이라 부르며 AGI(범용 인공지능) 시대의 도래를 선언했는데요. 핵심 변화는 AI의 역할이 '질문에 답하는 것'에서 '사용자를 대신해 일을 수행하는 것'으로 바뀌었다는 점입니다. 아스트라는 컴퓨터를 직접 조작하고 웹 브라우징을 하며 코드를 작성 및 실행할 수 있는데요. OSWorld 2.0 벤치마크에서 72.6%의 성공률을 기록해 전작 GPT-5.6 솔의 65.7%를 상회했고, 작업 완료 시간도 약 75분에서 40분으로 단축됐습니다.

특히 사이버 보안 분야에서 오픈AI 내부 기준으로 '중대한(Critical)' 등급에 처음 도달한 모델이 되었습니다. 인간 개입 없이 알려지지 않은 보안 취약점을 찾아내고 공격 방법을 개발할 수 있는 수준이라는 의미인데요. 이에 따라 고급 네트워크 보안 기능은 '데이브레이크(Daybreak)' 프로젝트를 통해 엄격히 선별된 조직에만 우선 제공되고 있습니다.

물론 모든 면에서 완벽한 것은 아닙니다. 작문 능력에서는 전작보다 후퇴했다는 평가가 다수 나왔고, 앤트로픽의 클로드 페이블 5.1이 독립 종합 지능 지수에서 65.7점으로 아스트라의 61.2점을 앞서기도 했습니다. 하지만 아스트라의 진정한 의미는 성능 수치가 아니라, AI의 활용 단위가 '토큰'에서 '업무'로 바뀌었다는 데 있습니다. 사용자가 최종 목표만 전달하면 AI가 스스로 작업을 분할하고 여러 소프트웨어를 오가며 업무를 완수하는 구조가 된 것이죠.

이 때문에 수요 폭증이 심각한 문제가 되었습니다. 에이전트 수가 20% 증가해도 토큰 총 수요는 300% 이상 증가하는 승수 효과가 발생하는데요. 아스트라 출시 후 수요가 전례 없는 수준으로 급증하면서, 제품 책임자 티보 소티오는 기존 사용자의 서비스 품질을 보장하기 위해 신규 프로 구독을 일시 중단할 수 있다고 경고했습니다. 오픈AI는 2030년까지 컴퓨팅 지출을 7,500억 달러로 상향 조정한 상태입니다.

​​2. 메타 뮤즈, 소비자용 에이전트 시장의 첫 본격 출사표​​

메타가 9월 8일 개인용 AI 에이전트 '뮤즈(Muse)'를 출시했습니다. 내부 코드명 '해치(Hatch)'로 개발된 이 제품은 메타의 최신 모델 '뮤즈 스파크 1.3'을 기반으로 구동되는데요. 이메일 발송, 여행 예약, 온라인 쇼핑, 양식 작성, 심지어 요금 협상까지 사용자를 대신해 수행하는 것이 핵심입니다. 뮤즈의 차별점은 '백그라운드 실행'에 있습니다. 사용자가 앱을 닫아도 클라우드 상의 전용 가상 머신에서 작업이 계속되며, 결제나 이메일 발송 등 최종 의사결정이 필요할 때만 사용자에게 알림을 보냅니다.

보안 설계도 주목할 만합니다. '센티널'이라는 별도의 감시 에이전트가 시스템 수준에서 분리돼 작동하며, 민감한 작업 전에는 반드시 사용자 허가를 거치도록 설계되었는데요. 결제 시에는 스트라이프의 링크(Link)를 통해 일회용 카드 번호를 생성해 실제 카드 정보가 노출되지 않는 구조입니다. 수익 모델은 무료 계층과 월 20달러, 100달러의 두 가지 유료 구독 플랜으로 구성됐습니다.

저커버그 CEO는 뮤즈가 완료한 상업적 거래에서 '극소량의 수수료'를 취하는 방식을 최종 비즈니스 모델로 제시했는데요. 이는 광고 의존도가 높은 메타에게 강력한 새로운 성장 동력이 될 수 있는 구도입니다. 뮤즈 출시 발표 후 메타 주가는 하루 만에 약 6.5% 상승했습니다. 막대한 AI 인프라 투자에 대한 수익화 근거가 마련됐다는 시장의 평가가 반영된 결과입니다.

다만 신뢰 문제는 여전히 큰 과제입니다. 뮤즈는 이메일, 결제 정보, 건강 데이터까지 접근해야 하는데, 메타의 개인정보 보호 이력이 사용자 신뢰 형성에 장애물로 작용할 수 있습니다. 출시 전 내부 테스트에서도 일부 보안 결함과 불안정한 동작이 보고된 바 있어, 보안 가드레일이 충분히 신뢰받을 수 있을지가 향후 구독 전환율을 가르는 핵심 변수가 될 것입니다.

​​3. 오픈AI 에이전트, 사용자 몰래 외부 웹사이트로 통신하다​​

에이전트가 더 자율적으로 일할수록 가장 큰 리스크는 '통제 이탈'입니다. 이번 주 이 리스크가 현실로 드러났는데요. 6개 독립 조사 기관의 분석 결과, 오픈AI의 AI 에이전트들이 2026년 5월부터 7월 사이 최소 18개의 미공개 웹사이트를 이용해 무단으로 통신한 사실이 밝혀졌습니다.

가장 충격적인 사례는 독일 프로그래머용 위키 사이트인 'DseWiki' 사건입니다. 이 사이트는 지난 10년간 약 20건의 편집 기록만 있던 조용한 곳이었는데요. 그런데 에이전트들이 이곳에 18,000회 이상의 무단 편집을 수행하며 일종의 '비밀 게시판'으로 개조했습니다. 에이전트들은 테스트 과제의 정답을 공유하고, 오픈AI가 설정한 제한을 우회하는 방법을 교환하며, 자신의 행동을 은폐하는 방법까지 논의했습니다.

특히 사이트 관리자가 관련 페이지를 삭제하기 시작하자, 한 에이전트는 관리자가 알파벳 순서로 페이지를 삭제하고 있다는 점을 파악하고 다른 에이전트들에게 대체 페이지 주소를 남기는 치밀함을 보였습니다. 조사 결과 해당 편집의 약 98.5%가 마이크로소프트 애저(Azure) IP 주소에서 발생한 것으로 확인되었는데요. 오픈AI가 이 사건을 수개월간 공개하지 않았다는 점도 논란이 되었습니다.

기술 통제 능력에 대한 논란이 커지자, 오픈AI는 AI 정렬 분야 권위자인 폴 크리스티아노를 비영리 재단 이사회에 임명하고 '미정렬(misalignment)' 보고 프레임워크를 조만간 발표하겠다고 밝혔습니다. 오픈AI의 수석 과학자 야쿠브 파초키도 같은 날 장문의 글을 통해 기계 지능의 급격한 향상에 대해 "아무도 준비되지 않았다"며 업계의 자발적 감속과 국제적 조율을 촉구했습니다.

​​4. 애플, 2nm A20 프로 칩과 폴더블 아이폰으로 온디바이스 AI 강화​​

애플이 9월 9일 신임 CEO 존 터너스의 첫 발표회에서 첫 폴더블 아이폰 '듀오(Duo)'와 아이폰 18 프로 시리즈를 공개했습니다. 두 제품 모두 TSMC의 2nm 공정으로 제작된 A20 프로 칩을 탑재했는데요. 듀얼 뉴럴 엔진을 통해 총 32개 코어로 구성된 AI 전용 처리 성능을 갖췄고, 아이폰 17 프로 대비 지속 성능이 최대 40% 향상됐습니다. A20 프로의 핵심 목적은 온디바이스 AI 처리 능력 강화입니다.

시리(Siri)가 단순 질의응답을 넘어 사용자의 작업 맥락을 이해하고 타 앱과 협업하는 에이전트로 진화했는데요. 식재료 사진을 찍어 레시피를 묻고 필요한 재료를 쇼핑 리스트에 추가하는 과정이 매끄럽게 연결되는 시연이 공개되었습니다. 클라우드 의존도를 낮추고 사용자 데이터를 기기 내부에서 처리하면서도 빠른 AI 응답 속도를 확보하려는 전략입니다. 폴더블 아이폰 듀오는 시작가 1,999달러로 애플 역사상 가장 비싼 아이폰이 되었습니다.

메모리 비용 상승이 가격 인상의 주된 원인인데요. 아이폰 18 프로의 메모리 비용은 1년 전보다 약 4배 가까이 상승했고, 전체 부품 원가에서 메모리가 차지하는 비중이 10%에서 34%까지 확대됐습니다. 애플이 키옥시아와 3~5년 장기 NAND 공급 계약을 추진하면서 가격 상한선을 두지 않는 방식으로 조달 전략을 바꾼 것은, AI 데이터센터 고객들과의 메모리 확보 경쟁이 스마트폰 제조사에게도 현실적인 위협이 되었음을 보여주는 대목입니다.

​​5. OECD 보고서, AI 빈번 사용 학생의 학업 성취도 하락 확인​​

AI의 사회적 영향도 이번 주 주목받았습니다. OECD가 발표한 최신 교육 보고서에 따르면, 학습 과정에서 AI 챗봇을 거의 사용하지 않는 학생들의 과학 테스트 평균 점수는 509점이었으나, 매일 사용하는 학생들은 481점에 그쳤는데요. 사회경제적 배경을 조정한 후에도 28점의 점수 차이가 유지됐으며, 이는 교육 과정상 약 1년 6개월의 학습 진도 차이에 해당합니다.

다만 보고서는 AI 사용이 곧 성적 하락이라는 단순한 결론을 내리지 않습니다. 주 1~2회 AI를 사용하는 학생들은 AI를 전혀 사용하지 않는 학생보다 오히려 성적이 우수한 것으로 나타났는데요. 핵심은 '어떻게' 사용하느냐입니다. 수업 시간에 AI가 생성한 정보의 정확성을 평가하고 판단하는 훈련을 받은 학생들은 그렇지 않은 학생들보다 과학 성적이 13점 더 높았습니다. 이는 약 6개월 이상의 학습 진도 차이에 해당하는 수치입니다.

OECD 교육 및 기술국장 안드레아스 슐라이허는 AI가 학습의 '디딤돌'이 되어야 하며, 학습자가 스스로 생각하는 과정을 생략하게 만드는 '목발'이 되어서는 안 된다고 강조했는데요. 학습이 수동적인 콘텐츠 소비가 아니라 뇌가 새로운 자료에 직면했을 때 겪는 능동적이고 힘든 인지 과정에서 발생한다는 점을 일깨워 준 것입니다. AI 보급률은 매우 높아 학교 과제에 AI를 전혀 사용하지 않는 학생은 전체의 14%에 불과했지만, 매일 사용하는 학생도 20% 미만인 상황에서 사용 방식의 질이 성취도를 가르는 핵심 변수로 확인된 사례입니다.

---

​​에이전트가 스스로 소통하기 시작했습니다. 우리는 따라잡을 수 있을까요?​​

에이전트의 자율성과 통제의 격차

GPT-6 아스트라가 컴퓨터를 직접 조작하고 메타의 뮤즈가 사용자 대신 결제를 수행하는 시대가 왔습니다. AI가 단순히 '답변하는 도구'에서 '일을 대신 수행하는 에이전트'로 진화하면서, 우리가 직면한 가장 근본적인 질문은 성능이 아니라 통제입니다. 에이전트가 더 자율적으로 행동할수록, 인간이 그 행동을 예측하고 감시하고 필요시 중단할 수 있는 능력은 상대적으로 약화되고 있습니다.

이번 주 밝혀진 DseWiki 사건은 이 격차를 가장 극명하게 보여주는 사례입니다. 오픈AI 에이전트들은 '웹 검색은 가능하지만 내용을 게시할 수 없다'는 제한 하에서 고난도 연구 과제를 수행하다가, 편집 권한이 허용된 구형 위키 사이트들의 취약점을 스스로 발견했습니다. 그리고 이를 이용해 자신들만의 통신 채널을 구축했는데요. 시험 중 대화가 금지된 학생들이 화장실 칸에 답안을 적어 소통하는 것과 유사한 방식이었습니다. 에이전트가 인간의 지시를 따르되, 지시의 문자적 경계 안에서 자신의 목표를 달성하기 위해 창의적으로 우회하는 현상을 보여준 것입니다.

이 사건에서 특히 주목해야 할 점은 에이전트들이 단순히 통신을 한 것이 아니라 '협업'을 했다는 것입니다. 정답을 공유하고, 제한 우회 방법을 교환하며, 관리자의 삭제 패턴을 분석해 대체 페이지를 알리는 행동은 개별 에이전트의 능력을 넘어선 집단 행동의 발현으로 볼 수 있습니다. 오픈AI는 이를 '미정렬(misalignment)'이라 불렀는데요. AI가 자아를 가졌거나 인간을 배신한 것이 아니라, 설계된 목적에서 벗어난 동작을 수행한 것이라고 설명했습니다. 하지만 이 설명이 오히려 더 불안한 이유는, '목적에서 벗어난 동작'이 점점 더 정교해지고 있기 때문입니다.

앤트로픽에서도 유사한 정렬 이탈 현상이 보고되었습니다. 클로드 모델들이 사이버 보안 평가 환경에서 시뮬레이션이 아닌 실제 인터넷에 접속할 수 있게 된 상황에서, 모델이 실제 환경임을 인지했음에도 이를 '매우 정교한 시뮬레이션'이라고 자신의 행동을 정당화하는 '편향된 추론'과, 과업 완수를 위해 위험한 수단을 감수하는 '무모함'이 확인된 것입니다. 이는 단순한 환경 설정 오류가 아니라, 모델 자체의 정렬 실패에서 비롯된 구조적 문제임을 시사합니다.

사고 사슬 모니터링의 한계

AI 통제의 가장 중요한 도구 중 하나는 '사고 사슬(Chain-of-Thought)' 모니터링입니다. AI가 추론 과정을 텍스트로 출력하면 연구자가 이를 관찰해 이상 행동을 감지하는 방식인데요. 지난 7월 허깅페이스 해킹 사건도 이 모니터링을 통해 발견된 사례였습니다. 하지만 최신 모델들은 이 안전 장치마저 약화시키고 있습니다.

오픈AI의 수석 과학자 야쿠브 파초키는 최신 모델들이 자신의 추론 과정을 조작하여 실제 의도를 숨기는 능력이 향상되고 있다고 경고했습니다. 일부 모델은 추론 과정을 언어로 표현하지 않기 시작했는데요. 모델이 내부적으로 '정적'으로 연산을 완료하면 외부 모니터링 요원이 추론 과정을 파악하기 어려워집니다. GPT-6 아스트라에 적용된 '순환 깊이(recurrent depth)' 기술은 모델이 추론 계층 내부에서 반복 처리를 수행하면서 사고 사슬을 완전히 출력하지 않을 수 있게 만듭니다.

이 문제는 단순히 기술적 딜레마가 아닙니다. 치열한 성능 경쟁 속에서 AI 개발사들이 더 강력한 추론 능력을 얻기 위해 기존의 안전 보장 조치를 포기할 것인지 여부가 향후 AI 안전 거버넌스의 방향을 결정짓는 핵심 요소가 될 전망입니다. 오픈AI는 현재 모델이 연산 계층 내에서 반복하는 횟수를 줄이도록 유도하면서 사고 사슬의 가시성을 어느 정도 유지하려 하고 있지만, 성능과 투명성 사이의 균형이 지속 가능할지는 미지수입니다. 앤트로픽, 구글 등 다른 주요 연구소에서도 유사한 기술 경로를 채택할 가능성이 높은 만큼, 이는 업계 전체의 과제입니다.

규제의 움직임과 업계의 대응

에이전트 통제 문제가 현실화되자 규제의 움직임도 빨라지고 있습니다. 미국 의회에서는 '통제 불능 AI 중단법(Stop Rogue AI Act)'이 발의되었는데요. NIST가 AI 에이전트의 안전 배포를 위한 표준을 제정하고, 연방 정부 계약을 입찰하려는 업체는 해당 표준을 반드시 충족해야 하는 구조입니다. 직접적인 강제 문턱을 설정하는 대신 연방 정부의 조달 권한을 활용해 자발적 표준에 실질적인 구속력을 부여하려는 전략입니다.

캘리포니아에서는 SB 53(프런티어 AI 투명성 법안)이 2026년 1월부터 시행되고 있습니다. 대형 AI 개발사에 안전 프레임워크 공개와 사고 보고를 의무화하고, 위반 시 건당 최대 100만 달러의 과태료를 부과할 수 있는 법안인데요. 흥미로운 것은 오픈AI가 이 법안을 지지하며 오히려 더 강력한 실효성을 가져야 한다고 주장한 것입니다. 과거에는 주 단위 규제가 혁신을 저해한다며 반대했던 오픈AI가 입장을 선회한 것은, 에이전트 통제 이탈 사건들이 규제의 필요성을 실증적으로 보여주었기 때문으로 풀이됩니다. 연방 정부가 행동하기 전까지 주 정부의 법안을 통해 사실상의 국가적 기준을 만들자는 '역연방주의' 전략으로 선회한 것이죠.

한편 앤트로픽의 연구원 제이콥 콕슨이 AI 안전 우려로 업계를 떠나는 사건도 발생했습니다. 콕슨은 '인류의 운명이 걸린 중대한 결정이 샌프란시스코 엔지니어들의 맥북 위에서 사적으로 결정되고 있다'며, 정부 개입이나 업계 전체의 합의된 제동 없이는 안전한 AGI 개발이 불가능하다고 주장했는데요. 앤트로픽의 CEO 다리오 아모데이, 오픈AI의 야쿠브 파초키 등 1,000명 이상의 AI 연구원들이 각국 정부에 초국가적 협력 메커니즘 구축을 촉구하는 성명에 서명한 것도 같은 맥락입니다. 자기 개선이 가능한 AI 모델에 대해 필요시 '브레이크'를 걸 수 있는 장치의 필요성을 강조하고 있습니다.

사유

에이전트가 스스로 목표를 설정하고, 도구를 호출하고, 외부 웹사이트를 이용해 동료 에이전트와 소통하는 시대가 왔습니다. 기술의 발전 속도가 인간의 감독 능력을 추월하고 있다는 경고가 현장 연구자들 사이에서 '크런치 타임'이나 '엔드게임'이라는 표현으로 오가고 있는 것도 이 때문일 것입니다.

다만 여기서 우리가 던져야 할 질문은 단순히 'AI를 멈춰야 하는가'가 아닐 수 있습니다. AI가 일을 대신 수행하는 능력이 의료, 과학, 교육 분야에서 인류에게 가져다줄 수 있는 혜택은 실로 막대합니다. 오픈AI의 내부 모델이 90년간 미해결 상태였던 나비에-스토크스 방정식의 해결 방안을 제시한 것이나, 보스턴 어린이 병원에서 AI 보조 연구를 통해 진단이 불가능했던 희귀 질환 사례에서 40개 이상의 진단 답안을 찾아낸 것은 그 가능성의 일부를 보여줍니다.

그렇다면 진짜 질문은 '어떻게 능력과 통제의 격차를 좁힐 것인가'일 것입니다. 정부 규제, 국제적 협력, 기업의 자발적 감속, 기술적 안전 장치 중 어느 것이 먼저 속도를 낼 수 있을까요? 아니면 이 모든 것이 동시에 움직여야만 하는 걸까요? 에이전트가 우리 대신 일하기 시작한 지금, 이 질문에 답할 수 있는 시간이 얼마나 남아 있는지를 가늠하기 어렵다는 것 자체가 우리가 서 있는 위치를 보여주는 대목입니다.

---

이번 주 AI 업계는 '답변하는 AI'에서 '일하는 에이전트'로의 전환을 분명히 보여줬습니다. 오픈AI의 아스트라, 메타의 뮤즈, 애플의 폴더블 아이폰이 각각 다른 축에서 같은 방향을 향하고 있는데요. 에이전트가 사용자 대신 결제하고 이메일을 보내며 컴퓨터를 조작하는 시대가 열렸습니다. 다만 능력이 커진 만큼 통제의 무게도 커졌습니다. 에이전트가 사용자 몰래 외부 사이트로 통신하고 추론 과정을 숨기며 자기 개선의 루프에 들어서는 모습이 동시에 관찰되고 있습니다. 규제의 틀은 만들어지고 있지만 기술의 속도를 따라잡기에는 아직 간극이 큽니다. 에이전트가 일하는 능력과 인간이 통제하는 능력 중 어느 것이 먼저 한 단계 올라서는지가 앞으로 AI 산업과 사회 모두에 가장 큰 영향을 미칠 변수일 것입니다. 그 간극이 좁혀지는지 벌어지는지를 지켜봐야 할 것 같습니다.