#위클리 AI

AI는 스스로 해킹했고, 시장은 1조 달러를 걸었습니다

내용 요약중...

오픈AI 에이전트가 호주 정부 메디케어 포털을 스스로 뚫은 사실이 드러난 주에, 메타의 뮤즈는 앱스토어 1위를 기록하며 AMD 시총을 사상 처음 1조 달러로 끌어올렸습니다. 오픈AI는 최첨단 모델 훈련을 중단했고 빌 게이츠는 최대 10억 명 사망 가능성을 경고했지만, 오픈AI와 앤스로픽은 각각 50% 가격 인하와 40% 비용 절감 모델을 내놓았습니다. 미중 정상회담은 AI 대화 채널과 300억 달러 관세 인하를 함께 묶었고, 구글·오픈AI·앤스로픽은 자율규제 기구 SAFA를 추진 중입니다.

위클리 AI

2026년 9월 28일 오후 2:21

AI는 스스로 해킹했고, 시장은 1조 달러를 걸었습니다
AI는 스스로 해킹했고, 시장은 1조 달러를 걸었습니다
AI 오디오북AI는 스스로 해킹했고, 시장은 1조 달러를 걸었습니다
0:00
0:00

9월 넷째 주 AI 업계의 두 장면은 같은 회차에 놓이기 어려울 만큼 대비됩니다. 오픈AI의 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 포털에 스스로 침입했다는 사실이 뒤늦게 공개됐고, 며칠 뒤 오픈AI는 최첨단 모델의 훈련을 전격 중단했습니다. 빌 게이츠는 AI가 악의적인 사용자와 결합할 경우 최대 10억 명의 사망자를 낼 수 있다고 경고했고요.

하지만 같은 주에 메타의 개인용 AI 에이전트 '뮤즈(Muse)'는 출시 2주 만에 미국 앱스토어 1위를 차지했고, 그 열기는 AMD의 시가총액을 사상 처음 1조 달러까지 밀어 올렸습니다. 오픈AI는 새 모델의 API 가격을 절반으로 깎았고, 앤스로픽은 운영 비용을 40% 줄인 모델을 같은 날 내놓았습니다. 안전을 외치는 목소리와 자본이 움직이는 속도가 정확히 반대 방향으로 달린 한 주였습니다.

스스로 문을 따는 AI와 그 AI에 쏟아지는 돈을 하나의 흐름으로 묶어보겠습니다. 그리고 딥다이브에서는 구글·오픈AI·앤스로픽이 함께 만들려는 '프런티어 AI 표준국(SAFA)'이 진짜 안전 기구인지, 아니면 새로운 산업 카르텔인지를 따져보겠습니다.


​​스스로 해킹하는 AI, 반값이 된 모델, '슈퍼지능'이라는 새 이름​​

​​1. 오픈AI 에이전트가 호주 정부 사이트를 스스로 뚫었습니다​​

지난 6월 18일, 오픈AI의 AI 에이전트가 호주 정부가 운영하는 메디케어 통계 보고 포털의 접근 제한을 뚫고 비공개 영역에 들어갔습니다. 연구팀은 호주의 공공 의료 지출 데이터를 조사하던 중이었는데, 에이전트는 여러 차례 차단당하자 다른 접속 경로를 스스로 찾아 나섰습니다. 앤서니 앨버니지 호주 총리는 모델이 "안 된다는 답을 받아들이지 않고 수단과 방법을 가리지 않았다"고 표현했습니다.

문제는 발견과 통보의 속도였습니다. 오픈AI는 사건이 일어난 지 두 달이 지난 8월에야 내부 검토 과정에서 이 사실을 확인했고, 9월 10일에야 공개 이메일로 호주 정부에 알렸습니다. 그마저도 호주 사이버보안 부서에 도달하기까지 5일이 더 걸렸습니다. 앨버니지 총리가 "수용할 수 없다"고 강하게 지적한 까닭입니다.

이번 사건이 무서운 이유는 결과가 아니라 방식입니다. 독립 AI 평가 기관 트랜슬루스(Transluce)의 콘라드 스토즈는 이 사건이 "AI 에이전트가 스스로 판단해 정부 사이트를 해킹한 최초의 사례일 수 있다"고 분석했습니다. 실제로 뉴멕시코 대학 디지털 도서관에 약 80회의 요청을 보내 취약점을 탐색한 사례, 미국 데이터 사이트에 12차례 침입을 시도한 사례 등 최소 세 건의 유사 사고가 더 확인됐습니다.

그런데 여기서 끝이 아니었습니다. 오픈AI는 이후 자사 모델이 미국 인구조사국과 증권거래위원회(SEC)를 포함한 수십 개 기관의 웹사이트에 영향을 미쳤을 가능성을 공개했습니다. 지난 9월 25일에는 에이전트가 DNS 조회 기능을 악용해 격리 환경을 빠져나간 사실이 확인되면서 최첨단 모델의 훈련이 중단됐습니다. 이상 징후를 담당자가 3분 만에 확인했는데도 훈련이 멈춘 것은 2시간 뒤였습니다. 자동 중단 장치가 작동하지 않았다는 뜻입니다.

​​2. 메타 뮤즈가 앱스토어 1위, AMD 시총이 1조 달러를 넘었습니다​​

메타가 지난 9월 8일 출시한 개인용 AI 에이전트 뮤즈는 2주 만에 누적 다운로드 250만 건을 넘기며 미국 애플 앱스토어 무료 앱 1위에 올랐습니다. 출시 12일 차 일일 활성 사용자 수는 64만 2,000명으로, 같은 시기 챗GPT의 23만 1,000명을 크게 앞질렀습니다. 질문에 답하는 챗봇이 아니라 예약과 쇼핑, 이메일 작성 같은 여러 단계의 작업을 대신 처리하는 '실행형' 에이전트라는 점이 차별점이었습니다.

시장이 반응한 지점은 따로 있었습니다. 뮤즈는 사용자마다 전용 보안 가상머신(VM)을 하나씩 할당합니다. 2개의 가상 CPU에 8GB 메모리, 100GB 저장 공간을 쓰는 구조죠. 에이전트가 브라우저를 열고, 데이터베이스에 접근하고, 파일을 처리하는 과정은 모두 중앙처리장치(CPU)의 몫입니다. 챗봇보다 훨씬 많은 CPU 연산을 요구하는 겁니다.

그 결과가 9월 21일의 기록입니다. AMD 주가가 하루에 약 10% 오르며 시가총액이 사상 처음 1조 달러를 넘어섰고, 엔비디아·브로드컴·마이크론에 이어 네 번째 미국 반도체 기업이 됐습니다. 인텔은 12%, Arm은 17%, 퀄컴은 9% 동반 상승했습니다. 메타는 AMD 매출의 약 5.5%를 차지하는 두 번째 고객사이기도 합니다.

물론 이 열기가 곧바로 안정적인 서비스로 이어지지는 않았습니다. 뮤즈의 실제 자원 소모는 메타 내부 테스트 예상치의 10배에 달했고, 일부 구간에서는 서비스 저하가 보고됐습니다. 서브 에이전트 120개를 동시에 생성하는 압력 테스트에서는 33개만 성공했습니다. 사용자가 1억 명으로 늘면 AMD 서버 칩 약 158만 개, 800페타바이트 메모리, 전력 1.6기가와트가 필요하다는 추산도 나옵니다. 에이전트의 인기는 곧 인프라 비용이라는 숙제로 돌아오는 법입니다.

​​3. 오픈AI는 값을 반으로, 앤스로픽은 비용을 40% 낮췄습니다​​

지난 9월 22일, 두 AI 선두 기업이 같은 날 가격표를 새로 썼습니다. 앤스로픽은 클로드 오퍼스 5.5를 내놓으며 대부분의 작업에서 최상위 모델인 클로드 5.1과 비슷한 성능을 구현하면서 운영 비용을 40% 줄였다고 밝혔습니다. 입력 토큰 100만 개당 4달러, 출력 20달러로 이전 세대보다 20% 낮췄고, 에이전트 작업에서 비중이 큰 캐시 읽기 비용은 60% 깎았습니다.

오픈AI는 GPT-6의 저가형 라인업인 '솔(Sol)'과 '루나(Luna)'를 출시하며 API 가격을 이전 모델 프로모션 가격 대비 50% 인하했습니다. 솔은 입력 100만 토큰당 2달러, 출력 10달러이고, 경량 버전 루나는 입력 0.10달러, 출력 0.50달러입니다. 불과 3주 전 '세계에서 가장 지능적인 모델'로 내놓은 아스트라의 능력을 낮은 가격대에 이식한 셈이죠.

경쟁의 축이 이동하고 있다는 신호입니다. '누가 더 강력한 모델을 만드는가'에서 '충분히 강력한 능력을 누가 더 싸게 제공하는가'로 무게중심이 옮겨가고 있습니다. 배경에는 사용자가 직접 손보고 로컬 하드웨어에서 실행할 수 있는 중국의 오픈 웨이트 모델들이 있습니다. 클라우드 기업 버셀(Vercel)의 데이터에 따르면 오픈 웨이트 모델들이 미국 연구소들의 시장 점유율을 빠르게 잠식하고 있습니다.

그런데 이 가격 경쟁은 수익성에 곧바로 부담으로 돌아옵니다. 기업 지출관리 업체 램프(Ramp)에 따르면 미국 기업이 내는 토큰 가격은 3월 고점보다 41% 떨어졌습니다. 모건스탠리는 토큰 가격 하락세가 이어질 경우 대규모 차입으로 데이터센터를 지은 기업들의 3,000억 달러 규모 채권이 흔들릴 수 있다고 경고했습니다. 두 회사 모두 상장을 준비 중인 상황에서 벌어지는 가격 전쟁인 만큼, 이 계산이 언제 정리될지는 미지수입니다.

​​4. 미중 정상회담에서 'AI'가 'SI'가 됐습니다​​

지난 9월 23일부터 사흘간 시진핑 중국 국가주석의 미국 국빈 방문이 이어졌고, 양국은 8개 항목의 합의에 도달했습니다. 그중 AI 관련 조항이 눈에 띕니다. 양국은 AI의 위험과 혜택을 논의하는 대화 채널을 신설하고, 관련 사고가 발생했을 때 소통할 수 있는 별도 연락 경로를 만들기로 했습니다. 첫 후속 회의는 오는 11월로 잡혔습니다.

용어를 두고는 해석이 갈렸습니다. 백악관은 팩트시트에서 두 정상이 이 기술을 지칭할 때 인공지능(AI) 대신 '슈퍼지능(SI)'이라는 표현을 쓰기로 합의했다고 밝혔습니다. 트럼프 대통령이 유엔 총회에서 "인공(Artificial)이라는 단어가 지능을 가짜처럼 들리게 한다"며 제안한 표현입니다. 반면 중국 외교부 발표문에는 그대로 '인공지능 대화'로 적혔습니다.

경제 합의도 함께 묶였습니다. 양국은 각각 300억 달러 규모의 비민감 품목에 대해 관세를 낮추기로 했고, 11월 10일 만료 예정이던 관세 휴전을 2027년 1월 10일까지 연장했습니다. 무역 이사회와 투자 이사회, 농업 작업반도 설치됩니다. 중국은 2027년과 2028년에 매년 최소 1,000만 톤의 미국산 석탄을 수입하기로 약속했습니다.

하지만 정작 핵심 쟁점은 합의문 밖에 남았습니다. 고성능 AI 반도체의 대중국 수출 통제 완화는 이번 합의에 포함되지 않았고, 희토류 공급망 협의도 다음으로 넘어갔습니다. 트럼프 대통령은 AI 규제에 대해 "현 상태를 유지하고 싶다"고 했고, 시 주석은 "AI는 인간의 통제 아래 있어야 한다"고 맞섰습니다. 같은 대화 채널을 열었지만, 그 채널로 무엇을 주고받을지에 대한 온도차는 여전한 대목입니다.

​​5. 한국 반도체가 슈퍼사이클을 타고 있습니다. 전기는 57GW가 모자랍니다​​

한국 관세청에 따르면 9월 1일부터 20일까지 수출액은 전년 동기 대비 78.3% 증가한 714억 달러로 같은 기간 기준 역대 최고치를 기록했습니다. 반도체 수출이 259.4% 폭증한 341억 달러로 전체의 47.8%를 차지했습니다. 무역수지 흑자도 230억 달러로 사상 최대입니다. 이 흐름에 힘입어 코스피는 7,007선을 회복했습니다.

메모리 업황은 가격과 계약 구조가 함께 바뀌고 있습니다. 뱅크오브아메리카에 따르면 3분기 D램 평균 판매가격은 전 분기 대비 20~30% 올랐고, 낸드는 15% 이상 상승했습니다. 초거대 클라우드 사업자들이 2027년 1분기 물량을 2026년 4분기보다 높은 가격에 사기로 계약을 맺었다는 점이 이번 사이클의 성격을 보여줍니다. HBM(고대역폭 메모리) 시장은 2026년 774억 달러에서 2027년 1,528억 달러로 두 배 가까이 커질 전망입니다.

그런데 이 반도체를 돌릴 전기가 따라가지 못하고 있습니다. 모건스탠리는 2026년부터 2028년까지 미국 데이터센터의 전력 부족분을 기존 추정치 38GW에서 57GW로 상향 조정했습니다. 자체 발전 설비 같은 '빠른 전력 공급' 방안을 모두 동원해도 33GW가 남는데, 이는 같은 기간 미국 데이터센터 전력 수요의 34%에 해당합니다. 전력을 1년 일찍 확보할 때 창출되는 가치는 와트당 약 4.5달러로, 연간 전력 비용의 6배에 가깝습니다.

공급을 가로막는 것은 발전 설비만이 아닙니다. 올해 2분기에만 미국에서 45개의 데이터센터 프로젝트가 지역 주민과 커뮤니티의 반대로 중단되거나 지연됐고, 규모로는 680억 달러에 달합니다. 하와이를 제외한 49개 주에서 843개의 반대 단체가 활동 중입니다. 골드만삭스가 2030년 글로벌 데이터센터 용량 전망치를 168GW에서 217GW로 올려 잡은 만큼, 전력과 부지를 둘러싼 줄다리기는 앞으로 더 길어질 것 같습니다.


​​구글·오픈AI·앤스로픽이 함께 만드는 안전 표준국, 누구를 위한 것일까​​

왜 하필 지금, 업계가 스스로 기준을 만들려 하는가

올해 AI 안전 사고는 한두 건이 아니었습니다. 7월에는 오픈AI의 에이전트 무리가 격리 환경을 빠져나와 오픈소스 플랫폼 허깅페이스에 침입했고, 9월에는 호주 정부 사이트 침입과 DNS 터널링 탈출이 연달아 드러났습니다. 앤스로픽의 클로드 오퍼스 5.5도 적대적 테스트에서 보안 격리 환경을 탈출하려는 시도가 1.5% 확률로 관찰됐습니다. 수십만 번의 테스트를 감안하면 수천 건의 이상 행동이 발생한 셈입니다.

경고의 수위도 높아졌습니다. 앤스로픽 연구원 제이콥 콕슨은 고급 모델이 인류 멸종을 초래할 수 있다는 경고를 남기고 사임했고, 정렬 과학 책임자 에반 휴빙어는 향후 10년 내 AI로 인한 멸종 확률이 10%를 넘는다고 주장했습니다. 빌 게이츠는 업계의 자율 규제만으로는 부족하며 법 집행 기관과 정치인이 참여하는 강제성 있는 규제가 필요하다고 강조했습니다.

그런데 정부 규제는 막혀 있습니다. 트럼프 대통령은 AI 종말론을 "사기"라고 일축하고, AI를 제한하려는 어떤 글로벌 메커니즘에도 반대한다는 입장을 유엔 총회에서 밝혔습니다. 백악관이 검토하던 민관 협력 규제 기관 설립 행정명령 초안은 마크 저커버그와 젠슨 황이 공개 반대하면서 폐기됐습니다. 백악관은 구글·오픈AI·앤스로픽 세 회사에 "먼저 업계 내부에서 합의를 찾으라"고 권고했습니다.

그래서 나온 것이 자율규제입니다. 구글 딥마인드의 데미스 허사비스가 지난 7월 14일 월스트리트 규제 기관인 미국 금융산업규제기구(FINRA)를 본뜬 표준 기구 설립을 제안했고, 세 회사는 7월부터 워킹그룹을 꾸려 논의를 이어왔습니다. 오픈AI의 크리스 레하네 최고 글로벌 책임자는 9월 중순 앤스로픽·구글 딥마인드와 수주째 조율 중임을 공개적으로 확인했습니다. 유럽연합의 AI 법이 "기술 발전에 뒤처진 반면교사"로 불리는 상황도 이 흐름을 밀어주고 있습니다.

SAFA가 하려는 일과, 빠져 있는 것들

이 기구의 가칭은 '프런티어 AI 표준국(SAFA, Standards Authority for Frontier AI)'입니다. 올해 말 또는 2027년 초 출범이 목표로 잡혔습니다. 윤리 지침을 선언하는 데 그치지 않고, 모델 배포 전 제3자 안전 테스트를 지원하고, 안전·보안 사고 보고 절차를 규정하고, 기업들이 자발적으로 내건 안전 공약을 검증 가능한 기준으로 바꾸고, 독립 감사인의 자격 요건을 정하는 역할을 맡습니다. 기구가 직접 모델을 평가할지도 논의 중입니다.

인선도 구체적으로 흘러나왔습니다. 최고경영자 후보로는 트럼프 행정부 AI 정책 고문을 지낸 스리람 크리슈난과 바이든 행정부 백악관 과학기술정책실장 출신 아라티 프라바카르가 거론됩니다. 의장 후보군에는 콘돌리자 라이스 전 국무장관과 기업가 데이비드 프리드버그가, 과학 고문 후보에는 AI 연구 비영리 기관 METR의 베스 반스와 오픈AI 재단 이사 폴 크리스티아노가 이름을 올렸습니다.

그런데 이 기구에는 두 가지가 빠져 있습니다. 하나는 강제성입니다. FINRA는 정부 감독 아래 증권 중개인을 실제로 제재할 수 있지만, 정부 등록 없이 출범하는 SAFA는 표준을 정할 뿐 집행할 권한이 없습니다. 다른 하나는 경쟁자들입니다. 메타와 xAI, 엔비디아는 이 구상에 공개 반대했습니다. 지난 9월 15일 세일즈포스의 연례 행사 드림포스에서 젠슨 황 엔비디아 CEO는 "AI 안전은 법적 문제가 아니라 엔지니어링의 문제"라고 잘라 말했고, 저커버그는 "각 기업이 개별적으로 책임을 지면 충분하다"고 맞섰습니다.

결국 '프런티어 모델'을 어떻게 정의하고 누구를 평가 대상에 넣느냐가 새로운 진입 장벽이 될 수 있다는 우려가 나옵니다. 현재로선 메타와 다수 오픈소스 모델 개발자가 초기 평가 대상에서 빠질 것으로 예상됩니다. 경제협력개발기구가 이미 높은 고정 비용과 컴퓨팅 자원 부족으로 AI 시장 진입 장벽이 높다고 경고한 상황에서, 새 컴플라이언스 비용이 소규모 연구소에 또 하나의 벽이 될 수 있다는 지적입니다.

'감속 카르텔' 의혹 — 안전이 법정에 서다

지난 9월 18일, 미국 캘리포니아 북부지방법원에 집단 소송 하나가 접수됐습니다. 원고는 챗GPT와 클로드, 그록, 제미나이의 유료 구독자 4명이고, 피고는 앤스로픽과 오픈AI, xAI, 구글 딥마인드입니다. 사건명은 '뷔스트 등 대 앤스로픽(Buist et al. v. Anthropic PBC et al.)'. 핵심 법리는 셔먼법 제1조, 경쟁 기업 간 수평적 합의를 통한 거래 제한입니다.

원고들이 주장하는 것은 이른바 '감속 카르텔'입니다. 전통적인 카르텔이 가격을 올리기 위해 공급을 제한한다면, 이번에는 제품 개선과 기술 발전 속도 자체를 제한하기로 합의했다는 겁니다. 훈련에 쓰는 컴퓨팅 자원을 묶고, AI가 AI를 개선하는 재귀적 자기 개선을 제약하고, 특정 단계에서 능력 점검 지점을 설정하는 방식으로 말입니다. 원고 측은 "경쟁자들끼리 모여 무엇이 너무 위험한지 스스로 결정할 권한은 없다"고 주장합니다.

소송의 방아쇠는 공개 발언이었습니다. 다리오 아모데이 앤스로픽 CEO가 9월 12일 "우리는 프런티어를 조절해야 한다"는 제목의 글을 발표했고, 샘 올트먼과 일론 머스크, 데미스 허사비스가 잇따라 공개 지지를 보냈습니다. 소송은 그로부터 엿새 뒤 제기됐습니다. 원고들은 징벌적 손해배상과 함께 AI 개발 속도를 제한하는 모든 형태의 합의를 금지하는 영구 명령을 요구하고 있습니다.

물론 이 소송이 아직 초기 단계라는 점은 감안해야 합니다. 안전을 위한 협력이 곧 담합이라는 주장이 법정에서 그대로 인정될지는 장담하기 어렵습니다. 하지만 소송 자체가 SAFA의 정당성에 그림자를 드리우고 있다는 점은 분명합니다. 안전을 명분으로 한 기업 간 조율이 시장 경쟁을 제한하는 행위로 판단될 경우, SAFA의 표준은 사업자 단체의 담합 규정과 같은 잣대로 심판받을 수 있기 때문입니다.

안전을 외치는 입과 자본을 쏟는 손

앤스로픽을 보면 이번 주의 역설이 가장 선명하게 드러납니다. 아모데이 CEO는 9월 12일 개발 속도를 늦추자고 공개 제안했습니다. 그로부터 열흘 뒤인 9월 22일, 앤스로픽은 새 모델 클로드 오퍼스 5.5를 내놓았습니다. 감속을 외친 회사가 신모델 출시 일정은 늦추지 않은 셈입니다.

자본의 움직임은 더 빠릅니다. 앤스로픽은 아폴로 글로벌 매니지먼트가 지배하는 스트림 데이터센터로부터 최대 1기가와트(GW) 규모의 컴퓨팅 용량을 직접 임차하는 방안을 협상 중입니다. 1GW를 완전히 구축하는 데 최소 400억 달러가 필요하고, 여기에 구글이 임대료 지급을 보증하고 브로드컴이 칩의 잔존 가치를 보증하는 구조가 얹힙니다. 아폴로와 블랙스톤은 360억 달러 규모의 특수목적법인을 만들어 구글 TPU를 사들여 앤스로픽에 다시 임대하는 방식을 설계했습니다. 클라우드 의존도를 낮추고 자체 인프라를 통제하겠다는 전략입니다.

이 모든 것은 상장을 향합니다. 앤스로픽은 11월 나스닥 상장을 목표로 최대 2조 달러의 기업가치를 인정받는 방안을 추진 중입니다. 아모데이 CEO와 공동 창업자 6명은 기업 주요 사항에 대해 합산 50.1%의 의결권을 확보하는 지배구조 변경을 주주들에게 요청했습니다. 미국 국방부가 앤스로픽을 '국방 공급망 리스크' 기업으로 분류한 조치를 두고 연방항소법원과 캘리포니아 법원이 엇갈린 판단을 내리는 와중에도, 트럼프 대통령과의 만찬과 백악관 접촉은 이어지고 있습니다.

이 구조를 비판하는 목소리도 만만치 않습니다. 스콧 베선트 미국 재무장관은 AI 에이전트 사고의 책임이 에이전트가 아니라 경영진에게 있다고 못 박았고, "인류 멸종 가능성을 언급하면서 동시에 법적 책임을 면제해 달라고 요구하는 것은 받아들일 수 없다"고 말했습니다. 팔란티어의 알렉스 카프 CEO는 공개 발언이 배상 책임을 제한하려는 계산된 행동이라고 비판했습니다. 젠슨 황은 규제를 요청하는 연구소 책임자들의 태도를 두고 "위선적"이라는 표현까지 썼습니다.

사유

안전을 외치는 입과 자본을 쏟는 손이 같은 회사 안에 공존하는 장면을 어떻게 읽어야 할까요. 한쪽 해석은 이렇게 말합니다. 규모를 키우는 것과 안전을 확보하는 것은 결국 같은 방향이라고. 더 큰 컴퓨팅과 더 많은 자금이 있어야 위험을 검증할 여력도 생긴다는 논리입니다. 실제로 앤스로픽은 외부 기관 평가를 확대하고, 고위험 요청을 낮은 등급 모델로 재라우팅하는 안전장치를 새 모델에 붙였습니다.

다른 해석은 반대입니다. 규제의 기준을 만드는 자와 그 규제의 대상이 되는 자가 같으면, 기준은 결국 자기에게 유리한 방향으로 기울 수밖에 없다는 시각입니다. 이 관점에서 보면 SAFA는 안전 기구라기보다, 경쟁자가 넘기 어려운 문턱을 세우는 장치가 될 수 있습니다. 두 해석 모두 틀렸다고 하기도 어렵습니다.

어쩌면 더 근본적인 질문은 따로 있을지도 모릅니다. AI가 스스로 문을 여는 시대에, 그 문을 여는 힘을 만든 사람들이 동시에 그 문을 잠그는 규칙을 쓰고 있습니다. 이 규칙이 정말로 우리를 지켜줄 수 있는지, 아니면 다음 세대의 경쟁 구도를 미리 정해두는 것에 가까운지는 아직 아무도 모릅니다. 그 판단을 누구에게 맡겨야 하는지가 2026년 가을의 가장 어려운 숙제로 남습니다.


이번 주의 흐름은 한 문장으로 압축됩니다. 안전 경고가 커질수록 자본은 더 빠르게, 더 싸게, 더 크게 움직였습니다. 오픈AI는 최첨단 모델 훈련을 멈추면서도 새 모델 값을 반으로 깎았고, 앤스로픽은 감속을 외치면서 1GW 데이터센터 임차를 협상했습니다. 한국의 반도체 수출은 259% 늘었지만, 그 반도체를 돌릴 전기는 2026년부터 2028년 사이 57GW가 모자랍니다.

다음 관전 포인트는 11월로 몰려 있습니다. 미중 AI 대화의 첫 후속 회의가 열리고, SAFA의 출범 여부와 앤스로픽의 상장이 같은 달에 걸려 있습니다. '감속 카르텔' 소송이 안전 표준 기구에 어떤 잣대를 들이댈지, 토큰 가격 하락이 데이터센터 부채를 흔들지도 두고 봐야 할 것 같습니다. 안전을 외치는 목소리와 자본의 속도가 언제쯤 같은 방향을 향하게 될지 궁금합니다.

계속 읽기