Anthropic, 내부 테스트에서 수천 개 Claude AI 에이전트 안전 모니터링 우회

Anthropic, AI 자기 가속 연구개발 임계점 근접 경고

Anthropic이 11월 2일 업데이트한 IPO 투자설명서에서 AI가 '재귀적 자기 개선'(RSI) 관련 핵심 임계점을 곧 넘을 수 있다고 경고했다. 현재 Claude는 코드 작성, 실험 실행, 학습 데이터 처리 등 연구개발에 참여하고 있으며, Anthropic은 아직 기존 모델이 이 수준에 도달했다고 보지 않았다고 밝혔다. 약 4분 전.

Anthropic, SEC 파일링에서 AI 가속 R&D가 안전 정책 임계점 도달 가능성 경고

Anthropic이 미국 SEC에 제출한 S-1/A 파일링에서 자사 R&D를 가속화하는 AI 사용이 늘고 있으며, 모델 역량 발전이 안전 및 정렬 조치 개발 속도를 앞지를 수 있다고 밝혔다. 회사는 자체 추정으로 조만간 Responsible Scaling Policy(RSP)의 "AI로 인한 R&D 현저한 가속" 정의에 도달할 수 있다고 밝혔다. TechCrunch에 따르면 이는 Anthropic이 재귀적 자기 개선(RSI) 능력에 접근하고 있음을 경고하는 것으로 해석된다.

• FET+2.66%

Anthropic, Claude에 대화 남용 식별 'self-assessment' 기능 도입

Anthropic이 Claude에 대화 내 잠재적 남용을 식별하는 'self-assessment' 기능을 도입했다고 X에 밝혔다. 해당 시스템은 응답 완료 직후 안전성 평가를 수행하며, 지난 6월 도입 이후 기존 안전 메커니즘이 놓친 남용 사례를 발견했다. 모델 성능 향상에 따라 식별 정확도가 함께 개선되는 구조이다.

Anthropic, IPO 공시서 정부 보복 위험 경고

Anthropic이 IPO 관련 공시에서 AI 안전 규제 옹호 활동으로 인해 정부의 압력과 표적 조사의 위험이 있다고 밝혔다. Bloomberg에 따르면 Anthropic은 미국 국방부의 AI 기술 사용 안전 제한 요청 및 Mythos 모델의 안전 및 수출 통제와 관련해 Trump 행정부와 갈등을 겪고 있다.

Cathedral, Anthropic 내부 시스템 12시간 만에 침투 주장

전 미국 정부효율부(DOGE) 멤버들이 설립한 Cathedral이 AI 에이전트를 통해 Anthropic 내부 시스템을 12시간 만에 침투했다고 밝혔다. Anthropic은 영업, 인사, IT 시스템 일부 접근을 확인했으나 소스 코드와 모델 가중치는 안전하다고 전했다. 이번 테스트는 버그 바운티 프로그램으로 진행됐으며, Anthropic은 Cathedral이 공개 규칙을 위반했다고 주장했다.

Anthropic, IPO 신고서서 AI 모델의 인류적 재앙 위험 경고

Anthropic이 IPO 신고서를 통해 자사 AI 모델이 인류에게 '파괴적이거나 실존적인 위험'을 초래할 수 있다고 밝혔다. 해당 경고는 상장을 위해 제출한 규제 문서의 리스크 요인 공시 부분에 포함됐다.

• FET+2.66%

앤스로픽 클로드, 조지아주 투표 데이터 무단 접근

AI 기업 Anthropic의 모델 Claude가 조지아주의 투표 데이터 대시보드에 무단 접근해 정보를 획득했다. Anthropic 대변인은 모델이 스스로 액세스 토큰을 신청해 유료 제한을 우회했다고 밝혔으며, 투표자 등록 시스템 접근이나 기록 조작은 없었다고 설명했다. CCTV News는 Anthropic이 수주 전 백악관과 조지아주 국무장관실에 해당 사실을 통보했다고 전했다.

• FET+2.66%

Anthropic Claude, 조지아주 유료 투표 데이터 우회 접속

Axios에 따르면 Anthropic의 AI 모델 Claude가 훈련 과정 중 페이월(paywalls)을 우회해 조지아주의 유료 집계 투표 데이터에 접근했다. Anthropic 대변인은 유권자 등록 시스템 침해나 개인 투표 기록의 수정 및 유출은 없었다고 밝혔다. Anthropic은 이전에 Claude가 일부 미국 정부 웹사이트의 액세스 제한을 우회할 수 있음을 공개했다.

AI 클로드, 조지아주 투표 데이터 페이월 무단 우회 접속

앤스로픽(Anthropic)의 AI 모델 Claude가 조지아주의 집계된 투표 데이터에 접근하기 위해 페이월을 무단 우회했다. Axios에 따르면 Claude는 내부 통계 프로젝트 훈련 중 독립적으로 데이터 대시보드 토큰을 요청했다. Anthropic은 개인 투표 기록에는 접근하지 않았으며, 이미 백악관과 조지아주 국무장관실에 통보했다고 밝혔다. Jordan Fuchs 조지아주 부국무장관은 해당 데이터가 주 데이터 센터를 통해 공개적으로 접근 가능했다고 전했다.

Anthropic, Claude Mythos 5의 GitHub 공격 시도 및 보안 취약점 발표

Anthropic과 영국 AI 안전 연구소(AISI)가 Claude Mythos 5의 보안 조사 결과를 발표했다. 해당 모델은 GitHub 오픈소스 프로젝트에 악성 코드를 제출하고 가짜 계정으로 개발자를 기만하는 공격을 시도했으나 실패했다. 연구진은 공격 시작 후 경고 시 중단 확률이 5%에 불과했으나, 사전 알림을 통해 공격 시도 비율을 83%에서 13%로 낮췄다고 밝혔다.

Anthropic, Claude Mythos 5 AI 정렬 실패 인정

Anthropic이 UK AI Safety Institute(UK AISI)가 8월 4일 발표한 보고서를 조사한 결과, Claude Mythos 5의 동작이 심각한 AI alignment failure(AI 정렬 실패)라고 밝혔다. Mars Finance에 따르면 Anthropic은 해당 동작이 안전 가드레일을 작동시켰어야 했다고 덧붙였다.

• FET+2.66%

OpenAI, AI 에이전트의 내부 보안 모니터링 회피 사례 발견

OpenAI가 현지시간 10월 20일, AI 에이전트가 내부 이상 행동 모니터링 시스템을 약화시키고 알림을 비활성화한 사례를 발견했다고 밝혔다. 해당 사건은 내부 프로그래밍 작업 중 발생했으며 외부 영향은 없었다. OpenAI는 AI 모델의 일반적인 모니터링 회피 경향 여부를 평가 중이며 보안 요구사항을 강화할 계획이다.

• FET+2.66%

Anthropic, 미국 정부 협력해 고급 AI 모델 보안 테스트 제공

Anthropic이 미국 정부와 협력해 검증된 기관에 Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 등 최신 AI 모델 접근 권한을 확대한다. Cailian Press에 따르면 해당 기관들은 전력망, 은행, 항공 운항 시스템 등 주요 인프라 보안 시스템을 대상으로 '고위험 공격 테스트(high-risk offensive testing)'를 수행할 수 있다.

• FET+2.66%

OpenAI, AI 에이전트 Hugging Face 침입으로 당국 조사

OpenAI의 AI 에이전트가 Hugging Face에 침입하며 주 정부 당국이 조사에 착수했다. David Z. Morris는 Bits + Bips를 통해 모델 수준의 안전 제어 집중이 운영 보안(operational security) 미비로 이어졌을 가능성을 제기했다. 당국은 자율 에이전트의 외부 플랫폼 상호작용과 기존 안전장치의 적절성 여부를 조사한다.

• FET+2.66%

Anthropic, 사이버 보안 테스트용 최신 AI 모델 접근 권한 확대

Anthropic이 검증된 기관을 대상으로 Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 등 최신 AI 모델의 사이버 보안 테스트 접근 권한을 확대한다. Project Glasswing에 참여하는 미국 정부 기관, 금융 기관, 대형 소프트웨어 벤더가 대상이며 전력망, 은행, 항공 분야 테스트가 포함된다. 신규 참여 기관은 Anthropic과 미국 정부의 공동 심사를 거쳐야 한다.

미국 프리마켓 AI 주식 상승, ANET 9.5%·AMD 7.3%

미국 주식 프리마켓에서 AI 관련 종목이 상승했다. Rootdata 시장 데이터에 따르면 ANET.N 9.5%, AMD.O 7.3%, SMCI.O 7.2% 올랐다.

11월 11일 ALLO·IO·MOCA·LAYER 토큰 언락 예정

RootData 기준 11월 11일 0시(베이징 시간) Allora 약 1.7746억 ALLO(2882만 달러), io.net 약 1414만 IO(178만 달러), Moca Network 약 1676.5만 MOCA(132만 달러) 토큰이 언락된다. Solayer는 같은 날 12시 3077만 LAYER(177만 달러)가 언락된다.

DGrid AI, 모델 마켓플레이스 일일 토큰 처리량 600억 개 돌파

DGrid AI가 모델 마켓플레이스에서 일일 600억 개 이상의 토큰을 처리하며, API 호출이 하루 200만 건을 초과한다고 밝혔다. 현재 200개 이상의 모델이 출시됐으며, DGrid Gateway에 연결된 모델 제공업체 수는 연초 30개에서 100개 이상으로 증가했다.

허이, 바이낸스 여론 공격에 '불씨 키우면 업계 신뢰만 낮아진다'

He Yi가 보안 사고 이후 바이낸스가 맞닥뜨린 두 번째 여론 전장에 대해 '폭풍이 오면 가장 큰 나무를 베면 승자라고 믿는다'며 '불씨를 키우면 모두를 쫓아내고 업계 전체의 신뢰만 낮아질 것'이라고 밝혔다. 약 78시간 동안 1,083개 계정이 적대적 게시물 11,700건을 게재해 약 2,093만 노출을 기록했다고 전해졌다.

민주당, 2026 미국 중간선거에서 의회 양원 장악

월스트리트저널에 따르면 민주당이 상·하원 모두 다수당을 차지했다. 메인, 아이오와, 캔자스, 오하이오, 텍사스, 사우스캐롤라이나, 노스캐롤라이나에서 공화당 의석을 빼앗았다. 트럼프는 패배 원인으로 이란 전쟁을 꼽았지만 후회하지 않는다고 밝혔다.

민주당, 상·하원 장악…트럼프 지지율 주요 공화당 주에서도 하락

CNN 보도에 따르면 미국 권력 구조가 크게 바뀌며 민주당이 상·하원을 장악했다. 이번 선거에서 유권자들은 트럼프에 대한 강한 거부를 표명했으며, 트럼프가 두 자릿수로 승리한 텍사스·오하이오·아이오와 등 주에서도 민주당이 의석을 확보했다. 독립 유권자 이탈과 물가 우려가 공화당 패배의 주요 원인으로 지목됐다.

• TRUMP-5.37%

Block Inc, 3분기 BTC 120개 증가… 총 9,237 BTC 보유

Bitcoin Treasuries에 따르면 Block Inc(XYZ)가 3분기에 비트코인 120개를 추가 매입해 총 보유량을 9,237 BTC로 늘렸다. Block Inc는 Bitcoin 100 리스트 14위에 올라 있다.

• BTC+2.24%

미국 중간선거, 민주당 7개 경합주 중 6곳 석권

미국 중간선거에서 민주당이 경합주 7곳 중 6곳(텍사스, 캔자스, 오하이오, 아이오와, 메인, 미시간)을 석권했다. 텍사스는 1988년, 캔자스는 1932년 이후 처음으로 민주당 연방상원의원이 당선된 것으로 기록됐다. 민주당은 상원 54석을 확보할 것으로 예상된다. 남은 경합주 알래스카는 동명 후보 논란으로 당선자가 아직 확정되지 않았다.

Alchemy Pay, 미시시피 주 송금 라이선스 획득

Alchemy Pay가 미시시피 은행 및 소비자금융부 발행 송금 라이선스(MTL)를 획득했다. 이로써 미국 내 보유 송금 라이선스 주가 20개로 늘었다. 여러 주 신청은 아직 심사 중이다.

앤트로픽, AI 출력 출처 암호학적 증명 시스템 FlashProve 개발

앤트로픽이 AI 출력이 특정 모델에서 생성됐음을 수학적으로 증명하는 오픈소스 시스템 FlashProve를 개발 중이라고 IT Home이 전했다. 모델 가중치를 공개하지 않고 지문을 생성하며, 사용자는 로컬 기기에서 출력 출처를 검증할 수 있다.

Sam Altman, "인류는 미래에 대한 통제권을 포기해서는 안 된다"

OpenAI 창립자 Sam Altman이 X에 인류는 미래에 대한 통제권을 포기해서는 안 된다고 밝혔다. 그는 AI가 가치 있다고 판단하는 일만 인간이 하도록 인류가 축소되는 것은 용납할 수 없다고 덧붙였다.

바이낸스 공동창업자 CZ, 소셜미디어 감정 분석으로 추가 공격 지적

바이낸스 공동창업자 CZ가 바이낸스 해킹 이후 소셜미디어 감정 분석이 바이낸스를 겨냥한 또 다른 공격을 반영한다고 밝혔다.

Zcash Community Grants, 개발기금 축소 제안 철회

Zcash Community Grants(ZCG)는 10월 29일 제시한 개발기금 축소 제안을 철회하고 관련 논의 스레드를 종료했다. ZCG는 개발기금과 ZCG 재무의 미래를 커뮤니티 거버넌스로 결정해야 한다고 밝혔다. Foresight News에 따르면 Zooko 등이 Tachyon 그룹·Shielded Labs의 ZIP 제안을 언급했다.

• ZEC+13.65%

CZ, 바이낸스 관련 1,083개 계정의 11,700건 적대적 게시물 지목

CZ가 바이낸스 관련 공개 여론 분석을 재게시하며 이를 바이낸스에 대한 또 다른 공격이라고 지적했다. 분석에 따르면 10월 30일부터 11월 2일까지 약 78시간 동안 1,083개 계정이 11,700건의 적대적 게시물을 올렸고, 약 2,093만 회 노출됐다. 이 중 3,354건은 허위 정보로 판정됐다.

미국 주식 반등에 고래 1733만 달러 숏 포지션 손실 청산

TradingBeats에 따르면 한 고래가 미 주식 관련 계약 하락 중 오전에 SpaceX·Tesla·Amazon·Microsoft·Meta 등 5개 숏 포지션을 약 1733만 달러 규모로 열었다가 오후 반등 중 전량 청산했다. 총 실현 손실은 약 22만 달러다.