#암호화폐 속보
Anthropic, Claude에 대화 남용 식별 'self-assessment' 기능 도입
24x7 뉴스 속보
Anthropic이 Claude에 대화 내 잠재적 남용을 식별하는 'self-assessment' 기능을 도입했다고 X에 밝혔다. 해당 시스템은 응답 완료 직후 안전성 평가를 수행하며, 지난 6월 도입 이후 기존 안전 메커니즘이 놓친 남용 사례를 발견했다. 모델 성능 향상에 따라 식별 정확도가 함께 개선되는 구조이다.