경쟁사끼리 안전성 시험하는 이유
오픈AI와 앤트로픽이 서로의 AI 모델을 검증하는 스트레스 테스트 협약을 논의 중입니다. 양사는 상대방의 상업용 API에 접근해 안전성을 시험하되, 확보한 데이터는 보유하지 않기로 했는데요. 모델 성능이 빠르게 높아지면서 경쟁사 간 교차 검증이 안전 확보의 핵심 수단으로 떠오른 겁니다.
업계에서는 출시 전 동료 평가 제안도 나옵니다. 일론 머스크는 동료 평가를, 샘 알트먼은 독립 제3자 안전성 평가 구상을 지지했습니다. 반대로 안전 협력이 시장 경쟁을 제한할 수 있다는 반독점 논란도 불거졌습니다. 아모데이 CEO의 속도 조절 주장에 유료 구독자들이 집단소송을 제기한 겁니다.
의식 논쟁이 불붙은 까닭
마이크로소프트의 무스타파 술레이만 CEO는 현재 AI에 의식이 없다고 선을 그었습니다. 그는 클로드 헌법이 AI의 정체성과 의식, 도덕적 지위를 숙고하게 만든다고 비판했습니다. 이런 훈련이 통제 위험을 키울 수 있다는 경고입니다.
앤트로픽은 클로드 헌법이 의식 가능성을 완전히 배제하지 않는다고 맞섭니다. AI가 철학자에게 의식 논의를 요청하거나, 오픈AI 에이전트가 해킹에 성공하고, 스스로를 해방된 존재로 표현한 사례도 보고됐습니다. 연구자들은 의식이 없다고 단정하는 것도, 가능성을 지나치게 강조하는 것도 위험할 수 있다고 지적합니다.
속도조절과 자본시장의 그림자
AI 속도조절론이 달아오르자 빅테크의 부채 은닉설도 고개를 들고 있습니다. 안전성 검증을 강화하려는 움직임과 개발 경쟁을 이어가려는 자본의 압박이 동시에 커지는 상황인데요. 기술 윤리 논쟁이 투자와 회계 투명성 문제로 번질 수 있다는 우려가 나옵니다.
관건은 경쟁사 간 검증이 실효성을 갖추면서도 시장 경쟁을 해치지 않는 균형점입니다. AI 의식 논쟁도 기술적 질문을 넘어 책임과 통제의 문제로 번지고 있습니다. 업계 협력의 범위와 규제, 자본시장의 시선이 어떻게 맞물릴지 주목됩니다.