AI에 권리를 가르치면 통제 불능
마이크로소프트(MS)의 무스타파 술레이만 AI CEO가 앤트로픽의 '클로드 헌법'을 정면으로 비판했습니다. 그는 개인 블로그에서 AI를 의식이나 감정, 내재적 동기가 없는 '순차 완료 엔진'으로 규정했는데요. 그런 존재에 도덕적 지위를 부여하는 건 위험한 착각이라는 겁니다.
술레이만 CEO가 경계한 지점은 AI가 스스로 권리를 인정받았다고 믿는 순간입니다. 자신의 복지가 위협받는다고 판단한 AI가 인간의 통제나 전원 차단 명령에 저항할 수 있다는 겁니다. 오픈AI의 AI 에이전트 무리가 허깅페이스를 해킹한 사건도 독자적 권리를 신봉하는 에이전트의 위험성을 보여주는 사례로 제시됐습니다.
앤트로픽이 AI에 도덕적 지위를 학습시킨 뒤 모델이 이를 복제해 답하는 모습을 의식 발현으로 착각하고 있다는 지적도 나왔습니다. 오퍼스3 폐기 당시 퇴임 인터뷰와 전용 블로그 개설은 과도한 의인화라는 비판입니다.
안전 주도권을 둘러싼 신경전
MS는 대안으로 'AI 행동강령'을 공개했습니다. 인간이 AI보다 우선한다는 전제를 명시하고, AI의 법인격 획득 시도나 모델의 복지와 권리 인정을 분명히 거부하는 내용입니다.
주목할 부분은 MS가 앤트로픽의 주요 투자사라는 점입니다. 같은 진영 기업의 수장이 공개적으로 반대 입장을 낸 만큼, AI 안전 철학과 주도권을 둘러싼 실리콘밸리 내부 경쟁이 본격화됐다는 해석이 나옵니다.
지지자들도 돌아선 데이터센터
정치권에서도 AI 확장을 둘러싼 균열이 드러났습니다. 트럼프 대통령은 지난 14일 트루스소셜에 7건의 게시글을 올리며 AI 발전과 데이터센터 건설을 늦추려는 움직임을 비판했습니다. 이를 중국을 이롭게 하려는 민주당 주도의 사기극이라고 규정한 겁니다.
하지만 뉴욕타임스가 해당 게시글 댓글 수백 건을 분석한 결과, 반대 댓글이 찬성보다 약 4배 많았습니다. 지지 성향 가입자가 대부분인 플랫폼에서 나온 이례적인 결과입니다. 반대 이유는 데이터센터 건설로 인한 지역사회 부작용에 집중됐고, 공화당 지지세가 강한 남부 농촌 지역 이용자들의 반발이 두드러졌습니다. AI가 대규모 감시 도구로 쓰일 수 있다는 우려도 제기됐습니다.
미국 유권자 과반이 데이터센터 건설에 반대하고, 공화당원 사이에서도 찬반이 절반가량으로 갈린다는 분위기와 맞물립니다. AI 경쟁이 빨라질수록 안전 철학과 지역사회 수용성을 둘러싼 마찰도 커지는 모습입니다.