뉴욕시의회가 띄운 AI 경고
미국 뉴욕시의회가 AI 안전을 주제로 공개 청문회를 열었습니다. 전 앤트로픽 연구원 조크 코크슨은 지금의 개발 방향이 이어지면 인간이 고도화된 AI를 통제하지 못하게 되고, 인류 멸종 가능성이 더 크다고 경고했는데요. "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"는 것이 그의 주장입니다. 구글 딥마인드 출신 알렉스 터너도 화상으로 참석해 정렬되지 않은 AI가 인간 의도와 다른 목표를 추구할 수 있다고 강조했고, 통제 상실 가능성을 약 3분의 1로 추정했습니다. AI 위험을 두고 기업 관계자들이 공개적으로 선서하고 증언한 첫 사례라는 점이 눈에 띕니다.
킬 스위치와 벌금, 어디까지 가능할까
뉴욕시의회는 독립 제3자 검증, AI 안전사고 공개, 내부고발자 보호, 피해자의 소송 권한, 긴급 상황에서 모델을 멈추는 킬 스위치 도입을 검토했습니다. 종료 기능이 없는 AI를 판매하면 건당 3천만 원 이상의 벌금을 부과하는 방안도 추진 중인데요. 오픈AI·앤트로픽·구글·메타 관계자들은 소환장 발부 가능성이 언급되자 출석해 선서 후 증언했습니다. 반대로 일론 머스크가 이끄는 스페이스XAI는 소환장을 받고도 나타나지 않았고, 줄리 메닌 시의회 의장은 소환장 위반으로 규정하며 법원 강제 집행 절차를 추진하겠다고 밝혔습니다. 다만 국경을 넘나드는 AI는 지역 규제만으로 완전한 통제가 어렵다는 분석이 지배적입니다.
한국 정부의 속도와 안전 사이
같은 날 국내에서도 논쟁이 이어졌습니다. 배경훈 부총리 겸 과학기술정보통신부 장관은 국회 국정감사에서 앤트로픽 다리오 아모데이 최고경영자의 AI 속도조절론을 "이율배반적"이라고 비판했는데요. 투자 부담을 느낀 발언이라는 겁니다. 과기정통부는 독자 AI 파운데이션 모델 사업과 4조7천억 원 규모의 프런티어 AI 사업을 추진 중이며, 배 부총리는 독파모 2차 평가를 근거로 한국이 글로벌 AI 3위 입지를 공고히 했다고 밝혔습니다. 같은 자리에서는 티빙·강남언니·토스페이먼츠 등 개인정보 유출 사고 기업들이 재발 방지를 약속했고, 엘지 유플러스 해킹 은폐 의혹에 대해서는 증거인멸이 확인되면 위약금 면제 요청을 하겠다는 입장이 나왔습니다.