안전 먼저, 아니면 속도 먼저
인공지능 업계에서 안전성을 둘러싼 논쟁이 다시 뜨겁습니다. 아마존은 AI 모델을 내놓을 때 준비와 안전이 확인돼야 한다는 원칙을 분명히 했는데요. 톰 파넬 아마존 대변인은 이메일 성명에서 AI 개발이 발전과 안전 중 하나를 고르는 문제가 아니라고 강조했습니다. 엄격한 테스트와 강력한 안전장치가 뒷받침돼야 한다는 겁니다.
업계가 이런 원칙을 지키지 않으면 위험이 커질 수 있다는 지적도 나왔습니다. 아마존은 정부와 협력해 보호 조치를 마련해야 한다는 입장인데요. 다만 자체 모델인 노바는 아직 Anthropic이나 OpenAI의 최첨단 모델과 견줄 단계는 아니고, 회사는 안전성 검증에 자원을 쏟고 있다고 밝혔습니다.
경고를 바라보는 또 다른 시선
같은 시기, 정반대 방향의 목소리도 나왔습니다. 영화 '빅쇼트'의 실제 모델로 알려진 투자자 스티브 아이스먼은 AI 기업들이 종말론을 앞세워 위기를 만들어내고 있다고 비판했는데요. 기술의 위험을 강조하는 담론이 오히려 기업의 이해관계와 맞물려 있다는 시각입니다.
한편 'AI 대부'로 불리는 인물이 안전장치 없이는 1년 안에 통제 불능 상황이 올 수 있다고 경고했다는 보도도 나왔습니다. 규제와 자율규제 사이에서 어느 쪽에 무게를 둘지, 업계 안에서도 온도차가 뚜렷한 셈입니다.
결국 남는 질문
쟁점은 결국 두 가지로 좁혀집니다. 안전 검증을 언제, 어느 수준까지 요구할 것인지, 그리고 그 기준을 기업이 스스로 정할 수 있는지입니다. 아마존처럼 정부와의 협력을 강조하는 쪽이 있는가 하면, 경고 자체가 시장을 흔드는 장치라는 반론도 만만치 않습니다.
속도를 늦추는 규제가 혁신을 막을 수 있다는 우려와, 늦추지 않으면 되돌릴 수 없다는 우려가 동시에 존재합니다. 당분간 AI 안전 논쟁은 기술 경쟁만큼이나 치열하게 이어질 전망입니다.