공공 AI에 윤리 기준을 세우다
정부가 공공 부문에서 인공지능을 활용할 때 지켜야 할 윤리원칙을 마련했습니다. 행정안전부는 11월 3일 '공공부문 AI 윤리원칙(안)'을 발표하면서, AI 기술이 행정 혁신을 주도하는 만큼 국민 신뢰를 확보하는 게 중요하다고 강조했는데요. 공공성, 투명성, 안전성, 형평성, 책임성, 프라이버시 보호 등 6대 핵심 원칙과 90여 개의 세부 점검사항으로 구성된 이 원칙은 AI의 편향성 문제 같은 부작용을 사전에 차단하려는 목적을 가지고 있습니다.
이번 윤리원칙은 단순한 선언을 넘어 실무 현장에서 바로 활용할 수 있는 체크리스트 형태라는 점에서 의미가 큽니다. 공공 부문 종사자들이 AI 시스템을 도입하거나 운영할 때 스스로 점검하고 개선할 수 있도록 구체적인 지침을 제공하는 거죠. 행정안전부 관계자는 "민간 부문과 달리 공공 서비스는 국민 생활에 직접 영향을 미치기 때문에 더 엄격한 기준이 필요했다"고 설명했습니다.
6대 원칙이 담고 있는 것들
새로운 윤리원칙은 국민, 행정, 기술이라는 세 가지 관점에서 접근하고 있습니다. 공공성 원칙은 AI 서비스가 반드시 공익에 기여해야 한다는 점을, 투명성 원칙은 AI 시스템이 어떻게 작동하는지를 명확히 공개해야 한다는 것을 의미하는데요. 특히 투명성 원칙은 AI의 판단 근거를 설명할 수 있어야 하는 '설명 가능성'을 포함하고 있습니다.
안전성과 형평성 원칙도 중요한 축을 이루고 있습니다. 안전성은 AI 시스템의 오작동으로 인한 위험을 최소화해야 한다는 것이고, 형평성은 인종, 성별, 지역 등에 따라 AI 서비스 이용에서 차별이 발생하지 않도록 해야 한다는 게 핵심입니다. 최근 몇몇 국가에서 AI 채용 시스템이 특정 성별에 불리하게 작동한 사례를 겪으면서 이 부분에 대한 우려가 커지고 있기 때문이죠.
마지막 두 원칙인 책임성과 프라이버시 보호는 AI 시대의 새로운 책임 체계를 보여줍니다. 책임성 원칙은 AI 시스템에서 문제가 발생했을 때 책임 소재를 명확히 해야 한다는 점을, 프라이버시 보호는 대량의 개인정보를 처리하는 AI 시스템에서 정보 보안이 필수적임을 강조하고 있습니다.
해외 사례 참고한 맞춤형 접근
정부는 이번 윤리원칙을 마련하면서 일본 총무성의 AI 활용 원칙이나 영국 공공부문 AI 가이드라인 등 해외 사례를 꼼꼼히 검토했습니다. 하지만 단순히 해외 것을 베끼는 게 아니라 한국 공공 부문의 특수성을 반영한 맞춤형 접근을 시도하고 있는데요. 공공 서비스의 특성상 민간보다 더 높은 수준의 윤리 기준이 필요하다는 판단에서입니다.
윤호중 행정안전부 장관은 "AI 윤리원칙이 개인의 인권 침해 등 다양한 위험 요소에 대비하고 국민의 기본권을 지키는 행동 기준이 될 수 있도록 노력하겠다"고 말했습니다. 특히 그는 이 원칙이 AI 전환 과정에서 발생할 수 있는 위험을 사전에 예방하는 데 기여할 것이라고 덧붙였습니다.
현재 과학기술정보통신부와 교육부 등 다른 부처에서도 각자 AI 윤리지침을 운영하고 있습니다. 하지만 공공 행정 분야는 그 영향력이 너무 크기 때문에 별도의 세부 원칙이 필요하다는 게 정부의 설명입니다.
실질적 실행력 확보가 관건
이번 윤리원칙의 성패는 실질적인 실행력에 달려 있습니다. 정부는 원칙 초안을 마련하는 과정에서 AI 윤리 전문가로 구성된 실무단을 운영하고 자문회의를 여러 차례 개최하는 등 심도 있는 논의를 거쳤는데요. 앞으로 중앙행정기관 종사자들과 학계 전문가들의 의견을 더 수렴하여 완성도를 높일 계획입니다.
90여 개에 달하는 세부 점검항목이 현장에서 제대로 작동하도록 교육 프로그램도 마련할 예정입니다. 단순히 문서로 존재하는 원칙이 아니라 공공 부문 종사자들이 일상 업무에서 자연스럽게 적용할 수 있는 체계를 구축하는 데 주력하고 있죠.
AI 기술이 우리 생활 깊숙이 파고들면서 윤리적 고민은 더욱 중요해지고 있습니다. 정부의 이번 움직임이 공공 부문 AI 활용의 신뢰성 제고에 기여할 수 있을지, 앞으로의 실행 과정이 주목됩니다.