논문에 남은 AI 흔적, 이제 밝혀야
과학기술정보통신부와 한국과학기술기획평가원이 지난 9월 20일 국가연구개발 AI 연구윤리 가이드를 발표했습니다. 국가 R&D에 참여하는 연구책임자와 공동연구원, 학생연구원까지 모두 적용 대상입니다. 핵심은 단순합니다. AI는 어디까지나 도구이고, 판단과 책임은 연구자에게 남는다는 겁니다.
가이드는 생성형 AI를 썼다면 사용 사실과 모델 버전, 활용 범위를 최종 성과물 제출 때 공개하도록 권고합니다. 챗GPT로 영문 초록의 문법을 다듬었거나 클로드로 선행연구 후보를 찾고 도표 초안을 만들었다면, 그 내역을 기록해 두라는 식입니다.
일곱 가지 원칙과 금지선
가이드가 제시한 권고는 사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책과 규정 준수, 보안 확보, 개인정보 보호 등 일곱 가지입니다. 연구자는 AI가 만든 결과물의 오류와 출처 누락, 논리적 타당성을 직접 확인하고 자기 관점으로 재구성해야 합니다.
금지선도 분명합니다. AI로 논문 심사를 조작하는 이른바 은닉 프롬프트는 연구부정행위로 규정됐습니다. 심사위원이 연구계획서나 결과보고서 같은 비공개 자료를 외부 AI에 올리는 행위도 제한됩니다. 보안이 필요한 연구에서는 기관이 허가한 도구만 쓰고, 개인정보와 의료데이터, 미발표 자료, 특허 출원 예정 기술은 외부 AI에 입력할 수 없습니다.
현장의 온도차와 남은 숙제
문제는 연구 현장의 온도차입니다. 첨단 AI로 난제를 해결하는 흐름에 제동이 걸릴 수 있다는 우려가 나옵니다. 실제로 AI 활용 사실을 밝힌 논문은 2023년 이후 발표된 7만5000편 가운데 76편, 0.1%에 그쳤습니다. 공개를 권고 수준에 두는 이상 실효성 논란은 피하기 어려운 대목입니다.
비슷한 시기 국정원도 공공 클라우드 보안 정책을 단일 검증 체계로 바꾸고, 생성형 AI 서비스를 검증 예외로 두는 방안을 내놨습니다. 규제와 진흥 사이 어디에 균형점을 둘지가 남은 숙제로 떠올랐습니다.