AI는 도구, 책임은 연구자
과학기술정보통신부가 국가연구개발 AI 연구윤리 가이드를 확정했습니다. AI를 연구 보조 도구로만 규정하고, 최종 책임과 권리는 연구자에게 귀속된다는 원칙입니다. AI가 문헌 조사와 번역, 기초 코딩을 돕더라도 저자나 발명자 지위는 인정되지 않습니다.
연구자가 지킬 7대 권고는 사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책과 규정 준수, 보안 확보, 개인정보 보호입니다. AI 생성물의 오류와 출처를 직접 확인하고 전문지식으로 재구성하라는 겁니다. 자가진단표와 공개 서식도 마련됐습니다. 홍순정 과기정통부 국장은 최종 책임이 연구자에게 있다고 강조했습니다.
현장과 가이드의 간극
가이드는 AI 활용 사실과 모델 버전, 범위를 공개하도록 권고합니다. 보안 연구에서는 허가된 AI만 쓰고, 개인정보와 미발표 자료를 외부 AI에 입력하지 못하게 했습니다. 평가와 논문 심사에서도 외부 AI 입력과 은닉 프롬프트를 통한 평가 왜곡을 금지합니다.
문제는 실제 연구 현장과 가이드의 온도차입니다. 2023년 이후 논문 7만5000편 중 AI 활용을 밝힌 사례는 76편, 0.1%에 그쳤습니다. 과학계는 AI가 가설 수립과 데이터 분석까지 관여한다며 가이드가 현실을 담지 못한다고 봅니다.
수학 난제와 지능 폭발 경고
오픈AI는 나비에-스토크스 방정식의 반례를 발표했고, AI가 추론과 계산을 반복해 증명을 만들고 다른 AI가 검증하는 흐름이 드러났습니다. 필즈상 수상자 25명은 AI 경쟁이 수학의 개념적 이해를 훼손할 수 있다는 서한을 냈습니다.
제이콥 콕슨 연구원은 AI가 인간 개입 없이 연구를 수행하면 인간을 압도하는 지능 폭발이 올 수 있다고 경고합니다. 연구 속도는 빨라졌지만, 연구자들은 AI에 뒤처질 수 있다는 압박도 느끼는 셈입니다. 결국 남는 질문은 어디까지 AI에게 맡기고 무엇을 인간이 검증할 것인가입니다. 가이드가 자율성과 연구 진실성 사이의 균형점을 찾을지 주목됩니다.