국가연구개발 AI 연구윤리 가이드: 연구자의 책임과 원칙

AI 기술의 발전은 연구 환경에 혁신을 가져왔지만, 동시에 새로운 윤리적 도전을 제기한다. 국가연구개발 AI 연구윤리 가이드는 이러한 변화 속에서 연구자가 인공지능을 책임감 있게 활용하도록 돕는 길잡이이다. 이 글은 연구 진실성을 지키며 AI의 잠재력을 최대한 발휘하는 데 필요한 원칙과 실제 사례를 안내한다.

AI 시대의 연구윤리, 왜 필요한가

AI는 국가연구개발의 모든 단계에서 연구자의 효율성을 높이는 중요한 도구로 자리매김한다. 2025년 와일리(Wiley) 조사에 따르면 연구자의 생성형 AI 사용 경험이 전년도 57%에서 84%로 크게 늘었다. 엘스비어(Elsevier) 조사에서도 업무에 AI를 활용하는 연구자가 37%에서 58%로 증가했다. 주로 챗봇(ChatGPT 등)을 활용하여 연구 결과 요약(61%), 문헌 검토(51%), 과제 제안서 초안 작성(41%), 연구 데이터 분석(38%) 등에 AI를 사용한다.

이러한 AI 활용 확대는 은닉 프롬프트를 이용한 학술 리뷰 조작과 같은 새로운 연구윤리 우려를 낳았다. 이에 따라 국가연구개발의 연구 진실성을 확보하고 새로운 유형의 연구 부정행위에 대응하는 제도적 장치가 필요하다.

이 가이드는 국가연구개발에서 AI를 활용하는 모든 연구자를 주 대상으로 삼는다. 생성형 AI(LLM, 대규모 언어 모델) 활용을 기준으로 삼으며, 연구자가 자체 개발·학습시킨 AI 모델이나 에이전트 AI 등도 적용 가능한 범위에 포함한다. AI 활용을 규제하기보다 연구자의 윤리적 활용을 지원하는 데 그 목적이 있다.

AI 활용의 기회와 잠재적 위험

AI 도구는 연구개발 전 과정에서 진입 장벽을 낮추고 연구 기회를 확대한다. 방대한 자료를 빠르게 처리하고 요약하거나(대규모 정보 처리 및 요약), 문서 초안, 표, 그림, 코드 등 다양한 형식의 결과물을 생성한다(다양한 형식의 결과물 생성). 또한 언어 장벽을 완화하고, 아이디어 탐색과 구조화, 단순 반복 작업 자동화에 도움을 준다.

하지만 AI 활용은 윤리적 원칙을 위협하는 잠재적 위험을 내포한다.

위험 유형	내용
연구 진실성 훼손	AI는 검증되지 않은 가설이나 허위 정보를 생성할 위험이 있다. 아이디어 탐색이나 자료 정리 과정에서 연구 동향 왜곡, 데이터 누락·오류·중복이 발생한다.
편향 재생산	기존 학습 데이터에 기반하여 과거의 한계와 왜곡을 답습하고 증폭한다. 연구 자료 수집·분석 시 객관성과 타당성을 저해하며, 특정 연구 주제나 방향성만 강조하여 연구 다양성을 훼손한다.
보안사항 유출	미출원 기술, 기술이전 협상 중인 기술 등 비공개·보안 사항을 외부 AI에 입력하면 연구 기밀이 유출된다. 입력된 데이터가 AI 시스템 학습에 활용되어 기관의 지식재산권이나 국가 주요 기술의 보안성을 침해할 수 있다.
개인정보 유출	개인정보, 의료 데이터 등 민감한 정보를 외부 AI에 입력하면 해당 정보가 외부 서버에 저장되거나 유출될 가능성이 높다. 특히 글로벌 AI 서비스는 자료가 해외 데이터센터로 이전되어 국외 유출 위험이 크다.
부적절한 연구행위	AI 생성물(이미지, 도표, 코드 등)은 학습 데이터를 기반으로 하므로, 정확한 출처를 명시하지 않으면 표절이나 부적절한 인용 문제가 발생한다. AI가 생성한 코드는 기존 코드를 복제한 것일 수 있어 검증 없이 활용하면 라이선스 분쟁의 소지가 있다.

생성형 AI의 기술적 한계 역시 존재한다. 환각 현상(Hallucination)으로 사실과 다른 정보를 생성하거나, 블랙박스 구조로 AI의 내부 논리 파악이 어렵다. 동일 입력에도 다른 결과를 제시하는 결과 변동성, 미공개 연구 데이터 유출 위험을 안는 보안 취약성이 있다. 또한 저작권 침해 가능성, 연구자의 비판적 사고 능력을 약화시키는 의존성, AI 접근성의 차이가 연구 역량 격차로 이어지는 불균등성도 문제점으로 지적된다.

AI 활용 기본원칙, 도구로서의 AI

국가연구개발에서 AI는 도구로서의 역할에 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다.

원칙	설명
보조 도구	AI는 문헌 조사 요약, 번역, 문법 교정, 기초 코딩, 데이터 정리, 시뮬레이션 등 연구 효율성을 높이는 보조적 역할에 국한된다.
저자성 인정 불가	AI는 법적·도덕적 의무를 질 수 없으므로, 저자나 발명자로서의 지위와 권리를 가질 수 없다.

AI 활용의 책임은 귀속성, 응답성, 책무성의 세 가지 도덕적 성질을 포함한다. 연구자는 AI 산출물이 자신의 가치 판단과 전문적 식견을 반영하는지 판단하는 귀속성을 지닌다. 연구개발기관은 윤리 문제 발생 시 조사하고 설명하는 응답성을 가진다. 연구 활동의 긍정적·부정적 결과에 따르는 인정이나 처벌은 인간 또는 기관에만 부여 가능한 책무성을 가진다.

연구 주체별 역할과 책임

국가연구개발 전 과정에서 AI를 윤리적으로 활용하려면 연구자와 연구개발기관이 각자의 역할과 책임을 다해야 한다.

연구자의 책임

연구자는 AI 활용의 기술적·윤리적 한계를 명확히 인식한다. 주체적 판단 역량을 함양하여 AI를 책임감 있게 활용해야 한다. AI를 활용한 연구 성과에 대한 공로는 AI를 책임감 있게 사용한 연구자에게 있으며, 활용 범위를 투명하게 공개한다.

또한 AI 활용 시 발생할 수 있는 위험을 사전에 인지하고 예방해야 한다. AI 생성물의 환각 가능성을 검증하고, 개인정보와 기밀정보의 AI 도구 입력을 주의하며, 저작권 침해 가능성과 편향 가능성을 점검한다. AI 산출물을 포함한 연구 과정과 결과의 최종 책임이 연구자에게 있음을 인식해야 한다. 연구 부정행위가 인정되면 AI 사용이 책임의 면제나 처분의 경감 사유가 되지 않는다.

연구개발기관의 책임

연구개발기관은 소속 연구자가 AI를 윤리적으로 활용하도록 기관 차원의 가이드를 제공하고 주기적으로 개정한다. AI 활용 관련 연구윤리 교육을 제공하고 연구 인프라를 지원한다.

AI 관련 연구윤리 문제를 방지하려고 적극 노력해야 한다. 연구자가 민감한 연구 데이터를 외부 AI 서비스에 노출하지 않고 AI를 활용하도록 내부 AI 서비스 환경 구축을 검토해야 한다. 새로운 위험 요소의 출현에 선제적으로 대응하는 체계를 갖춘다. AI 관련 연구 부정행위 발생 시 기관 차원의 책임을 인식하고 예방 및 대응책을 마련하며, 의도하지 않은 오류와 고의적 부정행위를 구분하는 조사·판단 기준을 마련한다.

국가연구개발 AI 활용 권고사항

국가연구개발에서 책임 있는 AI 활용을 위해 다음 권고사항을 준수해야 한다.

권고사항	핵심 내용
사실관계 검증	AI 생성물의 오류, 핵심 자료 누락, 출처의 존재 및 진위 등을 연구자가 반드시 검증한다. AI의 환각 현상으로 인한 연구 부정 및 부적절한 행위를 방지하고 연구 진실성을 확보한다.
주체적인 판단	AI가 생성한 자료를 활용할 때 논리적 타당성과 전문 지식에 따라 검토한다. 자신의 관점을 반영하여 재구성한다. 이는 편향으로 인한 연구 결과 왜곡을 예방하고 최종 책임을 지는 연구자의 필수 의무이다.
투명성 확보	연구 과정 전반에 AI를 활용한 경우, 모델·버전, 목적·범위 등을 최종 성과물 제출(또는 발표) 시 투명하게 공개한다. AI 활용 여부 공개는 연구 결과의 신뢰성을 높이고, 연구자가 최종 책임자임을 분명히 하는 데 목적이 있다.
결과 신뢰성 관리	AI를 활용하더라도 연구개발 성과의 구현 과정을 논리적으로 설명할 수 있어야 한다. 국가연구개발에서 결과 신뢰성은 후속 연구 진행, 기술이전 등 성과 활용, 연구 부정행위 예방 등 연구 진실성 확보의 필수 요소이다.
정책·규정 준수	AI 활용 시 관련 법령뿐 아니라 연구개발기관의 규정, 지침, 가이드 등을 확인하고 준수한다. 논문 출판 시에는 학술지(출판사)별 AI 활용 정책을 투고 전에 점검하고 준수한다.
보안 확보	보안 과제 등 보안이 필요한 연구에 AI를 활용할 경우, 연구개발기관이 허가한 보안 환경 내의 도구를 사용한다. 연구개발기관은 연구자의 AI 활용 시 보안 사항이 외부로 유출되지 않도록 제도적·기술적 보안 환경을 마련해야 한다.
개인정보 보호	연구개발 전 과정에서 개인정보가 포함된 연구 데이터를 AI 서비스에 입력하지 않도록 주의한다. 부득이하게 활용해야 하는 경우 비식별화 처리 등 보안 조치를 사전에 이행한다.

이 권고사항들은 연구 개발의 단계별로 적용된다.

• 연구개발 기획 및 준비: 제안서 및 계획서 작성 시 AI 활용으로 인한 연구 진실성 훼손, 편향 재생산, 부적절한 연구행위(표절, 인용) 위험에 유의한다.
• 연구개발 수행: 데이터 수집·정리·분석 및 연구 노트 작성 시 연구 진실성 훼손, 편향 재생산, 보안/개인정보 유출, 부적절한 연구행위(표절, 인용) 위험에 주의한다.
• 연구개발 성과 및 관리·활용: 연구 보고서, 논문 등 작성 및 연구 데이터 공유 시 위와 동일한 위험에 유의하며, AI 생성 코드의 라이선스 분쟁 가능성도 염두에 둔다.
• 연구개발 과정에서의 평가: 연구 계획서 및 보고서 심사, 논문 심사(동료 평가) 시 정보 유출, 평가 취지 왜곡, 부적절한 행위(은닉 프롬프트 등) 위험을 경계한다. 평가자는 자신의 전문적 지식과 주체적인 판단에 기반하여 평가를 수행해야 한다. 해외 학술지나 연구관리기관 다수는 평가에서 AI 활용을 제한하거나 금지한다.

연구자는 연구 수행 전 AI 활용 권고사항의 내용을 사전에 확인하고, 최종 결과물 제출(또는 발표) 전, 권고사항 준수 여부를 점검할 수 있는 연구자 자가진단표를 활용해야 한다.

AI 연구윤리 위반 주요 유의 사례

AI 활용 과정에서 발생할 수 있는 주요 유의 사례와 그 대응 방향은 다음과 같다.

연구 결과의 선택적 보고

AI 프롬프트를 반복적으로 수정하여 연구자가 의도한 가설과 결과를 만들어내고, 유의미한 결과만을 최종 연구 보고에 활용하는 행위이다. 유의미한 결과를 확인한 후 AI로 그에 적합한 가설을 사후적으로 생성하는 것도 여기에 포함된다. 대응: 아이디어, 자료의 분석과 결과 등 연구 내용에 대한 책임은 연구자에게 있으며, 연구자는 재현 가능성 확보를 위해 AI 활용 과정을 성실히 관리해야 한다. 연구의 의도와 AI 활용의 필요성·적정성 간 관계를 논리적으로 설명할 수 있어야 한다.

허위 참고문헌 포함 출판

AI가 생성한 참고문헌 목록을 원문 확인 없이 제안서, 논문, 결과 보고서 등에 그대로 기재하는 행위이다. 2024년 중반 이후 허위 참고문헌은 급증하는 추세이다. 2023년부터 2026년까지 PubMed 등록 논문 247만여 건을 조사한 결과, 허위 참고문헌 발생률은 논문 10,000편 당 4편(2023)에서 57편(2026)으로 크게 증가했다. 대응: AI가 제시한 참고문헌은 연구자가 반드시 원문 확인 및 교차 검증해야 한다. 생성형 AI는 실제 존재하지 않는 문헌을 생성할 수 있으므로, 해당 자료의 존재와 내용의 합치 여부를 연구자가 직접 검토·검증해야 한다.

존재하지 않거나 부정확한 사실 서술 및 분석

AI가 부정확하거나 사실이 아닌 연구 자료를 생성하고, 이에 기반한 분석을 논문이나 보고서 등의 연구 결과에 포함하는 경우이다. LLM에게 자료 요약을 요청했을 때 원문에 없던 내용을 포함하거나, 핵심 주장을 잘못 요약하는 등의 오류가 발생한다. 대응: 문서 요약이나 분석에 AI를 활용할 때, AI가 제시한 자료·산출물·결과물은 원문 확인 및 교차 검증을 거쳐 내용이 왜곡되거나 허위 정보가 포함되지 않았는지 확인해야 한다.

연구부정행위(위조·변조)

수행하지 않은 실험이나 관찰의 결과를 AI로 생성하여 연구 결과로 제시하는 행위이다. AI 도구를 활용하여 실험 및 연구 결과의 특정 영역을 수정하거나 삭제하는 등 실제 연구 데이터와 다른 수치·이미지 등을 연구 결과물로 출판하는 행위도 포함된다. AI의 이미지 생성 기술 발전으로 실제와 같은 고품질 가짜 이미지를 쉽게 식별하기 어려워 오용 위험이 커졌다. 대응: 생성형 AI가 만든 가상의 데이터를 실제 실험이나 조사의 결과로써 제시하지 않도록 주의하고 데이터 출처 및 생성 과정을 명확히 관리한다. 데이터가 어떤 과정을 거쳐 생성·가공되었는지를 명확히 관리하여 데이터의 신뢰성과 추적 가능성을 확보해야 한다. 실험 결과에 활용하는 이미지는 원본을 사용해야 하며, 후처리가 필요하면 허용 범위와 방법을 학술지 투고 규정에서 확인하고 준수한다.

AI 모델의 편향 비판 없이 수용

AI가 내재한 편향을 반영하여 특정 연구 분야, 방법론, 집단 등에 유리하거나 불리한 방향으로 결과가 도출될 때, 이를 충분히 검토하지 않고 연구 결과에 반영하는 행위이다. 대응: AI 도구가 생성한 연구 결과의 해석이 특정 집단에 대한 편향을 포함하고 있는지 연구자가 비판적으로 검토해야 한다. 생성형 AI가 제공하는 해석은 참고 자료이며, 최종적인 해석은 연구자의 이론적 지식과 분석에 기반함을 유념한다.

보안 사항의 누설 및 유출

국가연구개발 과제의 연구 내용 및 주요 기술 등을 기관의 허가 없이 외부 공개형 AI 서비스에 입력하는 행위이다. 예를 들어, 반도체 설비 계측 데이터베이스 다운로드 프로그램 오류 해결을 위해 소스 코드 전부를 챗GPT에 입력하여 관련 소스 코드가 오픈AI 학습 데이터로 유출된 사례가 있다. 평가위원이 심사 대상 연구 계획서 및 보고서 내용을 기관이 허가하지 않은 외부 AI 서비스에 입력하여 평가 의견서를 작성하는 행위도 포함된다. 대응: 보안 등급이 부여된 과제 또는 중요 기술과 관련된 정보는 허가된 보안 환경 내의 도구만을 사용해야 한다. 평가자 개인은 국가연구개발 성과이자 평가 대상인 연구 계획서 및 보고서를 보안이 담보되지 않은 생성형 AI 도구에 업로드하는 행위를 해서는 안 된다.

AI 활용의 투명성 훼손

학술 활동에서 AI를 다양한 범위 및 수준으로 활용했으나 이를 적절히 밝히지 않는 경우이다. 미국 국립 과학원 회보(PNAS) 연구에 따르면, AI 활용 규정을 도입하는 학술지가 급증했지만 연구자들의 실제 공시(disclosure)율은 매우 낮다. 2023년 이후 발표된 과학 논문 75,000편 중 AI 사용을 공식적으로 밝힌 논문은 76편(약 0.1%)에 불과했다. 대응: AI 활용 이력이 누락된 데이터는 처리 과정의 투명성이 확보되지 않아 후속 연구의 신뢰성을 저해할 수 있다. 아이디어, 자료의 분석과 결과 등 연구 내용에 대한 책임은 연구자에게 있으며, 연구자는 재현 가능성 확보를 위해 AI 활용 과정을 성실히 관리하고 투명하게 공개해야 한다.

연구 진실성 확보를 위한 노력

국가연구개발 AI 연구윤리 가이드는 연구자들이 AI를 윤리적으로 활용하고 연구 진실성을 확보하는 데 필요한 기준을 제시한다. 연구자는 연구자 자가진단표와 AI 활용 여부 공개 양식 등 실제 활용 가능한 도구를 통해 AI 활용 과정을 점검하고 투명하게 공개한다. 기술적 한계와 윤리적 위험을 인식하고, 주체적인 판단과 검증으로 AI를 보조 도구로서 책임감 있게 활용하는 것이 핵심이다.

출처

• 《국가연구개발 AI 연구윤리 가이드》 (2026. 9.)