윤리·안전·개인정보
AX 전략에서 가장 나중으로 미뤄지지만 실제로는 가장 먼저 세워야 할 영역이다. 규범과 법, 위험과 안전장치를 한데 모아, 학교가 무엇을 지키고 무엇을 확인해야 하는지 실무 언어로 정리한다.
주요 근거: 교육부 「교육분야 AI 윤리원칙」 · 개인정보보호위원회 · AI 기본법 · EU AI Act Annex III (자료 수집일 2026-07-05)
- 「교육분야 AI 윤리원칙」의 대원칙과 3대 기본원칙, 곧 모든 판단의 기준점
- 환각·표절·과의존 등 생성형 AI의 교육적 위험과, 그에 대한 연구 근거
- 개인정보 보호법 제22조의2와 연령별 사용 규칙, 교육청 지침
- AI 기본법·EU AI Act의 교육 조항과, 학교가 바로 쓸 수 있는 도구 도입 체크리스트
교육분야 AI 윤리원칙: 판단의 기준점
학교에서 AI를 둘러싼 결정을 내릴 때 되돌아갈 나침반이 교육부의 「교육분야 인공지능 윤리원칙」(2022)이다. 대원칙은 한 문장으로 압축된다. 바로 "사람의 성장을 지원하는 인공지능"이다. AI가 교육의 주인공이 아니라 사람의 성장을 돕는 조력자라는 선언이며, 이 핸드북 전체를 관통하는 문장이기도 하다.
대원칙 아래에는 세 가지 기본원칙이 있다.
- 학습자의 주도성 강화:AI가 학습을 대신 해 주는 것이 아니라, 학습자가 스스로 배우는 힘을 키우도록 돕는 방향이어야 한다.
- 교수자의 전문성 존중:AI는 교사의 판단을 대체하지 않고 보조한다. 최종 결정은 교사에게 있다.
- 기술의 합목적성 제고:기술을 위한 기술이 아니라 교육 목적에 맞게 쓰여야 한다.
이 세 원칙은 다시 아홉 가지 세부원칙으로 구체화된다: 인간 성장의 잠재력 실현, 학습자의 주도성과 다양성 보장, 교육당사자 간 관계 유지, 교육 기회균등을 통한 공정성, 교육공동체의 연대와 협력, 사회 공공성 증진, 교육당사자의 안전 보장, 데이터 처리의 투명성과 설명 가능성, 데이터의 합목적적 활용과 프라이버시 보호. 외울 필요는 없다. 다만 어떤 도구를 도입할지, 어떤 수업을 설계할지 망설여질 때 "이것이 사람의 성장을 지원하는가, 학습자의 주도성을 키우는가"라고 되물으면 대개 방향이 잡힌다.
생성형 AI의 교육적 위험: 알아야 피한다
생성형 AI의 위험은 막연한 불안이 아니라 구체적인 작동 방식에서 나온다. 유형별로 알아야 학생에게 제대로 가르치고 스스로도 조심할 수 있다.
환각(Hallucination): 그럴듯한 거짓말
생성형 AI는 정답을 모르는 질문에도 확률적으로 그럴듯한 답을 확신에 찬 어조로 만들어 낸다. 존재하지 않는 논문을 인용하거나, 틀린 연도를 사실처럼 말한다. 이것은 고장이 아니라 이 기술의 근본 특성이다. 그래서 수업 자료에 들어갈 사실·수치·인용은 반드시 공식 자료와 대조해야 하고, 학생에게도 "AI의 답은 출발점이지 정답이 아니다"라는 태도를 가르쳐야 한다.
과의존과 비판적 사고의 저하
가장 깊은 위험은 눈에 보이지 않는다. MIT Media Lab의 연구 「Your Brain on ChatGPT」는 54명을 대상으로 에세이 작성 중 뇌 활동을 측정했는데, ChatGPT를 사용한 집단은 작성 속도가 60% 빨랐지만 학습에 관여하는 인지 부하(배움을 만들어 내는 정신적 노력 그 자체)가 약 32% 낮았고, 도구를 쓰지 않은 집단에서 기억과 실행 기능에 관여하는 뇌 연결성이 가장 높게 나타났다. 연구진은 이를 '인지 부채(cognitive debt)'라 불렀다. AI에 사고를 위임할수록 스스로 부호화하고 인출하고 통합하는 능력이 약해진다는 것이다. 다른 연구들도 생성형 AI에 자주 기대면 '메타인지적 게으름'이 생긴다고 보고한다. 이 위험은 "AI를 쓰지 말라"가 아니라 "생각의 어느 단계를 AI에 맡기고 어느 단계는 학생이 직접 하게 할 것인가"를 설계해야 한다는 뜻이다.
편향과 형평성
AI는 학습한 데이터의 편향을 그대로 물려받는다. 특정 집단에 불리한 답, 특정 언어·문화에 치우친 예시가 나올 수 있다. 학생에게 AI의 답이 중립적이지 않을 수 있음을, 그 뒤에는 데이터와 만든 사람의 선택이 있음을 가르치는 것이 AI 리터러시의 핵심이다.
학생 개인정보 보호: 넘지 말아야 할 선
학교의 이용자 대부분이 미성년자라는 사실이 개인정보 보호를 다른 모든 조직보다 엄격하게 만든다. 뼈대가 되는 조항은 개인정보 보호법 제22조의2다. 만 14세 미만 아동의 개인정보를 처리하려면 법정대리인(대개 부모)의 동의를 받아야 하고, 동의 여부를 확인해야 한다. 위반하면 5년 이하의 징역 또는 5천만 원 이하의 벌금이라는 무거운 책임이 따른다. 권리 행사도 연령으로 갈린다. 만 14세 이상은 본인이 열람·정정·삭제를 요구할 수 있고, 그 미만은 법정대리인이 대신한다.
개인정보보호위원회는 이를 실무로 옮길 안내서를 내놓았다. 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」(2025년 8월)는 AI의 수명주기를 목적 설정 → 전략 수립 → 학습·개발 → 적용·관리의 네 단계로 나눠 단계별 개인정보 이슈와 안전조치를 제시한다. 「아동·청소년 개인정보 보호 가이드라인」(2022)은 아동·청소년기에 올린 정보를 지워 달라 요청할 수 있는 '디지털 잊힐 권리'의 방향을 담았다.
학교 현장에서 이 모든 것은 하나의 실천 규칙으로 압축된다.
연령별 사용 규칙: 학교급마다 다른 문
생성형 AI를 학생이 직접 쓰게 할지, 어떤 조건에서 쓸지는 학교급과 연령에 따라 다르다. 시도교육청 지침들이 이 경계를 구체화했다. 아래 표에서 위 세 행(학교급 기준)은 서울 지침, 맨 아래 행(연령 기준)은 경기 지침의 예시로, 서로 다른 교육청의 별개 체계다. 두 기준을 섞어 적용하지 말고 소속 교육청의 지침 하나를 따르며, 최신판을 반드시 확인해야 한다.
| 구분 | 대표적 기준(교육청 지침 기반) |
|---|---|
| 초등학생 | 원칙적으로 교사의 시연을 통한 간접 체험. 교사가 안전성을 확보한 경우에 한해 직접 사용 |
| 중학생 | 보호자 동의가 있을 때, 교사 지도 아래 수업 중 사용 가능(단, 만 14세 미만 학생은 서비스별 최저 연령 기준을 먼저 확인해야 한다. 동의만으로 계정 생성·사용이 허용되지 않는 서비스가 많다) |
| 고등학생 | 보호자 동의가 있을 때 학생이 직접 사용 가능 |
| 연령 기준(경기 지침 예시) | 13세 미만은 보호자 동의 필요 / 13~18세는 보호자 또는 학교 관리자 승인 + 사전 안전·윤리 교육 / 18세 이상은 약관 확인 후 자유 이용(단, 계정 생성 등 개인정보 처리가 따르면 만 14세 미만은 관리자 승인과 별개로 법정대리인 동의가 법정 요건이다(제22조의2)) |
이 기준의 바탕에는 서비스 제공사의 자체 연령 정책도 있다. 예컨대 ChatGPT는 만 13세 미만은 이용 대상이 아니며, 국내에서는 만 18세 이상이거나 만 14세 이상이면서 보호자 동의를 받도록 운영된다. 도구를 고를 때는 그 도구가 우리 학생의 연령대를 허용하는지부터 확인해야 한다. 동의를 받아야 한다면 가정통신문과 동의서를, 동의하지 않은 학생을 위한 대체 활동을 함께 준비하는 것이 공교육의 기본 절차다. 감독 아래 실시간으로 치르는 시험·평가 시간 중에는 생성형 AI 사용을 제한하는 것이 공통 원칙이며, 과제형 수행평가는 다음 절처럼 허용 범위를 과제마다 정해 공지하는 방식으로 다룬다.
평가 공정성과 학문적 진실성
학생이 과제에 AI를 쓰는 일은 이미 일상이 되었고, 그래서 평가의 공정성이 새로운 숙제가 되었다. 두 가지를 구분해야 한다.
첫째, AI 탐지기에 의존하지 않는다. AI가 쓴 글을 자동으로 잡아낸다는 탐지 도구들은 사람이 직접 쓴 글이나 오래된 공식 문서를 AI 생성물로 오판하는 문제가 보고되어 있다. 탐지기 하나로 학생을 부정행위자로 단정하는 것은 위험하다. 대신 과정 중심 평가(초안-수정 과정 관찰, 수업 중 실시간 활동, 구술 확인)의 비중을 키우는 것이 더 튼튼한 대응이다.
둘째, 경계를 미리 정해 공지한다. 교육부·교육청의 수행평가 AI 활용 관리 방안은 다섯 요소(활용 범위 설정, 활용 과정 표기 지도, 학생 유의사항 사전 교육, 평가 설계 방향, 개인정보 보호)로 구성된다. 핵심은 일률적 금지가 아니라 '어디까지 허용하는지'를 과제마다 분명히 하는 것이다. 학생에게는 AI를 쓴 부분을 표기하도록 지도해, 정직하게 밝히는 것이 규칙 위반이 아니라 학문적 진실성의 실천이 되게 한다. 이 관리 방안은 2026학년도 시도 학업성적관리 시행지침에 반영된다.
딥페이크와 디지털 시민성: 안전 교육의 최전선
AI의 위험이 가장 아프게 드러난 사건이 2024년의 학교 관련 딥페이크 성범죄다. 그해 1월부터 10월 사이 학교 관련 피해 신고가 542건, 피해자가 901명에 이르렀다. 이는 기술 윤리가 추상적 논의가 아니라 학생의 안전과 직결된 문제임을 보여 준다.
대응도 뒤따랐다. 정부는 관계부처 합동으로 「딥페이크 성범죄 대응 강화 방안」(2024년 11월)을 냈고, 교육부는 긴급대응 체계와 학교급별 대응 매뉴얼, 예방 교육을 마련했다. 법도 바뀌었다. 학교폭력예방법의 '사이버폭력' 정의에 딥페이크 성범죄물 제작·유포가 명시적으로 포함되었고, 성폭력처벌법 개정으로 허위영상물의 제작·유포뿐 아니라 소지·시청도 처벌 대상이 되었다(3년 이하 징역 또는 3천만 원 이하 벌금).
학교의 몫은 처벌 이전의 예방, 곧 디지털 시민성 교육이다. AI로 무엇을 만들 수 있는지를 넘어 무엇을 만들어서는 안 되는지, 타인의 이미지와 정보를 다룰 때의 책임, 피해를 입었을 때 도움을 요청하는 법을 가르치는 것이다. 핀란드가 수십 년의 미디어 리터러시 전통 위에 AI 생성물 식별 교육을 얹은 것(2장)은 좋은 참고가 된다. 기술 사용법과 시민적 책임을 함께 가르치는 접근이다.
법·제도 지형: 국내외의 큰 그림
학교가 세부 조문까지 알 필요는 없지만, 어떤 법이 교육을 어떻게 다루는지의 큰 그림은 알아 두는 것이 좋다.
| 제도 | 교육 관련 핵심 |
|---|---|
| AI 기본법(한국) 2026.1.22 시행 | 교육을 '고영향 AI' 분야에 명시적으로 포함. 학생 평가·맞춤형 학습 등에 쓰이는 AI에 위험·영향평가, 문서화, 이용자 고지 등 의무가 확대될 수 있음. 다만 학교 현장 적용의 세부는 시행령과 계도기간에 좌우됨 |
| 개인정보 보호법 제22조의2 | 만 14세 미만 아동 개인정보 처리 시 법정대리인 동의 필수. 위반 시 형사처벌 |
| EU AI Act Annex III | 교육을 4개 용례로 고위험 분류: 입학·배정 결정, 학습 성과 평가, 교육 수준 평가, 시험 중 부정행위 탐지. 공·사립, 연령, 정규·비정규 불문 |
| 교육분야 AI 윤리원칙(2022) | 법적 강제력은 없는 자율규범이나, 학교 규칙 수립의 상위 기준 |
공통 메시지는 분명하다. 국내법과 국제 규범이 하나같이 '평가에 쓰이는 AI'를 가장 민감한 지점으로 지목한다. 학생의 인생에 기록으로 남는 판단일수록 AI 단독 결정을 배제하고 사람의 검토를 요구한다. 이것이 앞 장들에서 반복된 human-in-the-loop 원칙의 법적 뿌리다.
도구 도입 실무 체크리스트
지금까지의 규범을 학교가 도구 하나를 도입할 때 실제로 던져야 할 질문으로 압축했다. 단일 공식 문서로 존재하는 표준은 아니며, 여러 지침을 종합해 구성한 실무용 점검표다. 도입 전에 이 항목들에 답할 수 없다면, 아직 도입할 때가 아니다.
- 연령 정책:이 도구가 우리 학생의 연령대를 허용하는가? 보호자 동의가 필요한가?
- 동의 절차:필요한 동의(가정통신문·동의서)를 받을 준비가 되었는가? 미동의 학생의 대체 활동이 있는가?
- 데이터 수집:이 도구는 학생의 어떤 데이터를 수집하는가? 그 목적은 무엇인가?
- 데이터 보관·파기:데이터는 어디에 저장되고 언제 파기되는가? 계약 종료 후에는 어떻게 되는가?
- 개인정보 입력 통제:교사·학생이 개인정보를 입력하지 않도록 지도·설계했는가?
- 약관 검토:이용약관에 교육기관·미성년자 사용에 관한 제한이 있는가?
- 평가 사용 경계:이 도구를 평가에 쓸 것인가? 쓴다면 최종 판단은 교사가 하는가?
- 교육청 지침 부합:소속 교육청의 생성형 AI 활용 지침에 어긋나지 않는가?
- 도입 주체:개인 판단이 아니라 학교·교육청 차원의 검토를 거쳤는가?
- 위험 대비:환각·편향·부적절한 출력에 대비한 지도와 안내가 준비되었는가?
이 체크리스트는 4장의 도구 레퍼런스, 그리고 실습 시나리오의 개인정보·평가 규칙과 짝을 이룬다. 규범은 실행을 막기 위한 장벽이 아니라, 실행이 학생을 다치게 하지 않도록 지켜 주는 난간이다. 난간을 세우고 나면, 오히려 더 자신 있게 나아갈 수 있다.
참고 자료
- 「교육분야 인공지능 윤리원칙」(2022). 교육부
- 「생성형 AI 개발·활용을 위한 개인정보 처리 안내서」(2025)·「아동·청소년 개인정보 보호 가이드라인」(2022). 개인정보보호위원회
- 개인정보 보호법 제22조의2·「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(2026.1 시행). 국가법령정보센터
- 생성형 AI의 인지 영향 연구(MIT Media Lab, Your Brain on ChatGPT)·시도교육청 생성형 AI 활용 지침(서울·경기)
- EU AI Act Annex III(교육 분야 고위험 분류). EU Artificial Intelligence Act (자료 수집일 2026-07-05)