AI 망각의 시대, 교실은 어떤 기억을 가르칠까

인공지능의 발전은 끊임없이 새로운 질문을 던진다. AI가 무엇을 기억하고 무엇을 잊을 수 있는가에 대한 기술적 논의는 인간의 기억, 지식, 그리고 교육의 본질에 대한 근원적인 탐구로 확장된다. 우리는 AI의 ‘선택적 망각’이 교육 현장에 어떤 의미를 지니는지 깊이 사유한다.

1. 망각하는 인공지능, 교실의 기억을 묻다

“기억이 능동적인 과정이라면, 망각 또한 그러하다.”

학생들이 AI 도구를 활용해 자료를 탐색하고 과제를 수행한다. AI는 때로 회사 기밀이나 저작권이 있는 콘텐츠를 학습하고 무심코 출력하기도 한다. 이러한 AI의 ‘무한 기억’은 편리함을 넘어 정보 유출이나 윤리적 문제로 이어지는 위험을 안고 있다. 교실의 AI 활용은 이러한 기술적, 윤리적 딜레마를 어떻게 해결해야 하는가?

인공지능은 그동안 방대한 데이터를 무작위로 학습하며 능력을 확장했다. 이러한 ‘무한 학습’ 패러다임은 AI의 성능을 비약적으로 끌어올리는 동력이 되었다. 그러나 이 과정에서 AI가 학습한 모든 정보를 그대로 ‘기억’하고 출력할 때 발생하는 부작용이 점차 명확해진다. 기업의 민감한 기밀 정보 유출, 저작권이 있는 콘텐츠의 무단 복제 등이 대표적인 문제이다. 이러한 문제들은 AI를 실제 업무 환경이나 교육 현장에 적용하는 데 심각한 제약으로 작용한다.

영화 속 상상에 머물던 ‘선택적 망각’이 이제 AI 업계의 현실적 과제로 떠오른다. 특정 정보를 AI에서 선택적으로 제거하는 언러닝(unlearning) 기술이 주목받는 이유이다. 최근 국제학습표현학회(ICLR)에서 공개된 허블(Hubble)이라는 오픈소스 연구 도구는 이러한 변화의 선봉에 선다. 허블은 AI가 특정 데이터를 언제, 어떤 방식으로 학습할 때 더 강하게 기억하는지, 반대로 기억이 사라지는지 분석하는 도구이다. 이는 AI의 내부 작동 방식을 ‘미지의 영역’에서 ‘통제 가능한 시스템’으로 전환하는 중요한 발걸음이 된다.

허블을 활용하면 AI가 어떤 기밀 정보를 기억하고 있는지 확인할 수 있다. 더 나아가 특정 데이터는 암기하지 않도록 설계하거나 선택적으로 기억을 제거하는 언러닝 기술로 이어질 수 있다. 우사이먼성일 성균관대 소프트웨어학과·인공지능대학원 교수는 특정 데이터가 모델 학습에 영향을 미쳤는지 확인하는 것은 물론, 언러닝 이후 정보가 실제로 제거되었는지를 입증하는 수단으로도 활용될 수 있다고 말한다. 이러한 기술은 AI의 신뢰성을 확보하고 법적, 윤리적 문제로부터 자유로운 ‘기업용 AI’의 가능성을 확장한다.

교육 현장에서도 이러한 변화의 의미를 깊이 헤아려야 한다. AI는 학생들에게 방대한 정보를 제공하지만, 그 정보가 항상 정확하거나 윤리적으로 타당하지는 않다. AI의 ‘선택적 망각’ 기술은 교육자가 AI가 학습자에게 제공하는 정보의 범위와 종류를 보다 정교하게 통제할 수 있는 가능성을 제시한다. 이는 AI가 단순한 정보 탐색 도구를 넘어, 신뢰할 수 있는 학습 파트너로 자리매김하기 위한 필수적인 단계가 된다. AI가 무엇을 ‘기억해야 하고’, 무엇을 ‘잊어야 하는지’에 대한 성찰은 결국 교육의 본질적 목표와 직결된다.

핵심 정리 AI의 ‘선택적 망각’ 능력은 AI의 신뢰성과 통제 가능성을 높이는 핵심 기술 변화를 의미한다.

2. 교실의 비계와 AI의 통제: 지식의 경계를 다시 그린다

“학습은 단순히 지식을 쌓는 것이 아니라, 불필요한 것을 잊고 필요한 것을 재구성하는 과정이다.”

AI가 학습자의 발달 단계를 고려하지 않은 답변을 내놓거나, 때로는 잘못된 정보를 확신에 차서 제공한다. 이럴 때 교사는 어떤 기준과 방식으로 AI의 ‘지식’에 개입하고 통제해야 하는가? 그리고 AI의 망각 능력은 이러한 통제에 어떤 새로운 가능성을 열어주는가?

언러닝이 AI의 기억을 기술적으로 통제하는 방법론이라면, 교육 현장에서는 AI의 학습 경험을 어떻게 ‘비계 설정(Scaffolding)’할 것인가에 대한 고민으로 이어진다. 기존의 LLM 기반 교육용 챗봇은 대화의 ‘무상태성(statelessness)’으로 인해 학습자의 장기적인 맥락을 유지하지 못하고, 법적·기술적으로 높은 정확성이 요구되는 영역에서 환각(hallucination) 문제를 일으킨다. 이러한 한계를 극복하기 위해 Agentic AI 프레임워크가 주목받는다. 이 프레임워크는 Think-Plan-Act 인지 순환 구조를 갖춰 자율적인 목표 분해, 장기적 학습 계획 수립, 동적 맥락 유지를 가능하게 한다.

언러닝 기술은 AI가 특정 데이터를 ‘암기하지 않도록’ 설계하거나 선택적으로 기억을 제거한다. 이러한 제어 능력은 교육적 맥락에서 AI가 학습자에게 제공할 지식의 범위와 깊이를 조절하는 데 중요한 역할을 한다. 예를 들어, Agentic AI의 적응형 RAG(Retrieval Augmented Generation) 코어는 검증된 교육과정 자료에 에이전트의 추론을 고정하여 법적·기술적 정확성을 보장한다. 여기에 언러닝 기술이 결합되면, AI는 더욱 정교하게 ‘잊어야 할 것’과 ‘기억해야 할 것’을 구분하여 학습자에게 최적화된 정보를 제공한다.

교사는 AI가 생성하는 지식을 단순히 받아들이는 것이 아니라, AI의 ‘기억’에 대한 통제권을 확보하고 이를 교육적으로 활용하는 방안을 모색해야 한다. AI 거버넌스 플랫폼의 개념처럼, 교실에서 활용되는 AI 시스템에 어떤 정보가 학습되고, 어떤 정보가 제거되어야 하는지에 대한 기준을 설정한다. 예를 들어, 특정 학습 목표에 불필요하거나 학습자의 오개념을 유발할 수 있는 정보는 AI가 ‘잊도록’ 설계한다. 반대로 핵심 개념이나 비판적 사고를 촉진하는 정보는 ‘더 강하게 기억하도록’ 유도한다.

최병호 고려대 AI연구소 교수는 “AI의 기억은 지금도 중요하지만 앞으로는 절대적인 요소가 될 것”이라며 “무엇을 남기고 어떻게 저장할지가 핵심 과제가 될 것”이라고 언급한다. 이러한 관점은 교육 현장에 중요한 시사점을 던진다. 교사는 AI가 지식을 ‘망각’하는 능력을 활용하여, 학습자가 불필요한 정보의 과부하에서 벗어나 핵심에 집중하고, 자신에게 맞는 학습 경로를 구축하도록 지원한다. AI의 통제 가능성이 높아질수록, 교사는 더욱 섬세하게 학습자의 근접발달영역(ZPD)에 맞는 비계를 설정하고, 효과적인 학습 경험을 설계하는 데 집중한다.

토의 활동 AI가 특정 학습자의 맥락을 ‘잊거나’ ‘기억하지 않도록’ 설계하는 것이 교육적으로 어떤 장점과 위험을 가질까? 파트너와 5분간 이야기 나눈다.

핵심 정리 AI 언러닝 기술은 교사가 AI의 지식 생성과 비계 설정을 더욱 정교하게 통제할 가능성을 연다.

3. AI 천재 시대, 교사의 역할과 기억의 재정의

“미래는 우리가 무엇을 알지에 관한 것이 아니다. 미래는 우리가 무엇을 이해하고, 무엇을 창조할지에 관한 것이다.”

AI가 방대한 지식을 거의 완벽하게 ‘기억’하고 활용하는 시대가 도래한다. 이처럼 강력한 AI 앞에서, 교사는 학생들에게 ‘무엇을 기억하게’ 하고 ‘무엇을 잊게’ 가르쳐야 하는가? 단순히 지식을 축적하는 것을 넘어, 진정으로 의미 있는 학습이란 무엇인가?

토론토 대학의 아자이 아그라왈, 조슈아 갠스, 아비 골드파브 교수가 발표한 <주문형 천재: 변혁적 인공지능의 가치> 논문은 이 질문에 대한 중요한 통찰을 제공한다. 이 연구는 지식 노동자를 ‘일반 노동자’와 ‘천재 노동자’로 구분하고, AI 천재의 등장이 지식 지형을 어떻게 변화시키는지 분석한다. AI 천재는 인간 천재와 유사한 능력을 가졌으나, 희소하지 않고 거의 무한하게 공급될 수 있는 주문형 천재이다. 이들이 등장하면서 기존에 인간 천재들이 맡았던 ‘지식의 경계’ 영역 문제들을 순식간에 해결하기 시작한다. 결국 소수의 인간 천재들은 AI조차 아직 해결하지 못하는, 가장 멀고 새롭고 창의적인 ‘최전선(Frontier)’의 문제로 밀려난다.

이러한 변화는 교육에서 ‘무엇을 가르칠 것인가’에 대한 근본적인 질문을 던진다. AI가 기억의 한계 없이 방대한 지식을 소화하고 필요한 정보를 즉시 찾아내는 능력을 갖춘다면, 학생들이 단순히 정보를 암기하거나 기존 지식을 적용하는 능력은 그 가치가 상대적으로 줄어든다. AI 언러닝이 ‘무엇을 남겨야 하는가’를 기술적으로 다루는 것처럼, 교사는 학습자의 ‘선택적 기억’을 어떻게 지도할 것인지에 대한 교육적 해법을 찾아야 한다.

지식의 양이 폭발적으로 늘어나는 월드 모델 환경에서는 ‘무엇을 기억하고 어떻게 저장할지’가 AI와 인간 모두에게 핵심 과제가 된다. 이는 교사에게도 마찬가지이다. 교사는 더 이상 지식의 단순한 전달자가 아니다. 오히려 학습자가 넘쳐나는 정보 속에서 어떤 지식을 선택적으로 기억하고, 어떤 지식을 과감하게 잊어버리며, 어떤 지식을 재구성하여 새로운 의미를 창출할지 탐색하도록 돕는 ‘기억의 큐레이터’이자 ‘지식의 탐험 안내자’가 된다.

이러한 새로운 역할은 교사가 학생들에게 비판적 사고, 문제 해결 능력, 창의성, 그리고 무엇보다 ‘무의미한 정보를 잊고 의미 있는 정보에 집중하는 능력’을 가르쳐야 함을 의미한다. 학생들이 AI를 활용하여 ‘지식의 경계’ 문제를 해결하는 동시에, 인간만이 접근할 수 있는 ‘최전선’의 문제를 상상하고 도전할 수 있도록 돕는 것이 교사의 중요한 임무가 된다. AI의 망각 능력은 인간 학습자가 진정으로 ‘기억해야 할 것’에 대한 성찰을 촉진하며, 교육의 초점을 지식의 양에서 지식의 ‘질’과 ‘활용 능력’으로 옮겨 놓는다.

핵심 정리 AI 시대에 교사는 단순한 지식 전달자를 넘어, 학습자가 ‘무엇을 기억하고 잊을지’를 탐색하고 의미를 부여하는 안내자가 된다.

4. 기억과 망각, 새로운 교육의 지평을 열다

AI의 언러닝 기술은 단순한 기술적 제어를 넘어선다. 이는 AI와 인간의 관계, 그리고 지식의 본질에 대한 근원적인 성찰을 요구한다. AI가 ‘기억을 지울 수 있다’는 사실은 AI를 우리가 원하는 방향으로 통제할 수 있는 가능성을 열어주지만, 동시에 ‘무엇을 지워야 하는가’에 대한 윤리적, 교육적 질문을 던진다. 교실의 AI 활용은 단순한 도구 적용을 넘어선다. 학습 내용과 방식, 심지어 교육의 목표 자체를 재고하게 한다.

선택적 망각은 AI에게만 적용되는 개념이 아니다. 정보 과부하 시대에 살아가는 인간에게도 필요한 능력이다. 우리는 매일 엄청난 양의 정보에 노출되며, 이 모든 것을 기억하는 것은 불가능하고 비효율적이다. 중요한 것은 무엇을 선택적으로 기억하고, 무엇을 의도적으로 잊거나 재구성하여 새로운 의미를 만들 것인가이다. 교육은 이 ‘기억과 망각의 균형’을 어떻게 가르칠 것인가에 대한 답을 찾아야 한다. AI의 망각 기술은 역설적으로 인간의 ‘의미 있는 망각’ 능력의 중요성을 일깨운다. 학생들은 단순히 정보를 축적하는 것을 넘어, 정보의 가치를 판단하고, 불필요한 것을 걸러내며, 자신만의 지식 체계를 구축하는 능력을 길러야 한다. 이 과정에서 교사는 학습자의 길잡이이자 촉진자로서 그 역할을 재정의한다.

앞으로 교사들은 AI의 기술적 변화, 특히 언러닝과 선택적 망각의 원리를 이해하고, 이것이 교육 현장에 미치는 영향을 전문적 학습 공동체에서 깊이 있게 성찰한다. AI 시대의 ‘핵심 역량’에는 비판적 사고, 문제 해결 능력과 더불어 ‘의미 있는 망각’ 또는 ‘정보 재구성’ 능력을 포함한다.

생각할 질문

교사가 AI의 ‘언러닝’ 원리를 이해하는 것이 학생들의 인지 발달에 어떤 새로운 통찰을 줄까?

우리 학교의 교육과정에서 ‘정보를 선별적으로 잊는 능력’ 또는 ‘재구성하는 능력’은 어떻게 강조되어야 할까?

AI가 개인화된 학습 경험을 제공할 때, 학습자가 의도적으로 ‘잊거나’ ‘무시해야 할’ 정보는 무엇이며, 교사는 이를 어떻게 지도할 수 있을까?

출처

https://www.donga.com/news/Economy/article/all/20260427/133819471/1