654 ／ 660
AI는 교육에서 대체재인가, 비계인가? 학습자 역량 강화를 위한 설계 원칙
1. 연구의 목적
(1) AI가 교육 현장에 빠르게 도입됨에도 그 영향에 대한 이해는 부족함. 특히, AI가 인간의 노력을 대체할 때, 교육이 길러야 할 핵심 역량인 비판적 사고, 주체성, 판단력을 침식할 수 있다는 우려가 존재함. 이는 교육의 본질적 목표와 AI 기술 간의 불일치로 이어질 수 있음.
(2) 이 연구는 AI의 잠재적 위험을 인지, 주체성, 정서적 웰빙, 윤리의 네 가지 상호 연관된 차원으로 분석하는 통합적 프레임워크를 제시함. 학습자의 관점에서 이러한 위험을 확인하고, AI가 학습자의 노력을 대체하는 역할에 머무르지 않고 학습 역량을 강화하는 ‘비계(scaffolding)’ 역할을 하도록 만드는 설계 원칙을 도출하는 데 핵심 목표가 있음.
2. 연구의 방법
(1) 이 연구는 이론적 검토와 실제 학습자의 관점을 결합하는 질적, 탐색적 접근 방식을 사용함. AI가 가져올 수 있는 잠재적 해악을 설명하는 ‘자기 강화적 해악 순환(self-reinforcing harm cycle)’ 프레임워크를 제안함.
(2) 스위스 소재 3개 학교의 인터내셔널 바칼로레아(IB) 학생 49명이 ‘AI 사용이 학습의 의미를 어떻게 변화시키는가?’라는 질문에 대해 작성한 논쟁적 에세이를 주요 분석 대상으로 삼음. 학생들의 첫 초고를 분석하여 AI 의존이 인지, 주체성, 정서, 윤리 측면에 미치는 영향을 탐색함. 이 코호트는 특정 교육 환경을 대표하며, 통계적 일반화보다는 설명적 사례에 중점을 둠.
3. 주요 발견
이 연구는 AI의 대체 역할이 학습자 역량을 침식하는 자기 강화적 해악 순환 개념을 제시함. 이 순환은 인지적 오프로딩, 주체성 약화, 정서 및 윤리적 피해 심화로 이어짐.
(1) 자기 강화적 해악 순환 프레임워크: AI와 학습 역량의 불일치
이 연구가 제안하는 프레임워크는 AI가 인간의 노력을 대체할 때 발생하는 부정적 영향이 어떻게 상호 연결되어 악순환을 형성하는지 설명함. 이 순환은 네 가지 차원을 포괄하며, 이는 교육의 본래 목표와 AI 기능 간의 간극에서 기인함.
-
핵심 정의: AI가 인간의 노력을 대체하면, 학습자가 스스로 사고하고 판단하는 능력이 점진적으로 약화되며, 이는 다시 AI에 대한 의존도를 높이는 결과를 초래함.
-
구성 요소 및 작동 방식:
- 인지적 오프로딩: AI가 사고 노력을 줄여 표면적 학습과 비판적 사고 능력을 약화함.
- 주체성 약화: AI 의존이 학습자의 자율적 선택, 독립적 문제 해결 능력을 침식함.
- 정서적 웰빙 감소: AI 의존과 주체성 약화가 스트레스, 낮은 자존감, AI 죄책감 등을 유발함.
- 윤리적 문제 심화: 데이터 프라이버시 침해, 과신, 학업 무결성 훼손으로 이어짐.
-
순환의 메커니즘: 인지적 오프로딩은 노력적인 추론 기회를 줄이고, 줄어든 노력은 과신과 환상적 학습에 기여함. 과신은 학습자 주체성을 약화하고, 주체성 약화는 불안감, 낮은 자기 효능감, 의존성과 같은 정서적 해악을 심화함. 이러한 개인 수준의 효과는 감시, 불투명한 데이터 관행, 불분명한 제도적 규범 등 윤리적·구조적 요인으로 증폭됨. 학습자들은 자신의 능력에 대한 자신감을 잃고, 비판적 평가에 덜 참여하며, 알고리즘적 권위에 점점 더 의존하게 됨.
(2) 인지적 오프로딩과 바람직한 어려움의 상실
학생들의 에세이 80%는 AI 의존이 사고 과정을 감소시킨다고 명시적으로 언급함. 한 학생은 “지식은 얻어지지 않고 도착하며, 얻어지지 않은 지식은 오래 머물지 않는 경향이 있다”고 경고함.
- 핵심: AI가 즉각적인 답을 제공하면, 학습에 필수적인 바람직한 어려움(desirable difficulty)이 사라짐. 인지적 고군분투는 깊은 이해와 장기 기억, 전이 가능한 지식 습득에 필수적임. 그러나 AI는 학습자에게 낮은 노력으로 표면적 만족감을 주는 경향이 있음.
- 영향: AI는 학습자의 비판적 사고를 약화하고, 정신적 노력을 줄이며, 독립적 사고, 기억, 창의성, 동기 부여를 저해함. 대규모 연구에서도 AI에 대한 높은 의존도가 인지적 오프로딩을 매개로 비판적 사고 능력 저하와 상관관계가 있음을 보여줌.
(3) 학습자 주체성 약화와 과신(Overtrust) 문제
49개 에세이 중 43개(88%)에서 주체성 약화가 나타나며, 이는 주로 독립적인 노력의 침식으로 드러남. 한 학생은 “AI가 항상 더 빠르고 더 잘할 것이라고 생각했기 때문에 뇌를 사용해 생각할 필요성을 느끼지 못했다”고 표현함.
- 핵심: AI의 편리함과 설득력 있는 결과는 학생들의 의도적, 자율적 선택 능력을 침식함. 과도한 의존은 독립적 문제 해결, 의사 결정, 비판적 평가 능력을 저해하며, 메타인지와 지적 자율성까지 해침.
- 과신: AI 도구의 겉보기 신뢰성과 인간과 유사한 제시 방식은 학생들이 비판 없이 결과물을 수용하도록 유도함. 이러한 인지적 위임(cognitive surrender)은 평가적 사고, 깊은 학습, 개인 의사 결정에 대한 자신감을 감소시킴.
(4) 정서적 웰빙 감소 및 윤리적 도전
정서는 학생 에세이에서 가장 드물게 나타난 주제였지만, AI 사용의 양면성을 보여줌. 한 학생은 AI가 “자신감을 얻고 어려운 과목을 계속 학습하는 데 도움이 될 수 있다”고 하면서도, “잘못된 자신감과 고립”의 위험을 언급함.
- 정서적 영향:
- 테크노 스트레스 및 디지털 피로: 불투명하고 빠르게 진화하는 AI 시스템에 대한 적응 부담은 불안감과 인지 과부하로 이어짐. AI가 대부분의 학습 상호작용을 매개할 때 의미 있는 사회적 연결 기회가 줄어들어 디지털 피로와 무관심이 발생할 수 있음.
- 낮은 자존감과 자기 효능감: AI에 대한 과도한 의존은 자신감을 떨어뜨리고, 이는 다시 AI 의존도를 높이는 악순환을 만듦. 학습자가 AI를 자신보다 본질적으로 우월하다고 인식하면 동기, 창의성, 독립적 사고가 침식될 수 있음.
- AI 죄책감 또는 권리 의식: 많은 학생이 AI 사용이 진정성, 노력, 학업 무결성 가치와 충돌할 때 불편함, 수치심, 불안감을 경험함. 반대로 일부 학생은 AI 지원을 당연한 권리로 인식하는 ‘AI 권리 의식’을 보이기도 함.
- 윤리적 영향:
- 프라이버시 침해 및 데이터 착취: AI 교육 도구는 지속적인 데이터 수집에 의존하여 학생 데이터의 프라이버시 문제를 야기함. 학생들은 자신의 데이터가 어떻게 수집, 저장, 수익화되는지 이해하기 어려워 학습자, 기관, 기술 제공자 간의 심각한 권력 불균형을 초래함.
- 학업 무결성 위협: 명확한 지침이 없을 때 학생들은 AI 도구를 지름길로 활용하여 표면적 참여, 미루기, 학업 무결성을 훼손하는 관행을 조장함. AI 보조 작업이 원본 작업과 구별하기 어려워지면서 표절 감지 및 평가 기준에 도전이 발생함.
(5) 학생들이 원하는 AI: 대체 대신 비계 제공
학생들은 즉답을 주는 대신, 질문하고, 회상을 유도하며, 성찰을 장려하는 AI를 원한다고 밝힘. 이는 학습 과학의 확립된 원칙과 놀랍도록 일치함. 49개 에세이 중 26개(53%)가 사고를 대체하는 것이 아닌, 지원하는 행동을 구체적으로 언급함.
- 학생들은 해답을 즉시 제공하지 않고 비판적 질문을 던지며, 개선점에 대한 아이디어를 제공하지만 정답을 주지 않는 AI를 요구함.
- 능동적 회상(active recall)을 유도하여 주제에 대한 근본적인 질문을 던지고 학생들이 스스로 설명하고 답하도록 하는 AI를 원함.
- 다양한 관점을 볼 수 있도록 대안적 설명을 제공하는 AI를 가치 있게 평가함.
- 이러한 요구는 노력적인 회상, 생산적 고군분투, 질문 등 오래 지속되는 이해와 연결되는 조건을 학생들이 직관적으로 인식하고 있음을 의미함.
(6) 핵심 설계 원칙: ‘대체하지 말고 비계를 제공하라(scaffold, do not substitute)’
학생들의 통찰과 학습 과학 원칙을 바탕으로, 이 연구는 ‘대체하지 말고 비계를 제공하라’는 단일 설계 원칙을 제안함. 이는 AI 시스템이 인간의 사고를 약화시킬지, 아니면 강화할지를 결정하는 더 넓은 과제를 의미함.
4. 결론 및 시사점
(1) AI가 교육에서 가져오는 핵심 위험은 기술적 실패가 아닌, 교육의 사회적, 교육적, 시민적 목적과의 불일치임. AI는 인간의 노력, 판단, 상호작용을 대체할 때 교육이 목표로 하는 역량을 약화시키고, 비계를 제공할 때 역량을 강화함.
(2) 교육 현장과 AI 설계에 주는 시사점은 명확함.
- AI 시스템 설계자: ‘대체 대신 비계 제공’ 원칙을 최우선으로 고려해야 함. 이는 즉답을 주지 않고, 질문을 던지며, 불확실성을 제시하고, 대안적 관점을 제시하여 비판적 사고를 유도하는 AI를 개발함을 뜻함. AI는 인간이 무엇을 생산할 수 있는지가 아니라, AI가 인간이 무엇을 개발하도록 돕는지(이해, 판단력, 주체성, 독립적 사고 능력)를 측정하는 방향으로 나아가야 함.
- 교육자, 기관, 정책 입안자: 학습이 일어나는 조건(생산적 고군분투, 성찰, 지적 주체성)을 보존하는 과제, 평가, 조달 결정 및 거버넌스 구조를 만들어야 함. 학습자를 지능형 시스템에 최적화하는 것이 아니라, 학습자가 주변 세계를 질문하고, 이해하며, 책임감 있게 형성할 수 있도록 돕는 시스템을 구축하는 것이 목표임.
(3) 이 연구의 중요성은 교실 밖으로도 확장됨. 교육이 육성하고자 하는 역량(비판적 사고, 자율성, 정서적 회복력, 정당한 신뢰)은 민주 사회가 정보의 오염, 조작 및 점점 더 복잡한 결정을 헤쳐나가는 데 필요한 역량과 정확히 일치함. 학습 과정에서 이러한 역량을 약화하는 AI는 시민 생활에서도 그 역량을 약화할 위험이 있음.
5. 리뷰어의 ADD(+) One: 생각 더하기
(1) 이 논문에서 가장 주목할 지점은 AI의 위험을 단순히 기술적 또는 윤리적 문제로 분리하지 않고, 인지, 주체성, 정서, 윤리의 네 가지 차원이 상호 작용하며 학습자의 역량을 침식하는 ‘자기 강화적 해악 순환’으로 통합한 점임. 기존 논의가 파편화된 위험에 초점을 맞췄다면, 이 연구는 AI의 대체 기능이 어떻게 전방위적으로 학습 경험을 해치는지를 구조화된 프레임워크로 보여줌. 더 나아가, 학생들이 실제 에세이에서 AI에 대한 구체적인 비판과 함께 ‘어떤 AI가 필요한가’에 대한 명확한 비전을 제시한다는 점에서 실용적 가치가 매우 높음. 이는 위험을 경고하는 데서 그치지 않고 사용자 중심의 대안적 AI 설계 방향을 제시함.
(2) 논문이 명시하지 않은 더 넓은 의미를 보자면, 이 연구는 AI가 교육에 미치는 영향이 단순히 효율성 증진이나 정보 습득 방식의 변화에 그치지 않고, 인간의 본질적 사고 과정과 존재 방식에 근본적인 질문을 던지는 문제임을 시사함. 인지과학의 ‘바람직한 어려움’ 원칙은 AI가 편리함을 제공하더라도 인간의 정신적 근육을 단련하는 ‘고통스러운’ 과정이 필수적임을 강조함. 또한, 교육철학적 관점에서 학습자 ‘주체성’의 재정의와 ‘자기조절학습’ 환경 조성이 디지털 시대 시민성 교육의 핵심 과제임을 보여줌. AI가 단순 도구가 아닌 ‘사고의 매개체’가 됨에 따라, 기술이 인간을 돕는 방식에 대한 근본적인 성찰이 필요하며, 이는 사회 전체의 민주적 역량 강화와도 직결됨.
(3) 이 연구를 발전시킬 구체적 아이디어를 제안함.
- AI 기반 메타인지 코칭 에이전트 개발: 학생의 학습 진행 상황과 사고 과정을 실시간으로 분석하고, 특정 지점에서 ‘왜 이런 결론에 도달했는가?’, ‘다른 해결책은 없는가?’, ‘이 정보가 얼마나 신뢰할 만한가?’와 같은 소크라테스식 질문을 던지는 대화형 AI를 구축함. 챗봇은 정답을 직접 제공하지 않고, 학생이 스스로 답을 탐색하도록 심화 질문과 힌트만 제공하여 메타인지적 성찰을 유도함. 이 에이전트는 학생의 정서적 반응(좌절, 불안 등)을 감지하여 적절한 격려 메시지를 제공하는 기능을 포함할 수 있음.
- ‘AI 활용 윤리’ 내러티브 기반 시뮬레이션 교육 콘텐츠: 학생들이 AI를 사용하면서 겪을 수 있는 ‘죄책감’이나 ‘권리 의식’과 같은 정서적 딜레마를 다루는 인터랙티브 스토리나 시뮬레이션을 개발함. 가상의 학업 상황에서 AI 사용 여부와 방식에 대한 선택을 내리고, 그 선택이 개인의 학습 경험과 학업 무결성, 동료 학습자에게 미치는 영향을 체험하도록 함. 이를 통해 학생들은 책임감 있는 AI 활용법을 내면화하고, AI 시대의 윤리적 판단력을 기름.
- 교사용 ‘AI 비계 활용 가이드라인 및 워크숍’ 개발: 교사가 AI를 단순한 대체재가 아닌 효과적인 비계 도구로 활용할 수 있도록 구체적인 교육 자료와 연수 프로그램을 제공함. 이는 AI를 활용한 과제 설계 예시, 생산적 고군분투를 유도하는 프롬프트 엔지니어링 기법, AI 생성 결과물에 대한 평가 루브릭, 그리고 교사가 AI 비계를 어떻게 ‘비계’할 수 있는지에 대한 전략(예: AI의 질문이 너무 직접적일 때 교사가 추가 질문으로 더 깊은 사고를 유도하는 방법)을 포함함.
6. 추가 탐구 질문
(1) 이 연구는 주로 IB 학생의 관점을 다룸. 보편적인 교육 환경, 특히 AI에 대한 접근성과 리터러시 격차가 큰 맥락에서 AI의 ‘대체’ 효과는 오히려 학습 접근성을 높이는 순기능을 가질 수 있음. 이런 상황에서 ‘대체’와 ‘비계’의 경계는 어떻게 재정의되어야 하며, AI는 어떤 조건에서 ‘대체’가 아니라 ‘비계’가 될 수 있는가?
(2) AI가 학습자의 ‘생산적 고군분투’를 유도하는 것이 중요하지만, 이 과정에서 발생하는 과도한 좌절감이나 정서적 부담은 학습을 방해할 수 있음. AI는 비계 역할에 더해 학습자의 정서적 웰빙을 고려하여, 적절한 시점에 개입하거나 지지적 피드백을 제공하여 이러한 부담을 어떻게 효과적으로 관리하고 완화할 수 있는가?
(3) AI가 ‘즉답을 주지 않고 질문을 던지는’ 비계 역할을 수행할 때, 그 비계의 ‘질’을 어떻게 평가하고 최적화할 수 있는가? AI가 생성하는 질문의 깊이, 학습자의 사고를 유도하는 효과성, 그리고 개인별 맞춤화 수준을 측정하는 구체적인 지표는 무엇이며, 교사의 개입 없이 AI만으로 충분한 질적 비계가 가능한가?
출처
이 논문의 arXiv ID와 DOI가 확인되지 않았다.
- Favero, L., Pérez-Ortiz, J. A., Käser, T., & Oliver, N. (2026). From Substitution to Scaffolding: Breaking the Self-Reinforcing Harm Cycle of AI in Education (and Beyond). Preprint.