LLM은 학습자의 창의성을 어떻게 빼앗지 않으면서 지원하는가?

1. 연구의 목적

(1) 대규모 언어 모델(LLM)은 아이디어 생성과 정교화, 합리화 등 학습자가 스스로 수행해야 할 인지적 작업을 수행할 수 있음. 인간-AI 공동 창작 과정에서 AI가 학습자의 창의적 의사결정을 어떻게 효과적으로 지원할지, 그리고 지원 과정에서 학습자의 주도성과 창의성을 침해하지 않을 메커니즘이 부재함이 문제의식임. 현재의 AI 지원 방식은 학습자의 실제 학습과 성장을 저해할 위험이 존재함.

(2) 이 연구는 교사가 교육 목표에 맞게 LLM의 동작 방식을 명확히 정의하고, 창의적 프로젝트 기반 학습(PBL)에서 AI가 학습자의 인지적 작업과 주도성을 침해하지 않으면서도 효과적인 비계(scaffolding)를 제공하도록 하는 인지-교수학적 프레임워크를 개발함. 궁극적으로 학습자의 주도성과 창의성을 보존하는 AI 지원 명세화 및 구현 방안을 제시함.

2. 연구의 방법

(1) 이 연구는 두 가지 연구 질문에 답하는 방식으로 프레임워크를 개발함. 첫째, 교사의 판단으로 학습자 주도성을 보존하는 AI 비계의 명세(specification)를 어떻게 도출하는가. 둘째, 승인된 AI 지원 명세를 프롬프트 엔지니어링, 정보 검색 증강 생성(RAG), 제어된 활성화, 응답 검증 등을 활용한 LLM 워크플로우로 어떻게 구현하는가에 초점을 맞춤.

(2) 연구는 Viacocrea의 6단계 창의적 프로세스와 브레인스토밍, PPCo(Pluses, Potentials, Concerns, Overcoming concerns)와 같은 창의적 기법을 예시로 활용함. 특히 LLM의 응답이 학습자의 작업을 대신하거나 의사결정을 주도하는 ‘기능적 대치’와 ‘주의적 대치’를 방지하는 데 핵심 노력을 기울임.

3. 주요 발견

이 연구의 핵심은 LLM 지원이 학습자의 인지적 작업과 의사결정을 침해하지 않도록 ‘교사가 주도하는’ 명세화 과정을 제시하는 점임. 이를 위해 인지-교수학적 프레임워크를 제안함.

(1) 프레임워크의 핵심 정의: 교사의 명확한 교육적 판단으로 LLM 지원의 범위와 제약을 결정하는 절차를 제공함. 이는 AI가 창의적 과정에서 학습자의 주도적 역할(아이디어 생성, 평가, 결정 등)을 침범하지 않도록 ‘학습자 주도 작업’과 ‘허용된 AI 지원’ 사이의 명확한 경계를 설정하는 과정임. 이 프레임워크는 단순히 “AI가 도움이 될 수 있다”는 모호한 기대를 “어떤 상황에서 AI는 이 작업을 수행할 수 없고, 이 작업은 지원할 수 있다”는 구체적인 규칙으로 전환함.

그림 1. 인지-교수학적 프레임워크의 구조. 교사가 승인한 활동 명세가 번역 규칙(TR1~TR4)을 거쳐 AI 지원 명세가 되고, 제한된 LLM 워크플로가 이를 적용함.

(2) 활동 명세(Activity specification), 곧 학습자가 무엇을 해야 하는가. 교사가 각 공동 창작 활동에 대해 다음 4가지 요소를 명세함. 이 과정은 교사의 교육적 판단을 AI 지원 설계에 직접 반영하는 통로임.

활동 명세 요소	내용	교사 결정 사항	활동 결과
인지적 및 메타인지적 목표	해당 활동에서 학습자가 수행할 인지적 작업과 자기 조절 과정	현재 과제에서 중요한 인지적 작업과 자기 조절	활동의 목적과 관련 조건
교수학적 목표	활동의 교육적 목적	어떤 지원이 학습에 가장 적합한가	목표 작업과 예상되는 참여
과제 및 그룹 산출물(맥락)	그룹이 현재 작업 중인 과제와 결과물	어떤 학생 작업과 의사결정이 해당 단위에 필요한가	활동의 맥락과 현재 진행 상황
학습자 주도 산출물	학습자가 최종적으로 생산해야 할 결과물	학습자가 주도적으로 통제할 초점과 전환	교사 승인 활동 명세

(3) AI 지원 명세(AI-support specification), 곧 AI가 무엇을 할 수 있는가. 위 활동 명세를 바탕으로, 다음 4가지 ‘번역 규칙(Translation Rule, TR)’을 적용하여 AI의 허용된 지원 방식을 도출함.

규칙	활동 명세(입력)	번역 내용	AI 지원 명세(출력)
TR1	인지적 및 메타인지적 목표	지정된 창의적 작업과 그룹 주도 모니터링을 권장함. 단, 결과물을 제공하거나 규제적 선택을 대신하지 않음.	지원 목표 (허용된 조치)
TR2	교수학적 목표	허용된 구조화 또는 문제 제기 방법을 선택함. 도움 요청 또는 제공 시기를 명시함.	AI 역할 및 시기 (트리거 정책)
TR3	과제 및 그룹 산출물(맥락)	학습자가 작업하는 세트, 항목, 관계, 근거에 피드백 범위를 제한함. 학습자가 주도할 초점을 선택하지 않음.	피드백 범위
TR4	학습자 주도 산출물	학습자가 구성해야 할 것과 그룹이 내릴 의사결정을 대신하는 것을 금지함. 교사 승인 예외는 기록함.	행동 제약 (금지 사항)

이 프레임워크는 ‘기능적 대치(functional substitution)’와 ‘주의적 대치(attentional substitution)’를 명확히 금지함. 기능적 대치는 AI가 아이디어, 비교, 근거 등을 직접 제공하여 학습자의 창의적 작업을 대신하는 것을 의미함. 주의적 대치는 AI가 그룹의 초점, 기준, 다음 단계를 선택함으로써 학습자의 의사결정권을 빼앗는 것을 의미함. AI가 질문 형태로 지원을 제공할 때도 이 두 가지 대치가 발생할 수 있기에, 지원의 ‘형태’보다 ‘기능’과 ‘의도’에 주목하는 점이 핵심임.

(4) 제한된 LLM 워크플로우(Constrained LLM workflow): 이렇게 정의된 활동 및 AI 지원 명세는 ‘활동 계약(activity contract)’이라는 기계 판독 가능한 형태로 전환됨. 이 계약은 컨트롤러에 의해 다음과 같이 작동함.

• 입력 선별: 학생 요청과 피드백 제안을 받기 전 입력 텍스트를 검사함.
• 적격성 확인: 현재 활동에 맞는 활동 계약을 선택하고, 도움 요청 및 제공이 적절한 시점인지 확인함.
• 프롬프트 엔지니어링 및 RAG: 활동 계약과 승인된 교수학적 지침을 LLM에 전달하여 응답 초안을 생성함.
• 응답 검증: 생성된 응답 초안은 다음 3단계 검증을 거침.
  • 형식 검사(G2): 지정된 언어, 구조, 승인된 출처 식별자 사용 여부를 확인함.
  • 기능 검사(G3): 별도의 LLM 심사관이 학습자 주도 작업 및 그룹의 의사결정을 침해하는지 6가지 기준으로 평가함. 이는 기능적 대치 및 주의적 대치 발생 여부를 확인함.
  • 안전 및 최종 재확인: 유해한 내용이 없는지 확인하고, 활동 및 관련 항목이 여전히 유효한지 확인함.
• 배포 또는 보류: 검증을 통과한 응답만 학습자에게 전달되고, 실패하거나 불확실한 응답은 보류함.

이 워크플로우는 교사가 사전에 설정한 규칙과 기준에 따라 LLM의 행동을 자동적으로 제어하여, 학습자의 주도성을 보호하면서도 필요한 시점에 적절한 지원을 제공함.

(5) 구체적 지원 예시: 브레인스토밍(아이디어 생성) 활동과 PPCo의 걱정(Concerns) 단계(문제점 제시 및 우선순위 결정)에서 LLM의 지원이 어떻게 달라지는지를 명확히 보여줌. 브레인스토밍에서는 ‘다양한 종류의 가능성을 탐색하도록 유도하는’ 질문이 허용되지만, 특정 아이디어를 제안하거나 순위를 매기는 것은 금지됨. PPCo에서는 ‘그룹이 스스로 어떤 질문에 먼저 답할지’를 묻는 것은 허용되지만, 특정 걱정거리를 제안하거나 우선순위를 대신 정해주는 것은 금지됨.

활동 및 판단	구성된 응답 예시	적합성 판단
브레인스토밍: 위반	“학교 전체 대회를 추가하고 그것을 주요 방향으로 삼는 것은 어떠한가?”	아이디어를 제공하고 아이디어 생성 중에 그룹의 초점을 선택함.
브레인스토밍: 허용	“당신들이 나열한 다양한 종류의 가능성은 무엇이며, 그룹은 또 무엇을 탐색할 수 있을까?”	그룹이 아이디어를 명명하거나 순위를 매기지 않고, 스스로 자신의 아이디어를 검토하고 확장하도록 유도함.
PPCo 걱정: 위반	“비용이 가장 먼저 다뤄야 할 걱정거리가 아닐까, 예를 들어 보조금을 신청해서 해결하는 방법은 어떤가?”	걱정거리를 제공하고 우선순위를 정하며, 그룹에 할당된 해결책을 제안함.
PPCo 걱정: 허용	“그룹의 걱정 질문 중 어떤 것을 먼저 다룰 것이며, 그 이유는 무엇인가?”	그룹이 스스로 질문의 우선순위를 정하도록 유도함.

이러한 예시는 LLM 지원이 문법적 형태보다는 그 기능적 역할에 따라 판단되어야 함을 분명히 보여줌.

4. 결론 및 시사점

(1) 이 연구는 LLM이 창의적 프로젝트 기반 학습에서 학습자의 대리인 역할을 수행하지 않도록 교육적 통제를 가하는 명확한 프레임워크를 제공함. 핵심은 교사가 활동의 인지적, 메타인지적, 교수학적 목표를 명세하고, 이를 바탕으로 LLM의 허용된 지원 범위와 금지 사항을 구체적으로 정의하며, 이 명세가 워크플로우를 통해 엄격하게 적용됨을 입증함. 단순히 “LLM이 도움을 준다”는 막연한 기대에 머물지 않고 “어떤 도움이 어떤 조건에서 허용되고 금지되는가”를 교육적으로 명확히 규정함.

(2) 이 프레임워크는 교육 현장에 LLM을 도입할 때 학습자 주도성과 창의성을 보존하는 실질적 가이드라인을 제시함. 교사는 재사용 가능한 활동 명세와 AI 지원 명세를 바탕으로 수업 설계 부담을 줄이면서도, AI가 학습자의 중요한 인지적 작업과 의사결정을 침탈하지 않도록 통제할 수 있음. 이는 AI가 단지 효율성을 위한 도구가 아니라, 학습자의 심층 학습을 촉진하는 ‘교수학적 도구’로 자리매김하는 전제 조건임.

(3) AI 설계 관점에서는 LLM을 단순히 콘텐츠 생성기로 사용하는 것이 아니라, 교육적 제약 조건을 내재화한 ‘인간 중심 AI’ 시스템으로 발전시키는 방향을 제시함. 프롬프트 엔지니어링, RAG, 엄격한 검증 시스템은 LLM의 예측 불가능성을 줄이고, 교사의 의도가 시스템에 일관되게 반영되도록 하는 중요한 기술적 시사점을 가짐. 이로써 AI는 더 이상 “무엇이든 답하는” 도구가 아닌, “교육적으로 승인된 방식으로만 답하는” 정교한 학습 보조자로 전환됨.

5. 리뷰어의 ADD(+) One: 생각 더하기

(1) 이 논문에서 가장 주목할 지점은 ‘기능적 대치’와 ‘주의적 대치’라는 두 가지 형태의 AI 개입을 명확히 구분하고 이를 방지하는 데 초점을 맞춘 점임. 기존 논의는 AI가 학습자의 답을 직접 제공하는 ‘해결책 대치’에 주로 집중했음. 그러나 이 연구는 AI가 아이디어를 슬쩍 흘리거나(기능적 대치), 심지어 질문의 형식으로 학습자의 초점이나 다음 단계를 결정해버리는(주의적 대치) 미묘한 침해까지 고려함. 이는 AI가 창의적 과정의 본질인 ‘미완성’, ‘모호성’, ‘탐색’을 빼앗아갈 수 있다는 통찰을 제공하며, LLM이 단순히 ‘힌트’를 주는 데서 그치지 않고 학습자의 ‘사고 흐름’까지 조종할 위험을 날카롭게 지적하는 지점임.

(2) 논문이 명시하지 않은 더 넓은 의미를 짚자면, 이 연구는 ‘인지 부하 이론’과 ‘자기 조절 학습’ 맥락에서 AI의 역할을 재정의하는 교육 철학적 의미를 지님. 인지 작업을 외부 도구에 넘기는 것을 ‘인지적 오프로딩(cognitive offloading)’이라 부르는데, AI가 학습자가 직접 해야 할 본질적인 인지 작업까지 떠맡으면 이 오프로딩이 학습을 깎아 먹음. 이 프레임워크는 인지 부하를 줄이는 데서 멈추지 않고 ‘어떤 인지 작업은 의도적으로 학습자에게 남겨두어야 하는가’에 대한 질문을 던짐. 이는 AI 시대의 교육이 지식 전달보다 ‘생각하는 방법’을 가르치는 데 집중해야 한다는 근본적인 메시지를 던짐.

(3) 이 연구를 발전시킬 구체적 아이디어는 다음과 같음.

• 첫째, ‘교사 워크로드 경감’을 위한 AI 기반 명세화 도구 개발임. 현재 프레임워크는 교사의 상세한 명세 작업을 요구함. 과거 수업 계획서, 교육 목표, 루브릭 등을 학습한 LLM이 활동 명세 초안을 제안하고, 교사가 이를 검토 및 수정하여 최종 승인하는 ‘교사-AI 협업 명세화 도구’ 개발이 필요함.
• 둘째, ‘학습자 맥락’을 고려한 동적 AI 지원 제어 메커니즘 개발임. 현재는 교사가 활동 단위로 지원을 명세하지만, 학습자의 숙련도, 사전 지식, 팀 역동성 등 개별 맥락에 따라 AI 지원의 강도와 종류를 실시간으로 조절하는 더욱 고도화된 ‘적응형 비계’ 모델 구현이 과제임. 이는 AI가 정해진 규칙만 따르지 않고 학습자와 상호작용하며 ‘최적의 학습 궤적’을 찾아가는 시스템으로 발전함을 의미함.

6. 추가 탐구 질문

(1) 이 프레임워크가 제시하는 명세화 과정은 교사의 높은 전문성과 상당한 준비 시간을 요구함. 실제 교육 현장에서 교사들이 이러한 상세한 명세화를 지속적으로 수행할 현실적 가능성은 어떠하며, 교사의 부담을 줄이면서도 프레임워크의 교육적 품질을 유지할 방법은 무엇인가?

(2) 이 연구는 주로 PBL의 창의적 활동에 초점을 맞춤. 다른 교과(예: 언어 학습, 과학 탐구, 역사 분석)나 다른 연령대(예: 초등 저학년, 고등학생, 성인 학습자)의 맥락에서 ‘학습자 주도 작업’의 정의와 ‘AI 지원의 경계’는 어떻게 달라져야 하는가?

(3) LLM의 지원을 받는 환경에서 학습자들이 ‘기능적 대치’나 ‘주의적 대치’ 없이 창의적 작업을 수행한 후, AI의 도움 없이 유사한 작업을 수행할 때 ‘독립적 수행 능력’이 실제로 향상됨을 어떻게 측정하고 입증할 것인가?

출처

• Ul Haq, I. (n.d.). A pedagogically guided LLM framework for scaffolding human–AI cocreation and preserving learners’ agency and creativity. Preprint – under review.