AI 신뢰가 비판적 사고를 잠식하는가: 지식 노동자 936건 사용 사례 분석
1. 연구의 목적
(1) 생성형 AI(GenAI)는 지식 노동의 도구를 넘어 사고의 방식 자체를 바꾸고 있음. 이 편리함의 이면에는 ‘인지적 오프로딩(cognitive offloading)’의 우려가 있음. AI가 인지적 노력을 대신하는 만큼, 스스로 판단하고 검증하는 비판적 사고 능력이 약화될 수 있다는 것임. 기존 논의는 이 우려를 주로 실험실 환경이나 이론적 추론에 기대어 다루었고, 실제 업무 현장에서 지식 노동자가 GenAI를 쓸 때 비판적 사고가 언제·어떻게 발현되는지에 대한 실증 데이터는 부족했음.
(2) 이 연구는 현장의 지식 노동자를 직접 조사해 GenAI 사용이 비판적 사고에 미치는 영향을 규명함. 특히 인지적 노력의 증감, 그리고 사용자의 두 가지 ‘확신’—AI에 대한 신뢰와 자기 능력에 대한 확신—이 비판적 사고를 어떻게 상반된 방향으로 움직이는지에 초점을 맞춤. 이를 통해 AI 시대의 인지 역설을 진단하고, 도구 설계와 교육 현장에 적용 가능한 시사점을 도출함을 목표로 함.
2. 연구의 방법
(1) 이 연구는 다양한 직군의 지식 노동자 319명을 대상으로 한 설문 조사를 기반으로 함. 응답자들은 업무 중 실제로 GenAI를 사용한 사례 936건을 제출하고, 각 사례에서 비판적 사고를 얼마나·어떻게 발휘했는지, 그리고 AI 사용으로 인지적 노력이 늘었는지 줄었는지를 보고함.
(2) 비판적 사고의 측정에는 블룸의 인지 활동 분류(지식, 이해, 적용, 분석, 종합, 평가)를 활용함. 과제 유형·과제 확신 같은 과제 요인과, GenAI에 대한 신뢰·성찰 성향·직군 등 사용자 요인을 함께 수집해, 어떤 조건에서 비판적 사고가 촉진되거나 억제되는지를 정량 분석함. 동시에 자유 응답을 정성 분석해 비판적 사고가 발현되는 구체적 국면을 포착함.
3. 주요 발견
(1) 비판적 사고는 ‘품질 보증’의 국면에서 발현됨: 지식 노동자는 AI가 생성한 결과물의 품질을 보장하고 자신의 의도가 정확히 반영됐는지 확인할 때 비판적 사고를 발휘한다고 보고함. 이는 세 가지 작업 흐름에서 두드러짐. 목표를 설정하고 프롬프트를 최적화하는 단계, AI 응답을 검토하고 정보를 검증하는 단계, 그리고 응답을 자신의 맥락에 통합·수정하는 단계임. 비판적 사고가 결과물 생성 자체보다 그 앞뒤의 ‘판단’ 지점에 몰려 있다는 뜻임.
(2) AI 신뢰가 높을수록 비판적 사고는 줄어듦: AI가 특정 작업을 잘 수행할 것이라 높게 확신할수록 비판적 사고를 발휘할 가능성이 유의하게 낮아짐(𝛽=-0.69, p<0.001). 편리함에 안주해 결과물을 그대로 수용하는 경향이 강해짐. 문제는 AI가 환각을 일으키거나 편향된 정보를 내놓을 수 있다는 점이며, 이런 무비판적 수용은 오류를 그대로 통과시킴.
(3) 자기 확신이 높을수록 비판적 사고는 늘어남: 반대로 자신이 AI 없이도 그 일을 잘 해낼 수 있다고 확신하는 사람은 비판적 사고를 발휘할 가능성이 높아짐(𝛽=0.26, p=0.026). AI 응답을 평가하는 자기 역량에 대한 확신이 높을수록 비판적 사고 역시 늘어남(𝛽=0.31, p=0.046). 이들은 AI를 정답지가 아니라 자기 전문성을 확장하는 보조 도구로 인식하고, 결과물을 의도적으로 의심하고 검증하며 능동적으로 고쳐 씀. AI에 대한 신뢰와 자기 능력에 대한 확신이 비판적 사고를 정반대 방향으로 당긴다는 점이 이 연구의 핵심 대비임.
(4) 노력의 총량은 줄지만 성격이 이동함: 응답자의 55%에서 79%가 블룸의 여섯 인지 활동 전반에서 AI 사용 후 노력이 ‘적게 들었다’고 보고했고, AI 신뢰가 높을수록 노력 감소는 더 컸음. 그러나 노력이 줄었다는 것이 비판적 사고가 약해졌다는 뜻은 아님. AI가 정보 수집·문제 해결·문서 작성 같은 ‘실행’을 자동화하면서, 인간의 노력은 실행에서 ‘관리(stewardship)’로 자리를 옮김.
| 블룸의 인지 활동 | GenAI 사용 전 주요 노력 | GenAI 사용 후 주요 노력 |
|---|---|---|
| 지식 & 이해 | 정보 수집 | 정보 검증 |
| 적용 | 문제 해결 | AI 응답 통합 |
| 분석, 종합, 평가 | 작업 실행 | 작업 관리(task stewardship) |
지식·이해 단계에서는 정보의 양을 늘리는 수집보다 AI 생성물의 정확성을 판별하는 검증이 중심이 됨. 적용 단계에서는 AI가 제시한 해법을 자기 맥락에 맞게 통합하는 노력이 중요해짐. 가장 고차원인 분석·종합·평가에서는 작업을 직접 실행하기보다 AI 결과물을 감독하고 전체 흐름을 이끄는 관리 역할이 핵심이 됨.
4. 결론 및 시사점
(1) 이 연구의 결론은 GenAI가 효율을 높이는 동시에 비판적 사고의 방식·동기·필요 역량을 근본적으로 재편한다는 것임. AI에 대한 맹목적 신뢰는 인지적 편의를 주지만 비판적 사고를 마비시키고, 자기 능력에 대한 확신은 AI를 사고 확장의 도구로 쓰게 만듦. 즉 비판적 사고를 가르는 것은 도구 자체가 아니라 사용자가 AI를 대하는 태도임.
(2) 개인 차원에서 프롬프트 엔지니어링은 사고 훈련으로 다뤄야 함. 좋은 프롬프트를 쓰는 일은 명령어 요령이 아니라 자기 사고를 구조화하고 AI의 한계를 이해하며 원하는 결과를 정교하게 벼리는 과정임. AI 결과를 일단 ‘틀렸다’고 가정하고 근거를 스스로 찾아 검증하는 습관이 자기 확신을 키우고, 그 확신이 다시 비판적 사고를 끌어올림.
(3) 조직과 교육 현장은 일상적 ‘마찰’을 설계해야 함. 제도의 이름을 붙이기 전에, AI 결과물을 그대로 통과시키지 않도록 작은 검증 루틴을 업무에 심는 편이 효과적임.
- 동료와 굳이 의심하기: AI로 만든 보고서 초안의 핵심 주장과 근거를 팀원끼리 5분간 의도적으로 반박해 봄. “이게 정말 이 상황에 최선인가, 다른 관점은 없는가”를 묻는 짧은 대화가 무비판적 수용을 끊음.
- 교사의 AI 자료 편향 찾기: 동료 교사끼리 AI가 만든 학습 자료의 숨은 편향이나 일반화 오류를 정기적으로 점검함. “이 설명이 우리 학생에게 맞는가, 특정 문화를 배제하지 않는가” 같은 구체적 질문이 필요함.
- 학습자의 AI 결과물 재구성: 학생이 AI로 초안을 만든 뒤 그것을 재구성하거나 더 설득력 있게 고치도록 과제를 냄. 제출 자체가 아니라 AI와 협력해 자기 가치를 더하는 과정을 평가함.
5. 리뷰어의 ADD(+) One: 생각 더하기
(1) 이 논문에서 가장 주목할 지점은 ‘신뢰’와 ‘비판적 사고’가 반비례한다는 실증임. 우리는 흔히 신뢰를 좋은 것으로 여기지만, AI에 대한 신뢰는 사고를 멈추게 하는 방아쇠로 작동함. 반대로 자기 능력에 대한 확신은 AI를 더 깊이 파고드는 지렛대가 됨. 결국 문제의 초점은 “AI를 얼마나 믿을 것인가”가 아니라 “AI를 검증할 나의 역량을 어떻게 키울 것인가”로 옮겨감. 이는 AI 리터러시 교육의 무게 중심을 도구 사용법에서 자기 판단 역량으로 이동시켜야 함을 시사함.
(2) 이 연구가 명시하지 않은 더 넓은 함의는 지식 노동의 숙련 경로가 흔들린다는 점임. 과거에는 실행을 반복하며 전문성을 쌓았지만, 실행이 자동화되면 초심자는 ‘검증할 안목’을 기를 실행 경험 자체를 건너뛰게 됨. 신뢰가 비판적 사고를 낮춘다는 발견은, 아직 자기 확신이 얕은 신입일수록 AI를 더 위험하게 소비할 수 있다는 뜻으로도 읽힘. 교실과 신입 교육에서 ‘의도적으로 손으로 해 보는’ 마찰 구간을 어떻게 남길 것인가가 과제가 됨.
(3) 이 연구를 발전시킬 구체적 아이디어는 다음과 같음.
- 인지 오프로딩 감지 장치: AI 도구에 사용자의 검토 시간·수정 깊이·프롬프트 복잡도를 추적해, 무비판적 수용 징후가 보이면 “이 근거를 확인했는가” 같은 검증 프롬프트를 띄우는 개입 기능을 붙임.
- 에피스테믹 마찰 과제: AI에게 일부러 상충하는 두 관점의 초안이나 미세한 오개념이 섞인 자료를 만들게 하고, 학습자가 그 오류를 찾아 교정하도록 설계함. 매끄러운 결과물이 비판을 잠재우는 문제를 정면으로 겨냥함.
- 자기 확신 척도 활용: 사용자가 과제별로 ‘나는 이걸 AI 없이 할 수 있는가’를 스스로 표시하게 하고, 확신이 낮은 과제일수록 검증 스캐폴딩을 더 강하게 제시하는 적응형 지원을 실험함.
6. 추가 탐구 질문
(1) AI에 대한 신뢰가 비판적 사고를 낮춘다는 관계는, 사용 경험이 쌓일수록 완화되는가 아니면 오히려 굳어지는가? 숙련도와 신뢰·비판적 사고의 종단적 변화는 어떤 궤적을 그리는가?
(2) 자기 보고 방식은 실제 비판적 사고의 발현을 얼마나 정확히 포착하는가? 상호작용 로그·수정 이력 같은 행동 데이터로 측정하면 신뢰-비판적 사고의 관계는 동일하게 나타나는가?
(3) 교사·의료인·개발자처럼 오판의 대가가 큰 직군과 그렇지 않은 직군 사이에서, AI 신뢰가 비판적 사고에 미치는 영향의 크기는 어떻게 달라지는가?
출처
DOI: 10.1145/3706598.3713778
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI ‘25). https://doi.org/10.1145/3706598.3713778