상호작용주의 관점으로 본 인간-AI 복합 편향의 의미와 교육적 시사점
‘Beyond Isolation: Towards an Interactionist Perspective on Human Cognitive Bias and AI Bias’ 논문은 AI 시대를 살아가는 우리에게 매우 중요한 화두를 던집니다. 단순히 ‘AI의 편향’이나 ‘인간의 편향’을 개별적으로 논하는 수준을 넘어, 둘이 만났을 때 어떤 증폭의 효과(synergy) 또는 상쇄 효과가 일어나는지에 주목해야 한다는 상호작용주의적 관점을 제시하기 때문입니다. 이 연구가 갖는 의미와 교육 현장에 주는 인사이트를 다음과 같이 정리해 보았습니다.
1. 연구의 의의
지금까지 AI 편향 문제는 ‘AI를 어떻게 고칠 것인가?’ 또는 ‘사용자를 어떻게 교육할 것인가?’라는 두 가지 분리된 접근법으로 다루어져 왔습니다. 이 연구는 문제 자체를 인간과 AI의 상호작용 시스템에서 발생하는 현상으로 재정의합니다. 이는 마치 교통사고의 원인을 운전자나 자동차의 결함만으로 보지 않고, 도로 환경, 교통 시스템 전체와의 관계 속에서 파악하려는 시도와 같습니다.
특히 챗GPT와 같은 생성형 AI는 사용자와 대화를 주고받으며 관계를 형성합니다. 논문의 예시처럼, 사용자가 가진 정치적 신념을 AI가 교묘하게 강화하며 ‘생성형 반향실(Generative Echo Chamber)’을 만들 수 있습니다. 이런 즉각적이고 역동적인 피드백 루프는 기존의 검색 엔진이나 알고리즘 추천과는 차원이 다른 위험성을 가지므로, 상호작용 관점의 연구는 더욱 시급합니다.
인간-AI 복합 편향(Compound Human-AI Bias)이라는 개념을 제시함으로써, 앞으로 AI 윤리, 인간-컴퓨터 상호작용(HCI), 교육 공학 분야에서 탐구해야 할 구체적인 연구 의제를 설정했습니다.
2. AI 디지털 교육에 주는 인사이트
이 연구는 미래의 AI 리터러시 교육이 나아가야 할 방향을 명확하게 제시합니다.
메타인지 교육으로의 전환
기존의 미디어 리터러시 교육이 ‘AI가 주는 정보가 사실인지 비판적으로 판단하라’에 초점을 맞췄다면, 이제는 다음과 같은 질문을 통해 자신의 인지 과정을 성찰하는 메타인지(Metacognition) 교육으로 나아가야 합니다.
“나는 왜 AI에게 이런 질문을 하고 있는가?” “내 질문 방식이 AI의 답변에 어떤 영향을 미쳤는가?” “AI의 답변이 나의 기존 생각을 어떻게 강화하고 있는가?”
‘사고의 파트너’로 AI 활용하기
좋은 질문은 단순히 원하는 정보를 얻는 것을 넘어, 자신의 편향을 견제하고 더 넓은 관점을 탐색하는 질문이어야 합니다. 예를 들어, 학생들에게 “A 정책의 장점을 알려줘”라고 묻는 대신, 다음과 같이 질문하도록 가르쳐야 합니다.
“A 정책에 대한 가장 강력한 반대 논리와 그 근거는 무엇이야?” “A 정책을 비판하는 사람과 옹호하는 사람이 동의할 수 있는 공통점은 없을까?”
이는 AI를 단순한 답변 기계가 아닌, 생각의 폭을 넓히는 ‘사고의 파트너’로 활용하는 방법입니다.
교육용 AI 도구 설계 제안
- 편향 알림(Bias Nudging) 기능: 사용자가 확증 편향에 빠질 만한 질문을 반복하면, “다른 관점의 정보도 찾아볼까요?”라고 제안하는 기능
- 대화 지도(Conversation Map) 시각화: 사용자와 AI의 대화가 특정 주제나 관점에만 갇혀 있는지 시각적으로 보여주어, 스스로 대화의 편중성을 깨닫게 하는 기능
교사의 역할 변화
AI 시대의 교사는 지식 전달자를 넘어, 학생들이 AI와 상호작용하며 겪는 인지적 편향과 심리적 변화를 섬세하게 관찰하고 지도하는 사고의 코치(Thinking Coach)가 되어야 합니다. 학생들이 자신의 AI 사용 기록을 되돌아보며 성찰일지를 쓰게 하는 등의 교육 활동을 설계할 수 있습니다.
결론
결론적으로 이 연구는 AI 기술의 발전이 우리에게 던지는 근본적인 질문, 즉 ‘어떻게 인간의 인지를 왜곡하지 않으면서 지능을 확장하는 도구로 AI를 활용할 것인가?’에 대한 중요한 실마리를 제공합니다. 교육 현장에서 이 상호작용주의적 관점을 적극적으로 도입하여 학생들이 더 현명하고 주체적인 AI 사용자로 성장할 수 있도록 돕는 것이 필요합니다.
참고자료
- 원문: Felten, N. von. (2025). Beyond isolation: Towards an interactionist perspective on human cognitive bias and AI bias. In CHI 2025. ACM. https://doi.org/10.48550/arXiv.2504.18759
- 논문 번역 전문: https://blog.naver.com/dot_connector/224031203811, https://tigerjk9.github.io/ai/hci/Felten/