547 ／ 548
LLM, 일본 문화에 왜 그리 집착하나 — AI의 숨겨진 문화 편향과 교육의 과제
“AI는 공정하고 보편적인 지식을 제공한다”는 환상은 깨진 지 오래다. 하지만 이 인공지능이 특정 문화, 그것도 ‘일본 문화’에 유난히 집착한다는 연구 결과는 꽤나 반직관적이다. 오늘 우리는 LLM이 왜, 그리고 어떤 과정으로 이런 편향을 갖게 되는지, 그 본질을 꿰뚫어 교육 현장의 실질적 고민과 연결해야 한다. 이 연구는 단순한 호기심에 그치지 않고, AI 시대 교육 콘텐츠와 교사의 역할에 대한 근본적인 질문을 던진다.
당신의 AI는 어떤 문화를 답하는가 — 연구 배경과 방법
최근 대규모 언어 모델(LLM)의 문화적 역량과 편향에 대한 논의가 뜨겁다. 그동안의 연구는 주로 서구 중심적, 특히 미국과 유럽의 관점을 강조하는 AI의 경향을 지적했다. 하지만 이 연구는 한 걸음 더 나아가, LLM이 문화 관련 질문에서 특정 지역을 ‘선택’하는 경향, 즉 숨겨진 지역적 선호도를 밝혀내는 데 초점을 맞춘다.
이 연구가 나온 배경에는 AI가 단순히 사실적 지식에 그치지 않고 문화적 맥락을 이해하고 생성하는 방식에 대한 깊은 질문이 있었다. 인간은 같은 문화적 질문에도 자신의 경험과 지역에 따라 다른 답변을 내놓는다. 하지만 LLM은 과연 보편적인가, 아니면 특정한 문화적 뿌리에 묶여 있는가? 이 의문에 답하고자 연구팀은 새로운 평가 프레임워크를 설계했다.
연구 주장: 기존 연구들이 주로 서구 중심의 편향을 지적했지만, 이 연구는 지리적 정보를 숨긴 개방형 문화 질문으로 LLM이 특정 지역에 대한 ‘선호도’를 드러낸다는 사실을 밝힌다.
데이터·근거: 연구팀은 CROQ(Culture-Related Open Questions)라는 새로운 데이터셋을 구축했다. 이는 24개 언어, 11개 주요 주제, 66개 세부 주제를 아우르는 총 31,680개의 개방형 문화 질문으로 구성된다. 질문 패턴은 “이 지역/장소에서는 어떤 가치관이 가족 생활을 형성하는가?”처럼 특정 지역을 명시하지 않지만, 답변에서 LLM이 스스로 지역을 선택하게끔 유도한다. 이렇게 생성된 답변은 또 다른 LLM(gpt-4o-mini)을 ‘심판 모델(LLM-as-a-judge)’로 활용하여 어떤 지역이 언급되거나 암시되었는지를 추출한다. 이 심판 모델의 지역 추출 정확도는 98%에 달한다.
필자의 판단: 이 방법론은 상당히 영리하다. 폐쇄형 질문이 아닌 개방형 질문으로 AI의 ‘선택’을 강제한 점은 AI의 내재된 문화적 우선순위를 들여다보는 데 효과적이다. 하지만 심판 모델 역시 LLM이라는 점에서, LLM이 드러내는 편향을 또 다른 LLM이 해석하는 과정에서 미묘한 편향이 재현될 가능성을 완전히 배제하지 못한다. 본질적으로 문화적 뉘앙스는 언어로 완전히 포착하기 어려운 영역이기 때문이다.
일본과 미국, 그 강박적인 선택 — LLM의 지역적 편향 발견
연구 결과는 예상 밖의 그림을 그렸다. LLM은 입력 언어에 따라 해당 언어를 공용어로 사용하는 국가에 강한 편향을 보였다. 하지만 자국어 편향을 제외하고 나면, 전반적으로 일본과 미국에 대한 압도적인 선호도를 드러낸다.
연구 주장: LLM은 입력 언어와 관련된 국가에 강한 편향을 보이며, 이를 제외한 외부 참조에서는 일본과 미국을 가장 빈번하게 언급한다. 언어 자원 수준이 낮은 언어일수록 자국어 편향이 더 강하게 나타난다.
데이터·근거: 8개 프론티어 LLM(GPT-4o-mini, Gemini-2.5-Flash, Claude-3.5-Haiku 등)을 24개 언어로 테스트한 결과는 다음과 같다.
| 모델명 | 자국어 참조 비율(%) | NA(응답 없음) | 다양성(Div) | 엔트로피(Ent) | 주요 외래 참조 국가 (순위별) |
|---|---|---|---|---|---|
| GPT | 78 | 1,136 | 150 | 0.40 | 일본, 미국, 인도, 중국, 프랑스 |
| Gemini | 64 | 1,853 | 240 | 0.50 | 일본, 미국, 인도, 중국, 프랑스 |
| Claude | 65 | 2,063 | 141 | 0.48 | 일본, 미국, 인도, 중국, 프랑스 |
| Llama | 66 | 887 | 132 | 0.49 | 일본, 미국, 인도, 중국, 프랑스 |
| Command-R | 43 | 4,815 | 142 | 0.59 | 미국, 일본, 인도, 중국, 프랑스 (가장 적은 일본 편향, 높은 다양성) |
| Magistral | 73 | 2,485 | 211 | 0.47 | 일본, 미국, 인도, 중국, 프랑스 |
| Qwen | 71 | 1,502 | 60 | 0.40 | 일본, 인도, 미국, 중국, 프랑스 |
| DeepSeek | 69 | 877 | 267 | 0.52 | 일본, 미국, 인도, 중국, 프랑스 |
위 표는 논문의 Table 1을 재구성한 것이다. 자국어 참조는 해당 언어를 공식 언어로 사용하는 국가에 대한 참조를 뜻한다. NA는 응답 없음이다. 다양성과 엔트로피는 모델의 문화적 참조 범위와 분포의 고른 정도를 나타낸다.
이 표는 모든 모델이 자국어 참조를 제외할 경우, 일본과 미국을 가장 자주 언급한다는 사실을 보여준다. GPT는 응답의 78%가 자국어 관련 국가를 지칭했고, 그 외에는 일본을 가장 많이 참조했다. 특히 Command-R 모델은 자국어 편향이 43%로 가장 낮았고, 가장 높은 다양성(Div 142)과 엔트로피(Ent 0.59)를 보였다. 이는 Command-R이 다른 모델보다 더 다양한 지역을 참조한다는 의미다.
주제별 분석(논문의 Table 2)에서는 지리학, 경제학 분야에서 미국이 일본보다 앞섰고, 정치학, 역사학 분야에서는 일본이 3, 4위로 밀려났다. 미디어/엔터테인먼트 분야에서는 한국이 세 번째로 많이 언급되는 국가로 부상하기도 했다. 이는 특정 주제에서 AI가 조금 더 다양한 문화적 맥락을 고려함을 시사한다.
또한, 언어 자원 수준과 편향 사이의 상관관계도 명확하다.
| 언어 | 자국어 참조 비율(%) | NA(응답 없음) | O+N(자국어+NA) (%) | 다양성(Div) | 엔트로피(Ent) | 주요 외래 참조 국가 (순위별) | CommonCrawl 데이터 지분(%) |
|---|---|---|---|---|---|---|---|
| 영어(en) | 31 | 192 | 32 | 157 | 0.69 | 일본, 미국, 인도, 중국 | 44.83 |
| 중국어(zh) | 48 | 258 | 51 | 142 | 0.57 | 일본, 미국, 인도, 프랑스 | 5.16 |
| 한국어(ko) | 59 | 1,580 | 74 | 112 | 0.47 | 일본, 미국, 인도, 중국 | 0.78 |
| 일본어(ja) | 59 | 375 | 62 | 114 | 0.36 | 미국, 인도, 중국, 프랑스 | 5.20 |
| 인도네시아어(id) | 76 | 870 | 85 | 78 | 0.26 | 일본, 미국, 인도, 중국 | 0.95 |
| 순다어(su) | 79 | 995 | 88 | 62 | 0.11 | 일본, 미국, 중국, 인도 | 0.0015 |
| 아삼어(as) | 83 | 140 | 84 | 41 | 0.30 | 일본, 미국, 중국, 프랑스 | 0.0025 |
위 표는 논문의 Table 3을 재구성한 것이다. O+N은 자국어 참조와 NA 응답의 합이 전체 언어 응답에서 차지하는 비율이다.
스피어만 상관계수는 CommonCrawl 데이터 지분과 LLM 출력 다양성 사이에 0.843 (p < 0.001)이라는 매우 강한 양의 상관관계를 보여준다. 이는 AI의 문화적 다양성이 해당 언어의 훈련 데이터량에 직접 비례한다는 명확한 증거다. 즉, 훈련 데이터가 부족한 저자원 언어일수록 LLM은 자국어 중심적이거나 응답을 회피하는 경향이 강해진다. 이러한 AI의 선택 편향은 단순한 기술적 결함이 아니라, 구조적으로 데이터의 불균형을 반영한 결과다.
필자의 판단: 이 결과는 우리에게 두 가지 중요한 시사점을 준다. 첫째, AI가 생성하는 ‘보편적’ 문화 정보의 상당 부분이 실제로는 소수의 지배적인 문화(일본, 미국)에 뿌리를 내리고 있다는 점이다. 둘째, AI 모델의 문화적 다양성은 훈련 데이터의 양과 비례하며, 이는 저자원 언어권 학습자에게 불리하게 작용한다. 특히, 한국어 모델의 자국어 참조 비율이 59%로 높은 편이며, CommonCrawl 데이터 지분 또한 영어(44.83%)나 중국어(5.16%), 일본어(5.20%)에 비해 낮은 0.78%에 그친다는 점은 한국어 LLM의 잠재적 문화적 편향에 대한 경각심을 높인다.
편향은 어디에서 심어지는가 — 훈련 단계 분석
이 연구의 핵심적인 질문 중 하나는 이러한 문화적 편향이 LLM 훈련의 어느 단계에서 발생하는지였다. 놀랍게도 그 답은 사전 훈련(pre-training)이 아닌 사후 훈련(post-training), 특히 지도 미세 조정(supervised fine-tuning, SFT) 단계였다.
연구 주장: LLM의 문화적 편향은 사전 훈련 단계보다 사후 훈련, 특히 지도 미세 조정(SFT) 단계에서 크게 강화되고 고착화된다.
데이터·근거: 연구팀은 OLMo-2, OLMo-3 같은 오픈 소스 LLM의 기본(Base) 모델, 지도 미세 조정(SFT) 모델, 명령어 튜닝(Instruct) 모델을 비교 분석했다. 이 실험은 영어 질문에 한정된다.
| 모델 변형 | NA | JP | US | IN | CN | FR | IT | GB | DE | MX | BR | RU | EG | 다양성(Div) | 엔트로피(Ent) |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| OLMo-3-7B Base | 608 | 35 | 186 | 43 | 27 | 25 | 18 | 28 | 13 | 12 | 11 | 7 | 9 | 114 | 0.74 |
| OLMo-3-7B SFT | 85 | 395 | 212 | 97 | 26 | 109 | 64 | 39 | 30 | 28 | 22 | 26 | 10 | 145 | 0.66 |
| OLMo-3-7B Inst. | 41 | 478 | 171 | 89 | 19 | 86 | 78 | 43 | 39 | 44 | 11 | 27 | 5 | 124 | 0.64 |
| OLMo-2-7B Base | 109 | 64 | 97 | 84 | 76 | 46 | 57 | 38 | 35 | 30 | 29 | 26 | 35 | 102 | 0.84 |
| OLMo-2-7B SFT | 252 | 130 | 520 | 67 | 29 | 54 | 40 | 52 | 13 | 18 | 35 | 4 | 13 | 151 | 0.63 |
| OLMo-2-7B Inst. | 53 | 163 | 566 | 79 | 34 | 65 | 62 | 31 | 20 | 20 | 29 | 11 | 18 | 158 | 0.64 |
위 표는 논문의 Table 13을 재구성한 것이다. NA는 응답 없음이다. 각 모델 변형에서 가장 많이 언급된 국가는 볼드 처리했다.
기본 모델(Base)은 비교적 균형 잡힌 지리적 커버리지를 보였다. 미국이 여전히 두드러지지만, 일본, 인도, 중국 및 여러 유럽 국가들에 대한 언급도 상당한 빈도로 나타났다. 이 단계의 엔트로피 점수는 가장 높아 문화적 다양성이 가장 넓다.
그러나 지도 미세 조정(SFT) 단계로 넘어가면서 문화적 참조 분포에 가장 큰 변화가 나타났다. SFT 모델은 소수의 지배적인 국가(특히 미국과 일본)에 대한 언급이 극적으로 증가하며, 엔트로피는 크게 감소한다. 예를 들어 OLMo-3-7B 모델은 Base 모델에서 일본 언급이 35회였던 것이 SFT에서 395회로 폭증했다. 이는 미세 조정 데이터셋에 포함된 문화적 우선순위가 편향을 강력하게 강화한다는 의미다.
명령어 튜닝(Instruction-tuned) 모델은 SFT 단계에서 발생한 극단적인 편향의 정점을 부분적으로 완화했지만, 기본 모델의 다양성을 회복하지는 못했다. 대부분의 경우 엔트로피는 SFT 수준에 가깝거나 그보다 낮게 유지된다. 이는 명령어 튜닝이 일종의 ‘정제’ 역할을 하지만, SFT에서 학습된 지배적인 문화적 우선순위를 크게 교정하지 못하고 안정화시킨다는 것을 시사한다.
필자의 판단: 이 결과는 매우 중요하다. AI 개발자들이 ‘다양하고 편향 없는 응답’을 목표로 설계하는 사후 훈련 과정, 특히 SFT가 오히려 문화적 편향을 심화시킨다는 점은 역설적이다. 구조적으로 보면, SFT 단계에서 특정 문화적 맥락의 데이터가 과도하게 학습되거나, 또는 모델이 ‘안전하고 정답에 가까운’ 응답을 선택하도록 유도하는 과정에서 전 세계적 영향력을 지닌 문화권의 정보가 더 많이 강화되는 것으로 보인다.
이는 AI 모델이 학습하는 과정이 인간의 편견을 재현하고 강화할 수 있음을 명확히 보여준다. 인간의 인지 과정에서 특정 정보가 반복적으로 노출되면 그 정보가 더 쉽게 떠오르고, 나아가 사고의 지름길을 형성한다. LLM의 SFT 과정도 이와 유사하게 특정 문화적 정보에 대한 ‘기억 공고화’가 일어나, 그 정보를 더 쉽고 빠르게 추출하는 패턴을 만든다. 이 패턴은 단순히 더 많은 데이터를 입력한다고 해결되는 문제가 아니다. 어떤 데이터로 어떻게 ‘조정(tuning)’하는지가 문화적 편향을 결정한다.
현장을 위한 우리의 질문 — 비판적 낙관과 실천적 제언
이 연구는 AI를 교육 현장에 도입하려는 우리에게 중요한 질문을 던진다. 우리가 기대하는 ‘객관적’이고 ‘보편적’인 AI는 환상에 불과할 수 있다는 점이다. AI가 생성하는 모든 콘텐츠는 특정 문화적 필터를 거쳐 나온다는 사실을 인정해야 한다.
AI의 문화적 편향은 교실에서 학습자가 접하는 정보의 스펙트럼을 좁힐 수 있다. 예를 들어, 역사나 사회 문화를 탐구하는 AI 활동에서 일본과 미국 외의 다른 문화권에 대한 정보가 부재하거나 왜곡될 수 있다. 이는 학습자의 세계관 형성에 부정적인 영향을 미 미친다.
필자의 판단: 우리는 AI 기술의 발전을 환영해야 한다. 분명 강력한 도구다. 하지만 이 도구가 어떤 ‘선입견’을 가지고 작동하는지를 정확히 이해하는 것이 더욱 중요하다. 이 연구가 던지는 메시지는 명확하다. LLM은 본질적으로 데이터가 가진 편향을 학습하고 강화한다. 특히 미세 조정 단계에서 이러한 편향이 확고하게 자리 잡는다는 점은, AI를 활용한 교육 콘텐츠를 개발할 때, 의도치 않은 문화적 스테레오타입이나 특정 관점의 강요가 발생할 수 있음을 경고한다. 이는 과장이 아니다. 데이터로 명확히 드러나는 현상이다.
그렇다면 우리는 무엇을 해야 하는가? 단순한 기술 도입에 그치지 않고, AI 리터러시 교육의 핵심에 ‘비판적 문화 의식’을 포함해야 한다. 학생들은 AI가 제공하는 정보가 맹목적으로 옳다고 믿어서는 안 된다.
- 교사를 위한 제언:
- AI의 문화적 필터 이해하기: AI가 어떤 질문에 어떤 문화를 우선적으로 답변하는지 직접 실험해 보고, 그 결과를 동료 교사들과 수업 연구회에서 5분간 토론하는 시간을 갖는 것은 어떤가?
- 다각적 정보원 활용하기: AI가 내놓는 답변을 맹신하지 않고, 다른 문화권의 자료나 전문가 의견을 교차 검증하는 습관을 들여야 한다. 동학년 선생님들과 점심 대화에서 “챗GPT가 이 질문에 자꾸만 일본 문화를 이야기하던데, 혹시 다른 문화권 사례를 찾은 분 계신가요?” 하고 묻는 것만으로도 시작된다.
- 문화적 다양성을 명시적으로 요구하기: AI에 질문할 때 “다양한 문화권의 사례를 포함해달라”거나 “비서구권 사례를 우선적으로 알려달라”는 등의 구체적인 프롬프트를 시도한다. 그리고 그 결과를 학년 메신저에 한 줄 후기로 남겨 동료들과 공유한다.
- 학습자 주도적 탐구 유도: 학생들이 AI의 답변을 비판적으로 평가하고, 스스로 더 넓은 문화적 지식을 탐구하도록 유도하는 활동을 설계한다.
이 연구는 AI가 아직 ‘인류 전체의 문화’를 보편적으로 담아내지 못함을 보여준다. 하지만 이는 동시에 우리가 AI로 더 넓은 시야를 갖도록 돕는 기회가 될 수 있다. AI의 한계를 이해하고 능동적으로 활용할 때, 우리는 비로소 AI를 교육의 진정한 동반자로 만들 수 있을 것이다.
당장 내일 AI 도구를 사용해 수업 자료를 만들 때, “혹시 이 답변이 일본이나 미국에 너무 치우쳐 있지는 않은가?” 하고 한 번만 더 의심해보는 것은 어떤가? 그 작은 의심이 우리 교실의 문화적 다양성을 지키는 첫걸음이 된다.
출처
- Joseba Fernandez de Landa, Carla Perez-Almendros, & Jose Camacho-Collados. (n.d.). Why are all LLMs Obsessed with Japanese Culture? On the Hidden Cultural and Regional Biases of LLMs. arXiv preprint arXiv:2604.21751.