대규모 언어 모델은 통계적 앵무새가 아니다

동료 교사가 학생 옆에서 챗봇 화면을 들여다보다 짧게 말했다. “결국 다음 단어 확률로 찍는 거잖아.” 틀린 말은 아니다. 언어 모델이 하는 일을 한 문장으로 줄이면 정말 그렇다. 앞에 놓인 말들을 보고 다음에 올 확률이 가장 높은 단어 하나를 고른다. 그런데 그 한 문장이 방금 화면에서 벌어진 일까지 다 설명하는가는 다른 물음이다. 학생은 혼자 못 풀던 증명 문제의 실마리를 얻었고, 챗봇은 중간에 한 번 틀린 계산을 스스로 다시 돌려 바로잡았다.

그 짧은 반박에는 이름이 있다. ‘통계적 앵무새(stochastic parrot)’. 2021년 에밀리 벤더와 팀닛 게브루 등이 쓴 논문에서 나온 말로, 언어 모델이 뜻은 모른 채 방대한 말뭉치에서 그럴듯한 말을 꿰맞춰 뱉을 뿐이라는 비판이다. 앵무새가 사람 말을 흉내 내되 그 의미는 모르는 것과 같다는 이야기다. 이 지적은 진지하게 받아들일 값어치가 있다. 모델은 없는 사실을 지어내고, 방금 한 말도 잊고, 두 자리 곱셈에서 어이없이 미끄러진다. 게다가 문장이 매끄러울수록 그 빈틈은 눈에 덜 띈다. 여기까지는 비판자들이 옳다. 이 경고를 접고 시작하는 논의는 위험하다.

문제는 이 비판이 겨냥하는 대상이다. 벌거벗은 모델 하나만 떼어 놓고 ‘이것이 앵무새냐’를 묻는 것은, 자동차에서 엔진만 꺼내 도로에 내려놓고 ‘이게 사람을 실어 나를 수 있나’를 따지는 일과 닮았다. 엔진은 혼자서 아무 데도 못 간다. 그러나 아무도 그 사실로 자동차를 판단하지 않는다. 우리가 타는 것은 엔진이 아니라 조향과 제동과 변속과 길 안내가 함께 물린 차 전체다.

오늘 실제로 쓰이는 AI도 언어 모델 하나가 아니다. 그 모델을 핵심 부품으로 삼아 기억 장치와 검색과 코드 실행기를 엮은 시스템이다. 운영체제가 CPU의 한계를 바깥에서 메우듯, 이 시스템의 겹이 모델의 약점을 감싼다.

모델 혼자서는 못 하는 일	시스템이 바깥에서 대는 것
방금 한 말도 잊는다	외부 메모리에 적어 두고 다시 읽는다
어제 일도, 최신 사실도 모른다	검색으로 그때그때 끌어온다
계산과 사실 확인이 미덥잖다	코드로 실제 돌려 보고 대조한다

오래된 사례가 이 관계를 잘 보여준다. 컴퓨터는 0.1조차 정확히 저장하지 못한다. 2진법에서 0.1은 끝없이 되풀이되는 근삿값으로만 표현되기 때문이다. 엄밀히는 결함이다. 그런데도 우리는 그 컴퓨터로 은행 잔고를 맞추고 우주선을 궤도에 올린다. 하드웨어의 흠을 소프트웨어라는 한 겹이 감싸, 실용의 층위에서 지워 냈기 때문이다. 지금의 AI가 언어 모델의 흠을 다루는 방식이 이와 같다.

그러니 정직하게 나누어 말하는 편이 낫다. 벌거벗은 모델만 보면, 그것은 옹호자들이 인정하고 싶은 것보다 앵무새 쪽에 가깝다. 비판자들은 그 층위에서 틀리지 않았다. 그러나 사람들이 손에 쥐는 물건은 벌거벗은 모델이 아니라 그 시스템이다. 같은 모델이라도 어떤 자료에 연결하고 어떤 도구에 어떤 권한을 주느냐에 따라 전혀 다르게 움직인다. 시스템의 층위에서 보면, 앵무새라는 비유는 눈앞의 현상을 더는 설명하지 못한다.

이 방향을 오래전부터 짚은 이들도 있다. 이 기술을 직접 만든 축에 드는 일리야 수츠케버는, 다음 단어를 정말로 잘 맞히려면 그 단어를 낳은 세계를 어느 정도 붙들고 있어야 한다는 취지의 말을 여러 해 되풀이해 왔다. 예측을 끝까지 밀어붙이면 이해와 맞닿는다는 이야기다. 이것이 인간의 이해와 같은 것인지는 아직 누구도 자신 있게 답하지 못한다. 그 물음은 열어 두는 편이 정직하다. 다만 ‘앵무새일 뿐’이라는 단정으로 그 물음을 미리 닫는 것은 겸손이 아니라 게으름에 가깝다.

가장 강한 반론은 이렇다. 앵무새에게 계산기를 쥐여 준다고 앵무새가 뜻을 알게 되지는 않는다. 검색과 도구는 이해를 만들어 내는 게 아니라 이해의 부재를 바깥에서 가려 줄 뿐이다. 시스템이 그럴듯하게 굴러가는 것은 그 안의 무언가가 알아서가 아니라, 그것을 지은 사람과 데이터에서 빌려 온 유능함이라는 것이다. 이 반론은 상당 부분 맞다. 시스템의 실력 가운데 많은 몫은 분명 빌려 온 것이다.

그런데 빌려 온 유능함이 실격 사유가 되는지는 다시 생각할 일이다. 사람의 앎도 상당 부분 바깥에서 빌려 온 것이다. 우리는 사전과 계산기와 동료와 오래 쌓인 문화에 기대어 생각한다. 혼자 머릿속에서만 짜낸 앎만 진짜라고 한다면, 사람에게 남을 앎도 얼마 되지 않는다. 더구나 교실에서 우리가 실제로 가늠하는 것은 학생이 형이상학적으로 ‘진짜 이해했는가’가 아니라, 다음 문제 앞에서 미덥게 행동하는가다. 시스템은 바로 그 행동을 바꾼다. 그렇다면 우리가 물어야 할 것도 ‘속에 이해가 들었는가’라는 판정 불가능한 물음이 아니라, 이 시스템이 무엇을 미덥게 해내고 어디서 무너지는가다.

그러니 진짜 질문은 ‘앵무새냐 천재냐’가 아니다. 이 이분법은 마음을 편하게 해 준다. 앵무새라고 부르는 순간 더 들여다볼 이유가 사라지기 때문이다. 이름표는 판단을 멈추게 한다. 대신 이렇게 물어야 한다. 모델을 감싼 시스템이 그 모델에게 무엇을 시키는가, 그 일이 어긋났을 때 책임은 누구에게 있는가. 학생에게 이 도구를 쥐여 줄 때 정작 따져야 하는 것도 그것이 ‘진짜로 아는지’가 아니라, 아이의 사고를 어디까지 대신해도 되는지, 틀렸을 때 누가 먼저 알아채는지다. 판단을 닫는 이름표 하나보다, 시스템을 계속 지켜보는 눈이 지금 더 쓸모 있다.

출처

• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘21), 610–623. https://doi.org/10.1145/3442188.3445922 — ‘통계적 앵무새(stochastic parrot)’ 표현의 출처
• 닷커넥터 자체 정리