AI가 못 하는 생각은 학교도 가르치지 않는다

1907년 어느 날, 아인슈타인은 자유낙하하는 사람을 머릿속에 그리다 한 가지를 깨달았다. 떨어지는 동안 그 사람은 자기 무게를 조금도 느끼지 못한다. 아인슈타인은 훗날 이것을 “내 생애 가장 행복한 생각”이라 불렀고, 여기서 중력과 가속을 구별할 수 없다는 등가원리가 자라 나왔다. 관측 데이터를 잔뜩 모아 규칙을 뽑아낸 것이 아니다. 그는 한 몸의 감각을 머릿속에서 직접 겪어 보고, 그 경험에서 세상에 없던 공리를 지어냈다.

최근 한 논문이 바로 이 장면을 지금의 AI가 못 하는 일의 표본으로 든다. 요지는 이렇다. 생성형 AI는 데이터에서 규칙을 찾아내는 귀납과, 공리에서 결론을 끌어내는 연역은 빠르게 기계가 대신하고 있다. 그러나 감각으로 겪은 경험에서 새로운 공리로 훌쩍 건너뛰는 도약, 논리학에서 귀추라 부르는 그 ‘점프’만은 해내지 못한다.

세 가지 추론을 일상의 말로 옮기면 이렇다. 귀납은 사례를 여럿 보고 규칙을 짐작하는 일이다. 사과가 늘 떨어지니 무언가 끌어당기는 힘이 있으리라 여기는 것. 연역은 그렇게 얻은 규칙을 새 사례에 대 보는 일이다. 끌어당기는 힘이 있으니 이 돌도 떨어질 것이라고 내다보는 것. 귀추는 결이 다르다. 앞뒤가 안 맞는 결과 하나를 설명하려고 아예 새로운 원인을 발명한다. 앞의 둘이 이미 있는 개념들 사이를 오가는 일이라면, 귀추는 없던 개념 하나를 처음으로 세우는 일이다.

왜 AI가 유독 이 셋째를 못 하는가. 논문은 상대성이론에는 애초에 줄일 만한 오차가 거의 없었다는 점을 짚는다. 뉴턴 역학은 소름 끼치도록 정확했고, 알려진 유일한 예외였던 수성의 궤도조차 아직 발견되지 않은 행성 탓으로 둘러댈 수 있었다. 데이터를 조금이라도 더 잘 맞추는 쪽으로 이끌어 줄 오차의 기울기가 없었다는 뜻이다. AI는 오차를 줄이는 방향으로 발을 옮기는데, 줄일 오차가 없으면 뗄 발이 없다. 아인슈타인은 데이터에 곡선을 맞춘 것이 아니라, 아직 데이터로 드러나지도 않은 구조를 먼저 세웠다.

논문은 지금의 언어 모델을 커다란 ‘중국어 방’에 빗댄다. 물리학의 기호를 능란하게 주무르지만, 그 기호가 가리키는 세계를 몸으로 겪어 본 적은 없다는 것이다. 그래서 해법으로 내놓는 것이 가만히 영상을 예측하는 모델이 아니라, 행동으로 세계에 끼어드는 모델이다. 엘리베이터의 케이블을 실제로 잘라 보는 반사실적 실험, 곧 직접 해 보며 생각하는 능력이 있어야 그 도약이 가능해진다고 본다.

여기까지가 논문의 이야기다. 그런데 나는 이 논문이 뜻하지 않게 교육의 거울이 된다고 느낀다.

학교가 하는 일의 거의 전부가 앞의 두 가지, 귀납과 연역이다. 규칙을 찾아라, 그 규칙을 적용하라. 패턴 문제와 응용 문제. 시험은 정확히 이 둘을 잰다. 정작 셋째, 없던 틀을 스스로 세우는 도약은 가르치지도 재지도 못한다. 채점할 방법이 마땅치 않기 때문이다. 그런데 하필 그 도약이 기계가 못 하는 단 하나로 남았다. 우리가 가장 잘 가르쳐 온 부분이 이제 막 자동화되었고, 가장 못 가르쳐 온 부분이 유일하게 사람의 몫으로 남은 셈이다.

반론이 있다. 귀추 같은 창의적 도약은 애초에 가르칠 수 있는 것이 아니라 천재의 몫 아니냐고. 아인슈타인은 아인슈타인이라서 그랬을 뿐이라고. 절반은 맞는 말이다. 등가원리 같은 도약을 주문하면 뽑아내는 방법은 없다. 그러나 논문이 내놓은 해법을 다시 보라. 감각으로 겪고, 세계를 직접 만지고, 케이블을 잘라 보는 반사실적 실험. 이것은 천재의 신비가 아니라 아주 오래된 배움의 방식이다. 손으로 만들어 보고, 무너뜨려 보고, 실컷 틀려 보는 것. AI에게 이 능력을 심어 주려고 공학자들이 지금 안간힘을 쓰는 바로 그것을, 학교는 이미 손에 쥐고 있으면서 곁다리로 밀어 두었다. 실험실과 목공실, 텃밭, 고장 난 물건을 뜯어 보는 시간. 우리는 그런 것들을 본질이 아니라 여흥으로 여겨 왔다.

그러니 기계가 귀납과 연역을 가져가는 일을 손실로만 볼 것은 아니다. 그것은 우리가 그동안 무엇을 학교의 한복판에 두어 왔는지 되묻게 한다. 아이에게 끝내 남겨 주고 싶은 것이 감각으로 세계를 겪고 거기서 새 틀을 세우는 도약이라면, “이걸 잘라 보면 어떻게 될까” 묻는 아이의 손을 붙잡아 주는 일이 교육과정의 변두리에 있어서는 곤란하다. 아인슈타인의 가장 행복한 생각은 계산이 아니라 상상 속의 추락에서 왔다. 기계가 계산을 죄다 가져간 자리에서 우리가 지켜야 할 것은, 바로 그 추락의 감각이다.

출처

• LLM은 ‘점프’할 수 없다. GeekNews 요약. https://news.hada.io/topic?id=32218