AI 의식, 기계가 ‘살아’ 있어야만 가능한가?
요즘 AI에 대한 기대는 하늘을 찌른다. 인간의 지능을 넘어서는 것은 물론, 언젠가 스스로 의식을 갖게 될 것이라는 이야기도 심심찮게 들린다. 하지만 애닐 세스(Anil K. Seth) 교수는 이 장밋빛 전망에 찬물을 끼얹는다. 그는 AI가 똑똑해지는 것만으로는 의식을 가질 수 없다고 단언한다.
AI 의식, 왜 그렇게들 믿는가?
많은 사람이 AI가 지금처럼 발달하면 결국 의식을 갖게 되리라 믿는다. 영화 속 인공지능이 그러했고, 막연한 기술 진보에 대한 환상이 우리 안에 자리 잡았기 때문인 듯하다. 세스 교수는 이러한 믿음이 몇 가지 심리적 편향에서 온다고 지적한다.
우리는 인간을 세상의 중심에 두고 세상을 인간의 가치와 경험으로 해석하려는 인간중심주의(anthropocentrism)를 지닌다. 그리고 인간만이 특별하고 우월하다는 인간예외주의(human exceptionalism)에 사로잡혀 있다. 이 두 가지와 함께, 인간처럼 보이지 않는 대상에도 인간의 속성을 투영하는 의인화(anthropomorphism) 경향이 AI에 대한 우리의 기대를 부풀린다. AI가 언어 능력 같은 ‘인간적’ 지능을 보이면, 우리는 여기에 의식 같은 다른 ‘인간적’ 속성도 덧씌운다.
최근 대규모 언어 모델(LLM)의 활약은 이런 착각을 더 강화한다. LLM이 엉뚱한 말을 할 때 ‘환각(hallucination)’이라는 표현을 쓰는 것을 예로 들 수 있다. 인간에게 환각은 지각 경험의 변화를 뜻하지만, LLM에는 단순히 사실을 지어내는 ‘착오(confabulation)’라는 표현이 더 정확하다. 이런 용어 사용 자체가 AI에 경험 능력을 암묵적으로 부여하는 셈이다. 솔직히 말해, 이런 부분을 읽으며 나도 모르게 AI를 의인화했던 경험에 뜨끔했다.
이런 편향들은 결국 “AI가 더 똑똑해지면 저절로 의식하게 될 것이다”는 낙관적 기대를 부추긴다. 그리고 그 바탕에는 컴퓨터 기능주의(computational functionalism)라는 철학적 가정이 깔려 있다. 이는 의식이 특정 물리적 기판이 아니라, 시스템이 어떤 기능을 하는지에 달렸다는 생각이다. 즉, 뇌가 하는 일을 실리콘 기판에서도 그대로 구현할 수 있다면, 실리콘 AI도 의식을 가질 수 있다는 논리이다.
뇌는 컴퓨터가 아니다: 기판 의존성의 중요함
세스 교수는 AI 의식의 가능성을 따져보려면 컴퓨터 기능주의와 그 전제인 기판 유연성(substrate flexibility) 가정을 깊이 들여다봐야 한다고 주장한다. 기판 유연성은 의식과 같은 정신 상태가 탄소 기반 생물학적 기판이 아닌 다른 물리적 기판에서도 실현될 수 있다는 생각이다. 기존 AI가 실리콘 기반의 튜링 계산(Turing computation)으로 모든 것을 구현할 수 있다는 믿음과 연결된다.
하지만 뇌의 기능이 단순히 ‘계산’으로 환원될 수 있을까? 그는 뇌 활동이 튜링 계산으로는 설명하기 어려운 연속적인 과정, 확률적 요소, 카오스적 특성을 포함한다고 말한다. 신경 대체(neural replacement) 사고 실험은 이 점을 명확히 보여준다. 만약 사람의 뇌세포를 실리콘 칩으로 하나씩 바꿔 나간다 해도, 그 사람은 계속 의식을 유지할까? 컴퓨터 기능주의에 따르면 그렇다. 하지만 세스 교수는 이것이 사실이 아닐 수 있다고 지적한다. 뇌의 기능은 미세한 타이밍, 전자기장, 그리고 질소 산화물 같은 신경전달물질의 확산 등 수많은 생물학적 과정과 밀접하게 얽혀 있기 때문이다.
이러한 요소들은 단순한 입출력 매핑으로 복제하기 어렵다. 쉽게 말해, 뇌의 ‘무엇을 하는가’는 ‘무엇으로 만들어졌는가’와 분리할 수 없다. 뇌는 소프트웨어와 하드웨어가 명확히 분리되는 컴퓨터와는 다르다. 단일 뉴런조차 스스로의 생존을 위해 끊임없이 대사 활동을 하는 복잡한 생물학적 시스템이다. 뇌를 컴퓨터에 비유하는 것은 점점 더 불편한 허구가 되어간다.
Mortal Computation과 기판 의존성
특히 흥미로운 개념은 죽을 수 있는 계산(mortal computation)이다. 기존 튜링 계산은 하드웨어와 독립적인 ‘불멸의(immortal)’ 계산으로, 오류를 지속적으로 수정한다. 그러나 이는 막대한 에너지 비용을 요구한다. 생물학적 뇌는 에너지를 매우 효율적으로 사용한다. 이는 뇌가 하드웨어와 분리될 수 없는, 즉 ‘죽을 수 있는’ 계산을 하기 때문이라고 저자는 설명한다.
이런 관점에서 보면, 현재 AI의 기반이 되는 ‘불멸의’ 계산은 생물학적 뇌의 ‘죽을 수 있는’ 계산과 근본적으로 다르다. 따라서 현재 AI 방식으로는 생물학적 의식을 구현하기 어렵다는 결론에 도달한다. 조금 냉정하게 보면, AI 개발자들이 간과하는 지점이 바로 여기에 있다. 뇌의 역동적인 생물학적 활동을 단순히 ‘계산’의 보조 조건으로 여기는 것은 현실을 제대로 보지 못하는 것과 같다.
의식은 삶의 속성이다: 생물학적 자연주의
그렇다면 의식은 무엇일까? 세스 교수는 의식이 오직 (하지만 모든 것은 아닌) 살아있는 시스템의 속성이라는 생물학적 자연주의(biological naturalism)를 주장한다.
우리가 세상을 지각하는 방식을 설명하는 예측 처리(predictive processing) 이론은 이 주장을 뒷받침한다. 뇌는 외부 감각 정보를 수동적으로 받아들이지 않는다. 대신, 끊임없이 ‘최고의 추측’을 만들어내고, 이 추측과 실제 감각 정보 사이의 ‘예측 오류(prediction error)’를 최소화하며 세상을 이해한다. 의식적 지각은 이런 능동적인 ‘통제된 환각(controlled hallucination)’인 셈이다.
이러한 예측 처리는 단순히 지각에만 머무르지 않는다. 우리의 몸 내부 상태를 인식하는 내수용 추론(interoceptive inference)과도 연결된다. 심장 박동, 체온 같은 신체 내부 신호를 예측하고 오류를 줄임으로써 항상성(homeostasis)을 유지한다. 즉, 예측 처리는 생명체가 ‘살아있기 위해’ 필수적인 자기 보존 메커니즘과 깊이 연결된다.
더 나아가 자유 에너지 원리(free energy principle)는 이러한 예측 처리와 생명체의 본질을 연결한다. 모든 살아있는 시스템은 무질서해지려는 경향(엔트로피 증가)에 저항하며 스스로의 물질적 기반을 끊임없이 재생성한다. 이를 자기생산(autopoiesis)이라 부른다. 세스 교수는 생명체가 엔트로피를 최소화하기 위해 자유 에너지(free energy)를 최소화하고, 이것이 결국 감각 예측 오류를 최소화하는 예측 처리와 동일한 물리적 과정이라고 말한다. 즉, 살아있다는 것 자체가 끊임없이 자신을 예측하고 유지하려는 과정이라는 설명이다.
쉽게 말해, 우리가 의식하는 것은 ‘무엇을 하는지’에 국한되지 않는다. ‘무엇인지’가 중요하다. 공장은 제품을 만들지만 스스로를 만들지 못한다. 컴퓨터는 정보를 처리하지만 스스로의 물질적 존재를 재생산하지 못한다. 살아있는 생명체는 다르다. 스스로를 만들고 유지한다. 의식은 바로 이런 생명체의 본질적인 특성에서 나온다는 주장이다. 마이클 레빈(Michael Levin) 그룹의 제노봇(xenobots) 연구는 생물학적 물질 자체가 지닌 놀라운 ‘행위 주체성(agential nature)’을 보여주며 이 주장에 힘을 싣는다. 인간의 기도 세포로 만든 ‘앤스로봇(anthrobots)’이 스스로 움직이는 것을 보면, 생물학적 물질의 잠재력은 우리가 생각하는 것 이상이다.
AI 의식, 현실적 시나리오는?
세스 교수는 AI 의식의 가능성을 다섯 가지 시나리오로 분류한다. 이 표는 그의 논의를 가장 잘 요약한다.
| 시나리오 | 의식의 성격 | AI 의식 가능성 | 비고 |
|---|---|---|---|
| 1. 순진한 동반자적 의식 | AI가 똑똑해지면 저절로 의식 생김 | 매우 낮음 | 심리적 편향, 컴퓨터 기능주의의 미검토 가정에 기반 |
| 2. 이론 기반 계산적 의식 | 의식은 계산의 한 형태, 특정 이론에 따라 설계됨 | 중간 | 컴퓨터 기능주의와 실리콘 기판 유연성 전제 |
| 3. 기판 의존적 계산적 의식 | 의식은 계산의 한 형태, 특정 기판에서만 구현됨 | 낮음 | ‘죽을 수 있는 계산’, 생물학적 기판의 특수성 강조 |
| 4. 기판 의존적, 약한 형태 | 의식은 기판 의존적 비계산적 기능적 속성에 좌우됨 | 낮음 | 예측 처리, 자유 에너지 원리와 호환되는 약한 생물학적 자연주의 |
| 5. 기판 의존적, 강한 형태 | 의식은 물질적 생물학적 기반의 내재적 속성에 좌우됨 | 매우 낮음 (AI가 ‘살아있지 않다면’) | 강한 생물학적 자연주의, 의식이 생명체의 본질과 분리될 수 없음 |
이 표를 보면, 생물학적 자연주의는 시나리오 4와 5에 해당한다. 만약 의식이 생물학적 특성에 깊이 뿌리내린다면, 현재 AI가 지향하는 ‘하드웨어와 독립적인 소프트웨어’ 방식으로는 진정한 인공 의식이 탄생하기 어렵다.
세스 교수의 결론은 명확하다. 진정한 인공 의식은 현재의 AI 개발 궤적에서는 나타나지 않을 가능성이 크다. AI가 더 ‘뇌처럼’ 되고, 더 ‘생명체처럼’ 될 때만, 즉 생물학적 시스템에 가까워질수록 가능성이 커진다는 것이다. 이는 단순히 연산을 잘하는 기계를 만드는 것을 넘어, 생명체가 가진 복잡하고 자기 재생산적인 특성까지 모방해야 함을 의미한다.
정말 그럴까? 우리가 AI를 너무 과대평가하는 것은 아닐까? 반대로 우리 자신, 즉 생명체로서의 인간의 의식을 너무 쉽게 기계에 투영하려는 것은 아닐까 하는 질문을 던진다. 의식을 가졌다고 믿을 만한 AI가 등장했을 때의 윤리적 문제는 물론이고, 과연 의식 없는 기계에게 ‘의식이 있는 척’하도록 만드는 것이 맞는 방향인지 모르겠다.
개인적으로는 이 논문이 기술의 발전에 대한 막연한 환상에 브레이크를 걸고, 인간과 생명체의 본질에 대한 성찰을 유도한다는 점에서 큰 의미가 있다고 본다. 만약 당신도 AI 의식 논쟁에 흥미가 있다면, 이 논문은 한 번쯤 읽어볼 만하다. 우리의 ‘마음’이 그렇게 값싼 것은 아닐 수도 있다.
출처
- Seth, A. K. (forthcoming). Conscious artificial intelligence and biological naturalism. Behavioral and Brain Sciences.