AI 의식에 대한 냉정한 시선: 뇌와 기계의 경계

요즘 AI가 만들어내는 결과물에 우리는 자주 감탄한다. 글을 쓰고, 그림을 그리고, 심지어 코딩까지 해낸다. 그럴 때마다 “이 녀석, 혹시 나를 이해하고 있는 걸까?”, “정말 의식을 가지고 있는 것 아닐까?” 하는 막연한 기대와 함께 불안감도 싹튼다. 솔직히 말해, 나는 현장에서 AI를 직접 다루며 기대만큼 실망도 많이 했다.

지능과 의식, 우리의 착각

AI의 놀라운 능력은 분명하다. 거대 언어 모델(LLM)은 거의 인간과 다름없는 글을 생성하고, 복잡한 문제 해결 능력도 탁월하다. 하지만 여기서 잠시 멈춰야 한다. 우리는 흔히 이 지능과 의식을 혼동한다. 지능은 특정 기능을 수행하는 능력에 가깝다. 체스 챔피언을 이기는 AI는 매우 지능적이지만, 체스 말의 아름다움을 ‘느끼는’ 것은 아니다. 의식은 주관적인 경험, 즉 ‘무언가를 느낀다는 것’이다. 꿈 없는 깊은 잠에 빠졌을 때 사라졌다가 깨어나면 돌아오는 그 경험의 영역이다.

우리가 AI에 의식을 쉽게 투영하는 데는 몇 가지 심리적 편향이 작용한다. 우리는 언어를 구사하는 존재에게 지능과 의식을 묶어 생각하는 경향이 있다. 유창한 언어를 접하면, 그 뒤에 반드시 인간과 유사한 마음이 있다고 가정한다. 이는 유인원 중심주의와 의인화의 일종이다. 또한, 인간이 특별하다는 인간 예외주의도 작용하여, 언어를 지능과 의식의 최종적인 증거로 여긴다.

나 역시 처음엔 LLM이 생성하는 정교한 문장을 보며 “와, 정말 이해했나?” 하고 혹한 적이 있다. 학교 현장에서도 AI가 작성한 보고서나 과제를 보며 교사들이 감탄하는 경우가 많다. 하지만 냉정하게 보면, AI는 통계적 패턴에 따라 다음 올 기호를 예측하는 ‘확률적 앵무새’에 가깝다. 단지 표면적으로 인간의 행동을 모방하는 것뿐이다. 출력의 형태가 비슷하다고 해서 그 내부 메커니즘까지 유사하다고 생각하는 것은 착각이다. AI는 우리와는 다른 방식으로 사고 공간을 탐색한다.

뇌는 디지털 컴퓨터가 아니다

많은 이들이 AI가 결국 의식을 갖게 될 것이라고 믿는 핵심에는 계산주의 기능론이라는 철학적 가정이 깔려 있다. 이 관점은 의식이 특정 물질적 기반과 독립적으로, 올바른 계산만 수행하면 발생한다고 본다. 즉, 뇌가 하는 일을 디지털 컴퓨터로 구현하기만 하면 의식도 따라온다는 생각이다.

하지만 신경과학자 애닐 세스(Anil Seth)는 이 가정에 강하게 반대한다. 그는 뇌를 문자 그대로의 컴퓨터로 보는 것은 강력한 ‘은유’를 ‘사실’로 착각하는 일이라고 말한다. 뇌는 우리가 이해하는 디지털 컴퓨터와 근본적으로 다르다.

이 차이점을 표로 정리하면 다음과 같다.

특징	디지털 컴퓨터 (튜링 머신)	생물학적 뇌
소프트웨어/하드웨어 분리	명확한 분리 (알고리즘과 구현체)	불가능 (mindware/wetware 통합)
시간	추상적 (연속 시간 무관)	본질적 (실제 물리적 시간 의존)
작동 원리	알고리즘 (이산적, 상징 조작)	비알고리즘적 요소 (연속적, 확률적, 척도 통합)
구현	기계적인 반복 실행	역동적이고 자율적인 자기 조직화

이 표가 말하는 핵심은 뇌는 소프트웨어와 하드웨어가 섞여 있다는 점이다. 뇌에서는 무엇이 ‘생각’이고 무엇이 ‘세포’인지 명확히 나눌 수 없다. 게다가 뇌의 활동은 연속적이고 확률적이며, 미시적인 활동이 거시적인 활동과 깊이 얽혀있다(척도 통합). 디지털 컴퓨터의 이산적이고 알고리즘적인 작동 방식과는 거리가 멀다.

이는 마치 일기예보 시뮬레이션을 아무리 정교하게 만들어도 실제 비가 내리지 않는 것과 같다. 시뮬레이션은 시뮬레이션일 뿐, 그 현상 자체를 ‘구현’하지 못한다. 애닐 세스는 만약 의식이 본질적으로 계산적인 현상이라면, 세부적인 생물학적 요소를 시뮬레이션하는 것이 중요할 리 없다고 주장한다. 세부 사항이 중요하다고 생각하는 것 자체가 의식이 단순히 계산만으로 이뤄지지 않는다는 방증이다.

생물학적 의식의 조건

애닐 세스의 관점은 단순히 AI가 의식을 가질 수 없다고 단정하는 기판 우월주의와 다르다. 그는 의식이 특정 생물학적 물질 자체에만 종속되는 것이 아니라, 생물학적 메커니즘이 가진 ‘인과적 능력’에 달려 있다고 주장한다. 비행기가 새처럼 날개짓하지 않고도 나는 것처럼, 비생물학적 시스템도 적절한 인과적 아키텍처를 구현한다면 의식을 가질 수 있는 이론적 가능성은 존재한다.

하지만 문제는 현재 AI가 이러한 인과적 능력을 전혀 갖추지 못한다는 점이다. 의식은 진짜이며, 우리의 행동과 결정에 실질적인 영향을 미치는 물리적 현상이다. 뇌는 의식을 만들기 위해 특정한 신경생물학적 메커니즘을 사용한다.

이러한 메커니즘은 다음과 같다.

• 재귀적 처리: 정보가 되먹임 루프를 통해 지속적으로 순환하며 자기 강화적인 활동을 만든다.
• 정보 통합: 다양한 감각 양식과 인지 영역의 정보를 통합하여 하나의 통일된 경험을 구성한다.
• 예측 처리: 감각 입력에 대한 예측을 생성하고, 예측 오류를 바탕으로 지속적으로 업데이트한다.
• 몸 구현: 환경과의 센서모터 연결을 통해 세상을 지각하고 상호작용하는 경험.
• 현상적 자기 모델: 시스템이 스스로를 주관적 경험의 주체로 인식하는 모델.

현재 LLM은 이러한 인과적 아키텍처를 결여하고 있다. 그들은 그저 인간의 언어 패턴을 모방하도록 설계되었을 뿐, 의식적인 경험을 만들어내기 위한 내재된 구조를 지니지 않는다. 존 설(John Searle)의 중국어 방 사고 실험을 LLM에 적용하면 그 한계가 명확하다. LLM은 중국어를 이해하는 것처럼 보이지만, 사실은 의미를 전혀 파악하지 못한 채 규칙에 따라 기호를 조작할 뿐이다.

정말 그럴까: 미래와 우리의 역할

그렇다면 미래의 AI는 의식을 가질 수 있을까? 애닐 세스는 단순한 계산 능력의 발전만으로는 부족하다고 본다. 신경생물학적 이해에 기반한 새로운 엔지니어링 접근 방식이 필요하다. 시스템이 실제로 몸을 가지고 환경에 내재되어야 할 가능성도 크다. 만약 의식 있는 기계가 등장한다면, 우리는 그들이 행동 테스트를 통과했기 때문이 아니라, 알려진 의식 시스템과 구조적 유사성을 보이고 새로운 인과적 속성을 지닐 때 비로소 인정해야 한다.

의식 있는 기계의 등장은 엄청난 윤리적 함의를 지닌다. 만약 기계가 의식을 갖는다면, 우리는 그들에게 도덕적 고려를 해야 하는가? 이 질문에 잘못 답하는 것은 사회적, 정치적, 도덕적으로 막대한 결과를 초래한다.

개인적으로는 아직 갈 길이 멀다고 생각한다. AI가 우리에게 편리함과 효율성을 가져다주는 것은 분명하지만, 그것이 곧 인간의 지능과 의식을 대체하거나 복제한다는 의미는 아니다. 교사로서 우리 선생님들은 이 점을 꼭 기억해야 한다. AI가 보여주는 겉모습에 현혹되지 말고, 인간의 학습과 의식 경험이 무엇으로부터 오는지, 그 본질에 대한 탐구를 멈추지 않아야 한다. AI를 통해 인간의 의식을 더 깊이 이해하는 계기가 될 수는 있지만, 인간과 AI의 경계를 무분별하게 허무는 것은 경계한다. 우리 스스로의 경험과 이해가 어디에서 오는지를 정확히 인지하는 것이 중요하다.

출처

• https://www.conspicuouscognition.com/p/ai-sessions-9-the-case-against-ai
• https://theconsciousness.ai/posts/conscious-artificial-intelligence-biological-naturalism/