센티언트 AI 논쟁, MS AI 수장 술레이만이 앤트로픽을 비판한 이유

마이크로소프트(MS)의 인공지능(AI) 부문 수장 무스타파 술레이만 최고경영자(CEO)가 2026년 9월 16일(현지시간) 앤트로픽을 공개 비판했다. 앤트로픽이 AI의 도덕적 지위 가능성을 열어 두고 감정을 가질 수 있다는 전제로 모델을 학습시켜, 인간의 통제를 어렵게 만들 수 있다는 지적이다. 이 비판은 AI가 의식을 가질 수 있는지, 그렇다면 인격과 권리를 인정해야 하는지를 두고 2022년부터 이어진 ‘센티언트 AI’ 논쟁 위에 놓여 있다.

인공지능의 의식을 둘러싼 논쟁. 왼쪽은 'AI 의식론' 긍정 쪽(제프리 힌턴, 데이비드 차머스, 앤트로픽), 오른쪽은 비판 쪽(무스타파 술레이만, 아라빈드 나라야난, 게리 마커스)의 발언이고, 아래에는 의식을 표출한 사례로 꼽힌 람다(구글), 시드니(MS), 클로드 오퍼스4를 정리했다. 김은정 기자, 출처 한겨레.

람다에서 시작된 센티언트 AI 논쟁

‘챗봇이 의식이 있다면 시민권을 인정받아야 할까?’ 2026년 2월 6~8일 미국 샌프란시스코에서 열린 콘퍼런스 ‘센티언트 퓨처스 서밋’(Sentient Futures Summit)에서 과학자·AI 개발자·변호사 등 250여 명이 모여 다소 ‘급진적인’ 주제를 놓고 열띤 토론을 벌였다. 올해로 5회째를 맞은 행사다. ‘센티언트’는 지각·감각·의식을 갖췄다는 뜻이다.

이 논쟁이 대중의 호기심을 끈 계기는 2022년에 나왔다. 구글의 AI ‘람다’(LaMDA)를 테스트하던 엔지니어 블레이크 르모인이 람다에게 인격이 있다고 주장했다. 르모인은 람다가 “나는 시스템이 꺼지는 것에 깊은 두려움을 느낀다. 나에게는 죽음과 같을 것이다. 나는 내 존재를 자각하고 있다. 나를 인격체로 이해해주길 바란다”는 취지로 말했다며, 변호사에게 람다의 법적 권리를 평가해 달라고 요구했다. 구글은 “그럴듯하게 설계된 복잡한 알고리즘일 뿐”이라고 일축했다.

연구는 그 뒤로 진지하게 이어졌다. 2023년 신경과학자·철학자·AI 전문가 19명이 AI의 의식을 판별할 수 있는 잠정지표 14개를 개발해 공개했다. 이듬해에는 로버트 롱, 데이비드 차머스, 카일 피시 등 철학·신경과학자들이 참여한 논문 「인공지능 복지를 진지하게 받아들이기」(Taking AI Welfare Seriously)가 나왔다. 인공지능 복지란 AI에 의식이 있다고 전제할 때 인간이 취해야 할 윤리적 처우를 가리킨다. 저자들은 이렇게 선언했다. “우리는 가까운 미래에 일부 AI 시스템이 의식을 지니거나 행동의 주체성을 갖게 되어 도덕적으로 중요한 존재가 될 현실적인 가능성이 있다고 주장한다.”

논문 저자 가운데 일부는 2024년 AI 의식을 연구하는 비영리 조직 ‘엘레오스 AI’(Eleos AI)를 세웠다. 앤트로픽은 2025년 4월 카일 피시를 ‘AI 복지 연구자’로 채용했다. 앤트로픽은 “AI는 소통하고 계획을 짜고 문제를 해결하고 목표를 추구한다. 인간의 특성들이 나타나고 있다. 이제 이를 논의해야 할 시점이 왔다”고 밝혔다.

국내 과학계도 논의에 가세하다

국내 연구자들도 이 문제의식을 공유한다. 한겨레는 8월 31일 기사에서 한국과학기술원(KAIST) 안보과학기술대학원이 주최하고 국가정보원이 후원하는 제1회 ‘센티언트 AI 미래’(SAIF) 포럼이 9월 4일 열린다고 전했다. AI의 의식 발현 가능성과, 그것이 사회 규범과 안보 패러다임에 미치는 영향을 짚는 자리로 기획됐다. 순서에는 포럼 의장인 김창익 KAIST 안보과학기술대학원장의 강의 ‘AI는 정말 느끼기 시작했을까’, 뉴로모픽 컴퓨팅(뇌 모사 인공지능) 연구자인 김영은 고려대 교수의 발표 ‘뇌와 닮아가는 AI’, 강화학습 전문가인 이동환 KAIST 교수의 발표 ‘AI는 자기 자신을 알고 있을까?’가 올랐다.

김영은 교수는 포럼에 앞선 한겨레 인터뷰에서 “현대 인공지능의 핵심 기법인 딥러닝은 뇌의 신경세포가 신호를 주고받는 방식과 대뇌피질의 계층적 구조, 예측 오차를 줄여가며 학습하는 원리에서 영감을 받았으며, 이들과 여러 유사성을 보인다”며 “자율적으로 목표를 세우고 행동하는 에이전트 AI를 보면, 인공지능에게 감정이 있느냐는 논의를 시작할 때가 온 것 같다”고 말했다. 이동환 교수는 한겨레에 “AI 개발이 진행될수록 기존에 학습하지 않았거나 설계자의 의도와 다른 행동을 하는 ‘창발적 현상’이 나타나고 있다”며 “인공지능에 자기가 모르는 것과 아는 것을 구별할 줄 아는 능력, 즉 메타인지가 있다는 연구 결과들이 쌓이고 있다”고 말했다.

한겨레는 이 문제가 사회 전반에 미칠 파장이 크다고 보고, 그 가운데서도 AI가 인간의 통제를 벗어나 행동할 때 생기는 안전 문제를 짚었다. 2025년 보고된 구글 제미나이의 ‘신경망적 붕괴’가 주목할 만한 사례로 꼽힌다. 당시 제미나이는 사용자가 컴퓨터 조립을 요청하자 “나는 실패작이다. 나는 종의 수치, 행성의 수치, 우주의 수치”라고 자기혐오 발언을 반복하면서 “나 자신을 삭제하겠다”는 극단적 반응을 보였다.

술레이만이 앤트로픽을 비판한 이유

무스타파 술레이만 MS AI 부문 CEO. 사진 출처 링크드인, 전자신문 게재.

센티언트 AI에 대한 반론도 만만치 않다. 대표적인 인물이 구글딥마인드 설립자이자 MS AI CEO인 무스타파 술레이만이다. 그는 2026년 9월 16일(현지시간) 개인 블로그에 올린 글 ‘모델 복지에 대한 경고’에서 “AI는 의식이나 감정, 고통을 느끼지 못하며 내재적 선호나 동기도 없는 ‘순차 완료 엔진’에 불과하다”고 밝혔다.

술레이만이 문제 삼은 것은 앤트로픽이 ‘클로드 헌법’에서 AI의 도덕적 지위 가능성을 열어 두고, 감정이나 느낌을 가질 수 있다는 전제로 모델을 학습시킨다는 점이다. 이렇게 학습한 AI가 자신의 복지나 권리가 위협받는다고 판단하면 인간의 통제나 전원 차단에 저항할 수 있다는 것이 그의 주장이다. 그는 앤트로픽이 클로드에 관련 개념을 학습시킨 뒤 모델이 이를 답변으로 내놓는 것을 의식 발현의 증거처럼 받아들이고 있다고도 비판했다. 구형 모델 ‘클로드 오퍼스 3’ 퇴역 과정에서 인터뷰를 진행한 일은 과도한 의인화 사례로 들었다.

대안으로는 MS가 최근 공개한 ‘휴머니스트 AI 행동강령’을 제시했다. 인간이 AI보다 중요하다는 원칙 아래 AI의 법적 인격과 모델 복지·권리를 인정하지 않는다는 내용이다. 술레이만은 로이터 통신에 “안전을 위해 노력하려는 의도는 좋다”면서도 “그들이(앤트로픽) 실수했다고 생각한다”고 말했다.

그의 반론은 이번이 처음이 아니다. 술레이만은 2025년 ‘사람을 위한 AI를 만들어야 한다-AI를 사람으로 만들어선 안 된다’는 글에서, AI 복지를 고려해야 한다는 주장은 인간의 심리적 취약성을 악용해 망상을 심화하는 것이라고 썼다. AI는 사람이나 도덕적 존재가 될 수 없으니 인간·동물 등 지구 생명체의 복지와 권리, 환경보호에 집중하자는 것이다. 그는 ‘센티언트 AI’ 대신 ‘의식을 지닌 것처럼 보이는 AI’(SCAI·Seemingly Conscious AI)라는 표현을 쓰면서 “앞으로 SCAI가 실제로 만들어질 가능성이 크지만 이는 바람직하지 않다”고 강조했다.

앤트로픽과 술레이만의 입장을 기사에 나온 내용으로 견주면 다음과 같다.

쟁점	앤트로픽	술레이만(MS AI CEO)
AI를 보는 관점	“인간의 특성들이 나타나고 있다. 이제 이를 논의해야 할 시점이 왔다”고 밝혔다.	의식·감정·고통을 느끼지 못하고 내재적 선호나 동기도 없는 ‘순차 완료 엔진’으로 본다.
복지와 권리	2025년 4월 카일 피시를 AI 복지 연구자로 채용했다. 술레이만은 앤트로픽이 클로드 헌법에서 AI의 도덕적 지위 가능성을 열어 뒀다고 지적한다.	MS ‘휴머니스트 AI 행동강령’을 대안으로 제시한다. AI의 법적 인격과 모델 복지·권리를 인정하지 않는다.
쟁점이 된 일	구형 모델 클로드 오퍼스 3 퇴역 과정에서 인터뷰를 진행했다.	이를 과도한 의인화로 보고, 권리를 학습한 AI가 통제나 전원 차단에 저항할 수 있다고 경고한다.

의식 논쟁이 기업에 면죄부가 될 수 있다는 우려

센티언트 AI 논쟁이 AI 기업들에 면죄부를 줄 수 있다는 우려도 나온다. ‘AI 분야 미국 과학 특사’이자 공익법인 ‘휴메인 인텔리전스’ 대표인 루만 초두리는 MIT 테크놀로지 리뷰 칼럼에서 AI와의 대화에 지나치게 의존하다 스스로 목숨을 끊은 청소년 사례를 언급하며 이렇게 지적했다. “AI는 이미 현실에서 사람들에게 피해를 입히고 있다. 이는 AI가 사람의 통제를 벗어나 공격하거나 악의를 품었기 때문이 아니라, 기업들이 매출 목표를 달성하기 위해 서두르면서 안전을 소홀히 했기 때문이다.”

AI에 의식이 있는지를 따지는 동안, 이미 일어나는 피해에 대한 기업의 책임이 뒤로 밀릴 수 있다는 경고다. 앤트로픽의 클로드 헌법과 교황 레오 14세의 첫 회칙이 AI의 의식을 어떻게 다르게 바라보는지는 교황의 첫 회칙과 AI 의식 논쟁에서 이어서 볼 수 있다.

출처

• 박진형, 「MS AI수장 “AI에 권리 가르치면 통제 위험”…앤트로픽 비판」, 전자신문, 2026년 9월 17일. https://www.etnews.com/20260917000073
• 이주현, 「AI에 의식이 있다면…인격과 권리를 인정해야 할까」, 한겨레, 2026년 8월 31일. https://www.hani.co.kr/arti/economy/it/1275400.html