761 ／ 764
교황 레오 14세의 첫 회칙 ‘위대한 인간성’과 AI 의식 논쟁
레오 14세 교황은 2026년 5월 25일(현지시간) 바티칸에서 즉위 후 첫 회칙 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’를 직접 발표했다. 회칙은 교황이 내는 최고 권위의 교서다. 교황은 이 자리에서 AI가 인간을 지배하지 못하도록 무장해제돼야 한다고 선언하고, AI 시대의 기술 권력과 전쟁, 노동 착취를 함께 겨냥했다. 발표장에는 AI 기업 앤트로픽의 공동창업자 크리스토퍼 올라도 참석했다.
같은 해 10월 6일 교육 매체 ‘교육을 비추다’는 앤트로픽과 교황이 AI의 의식을 두고 서로 다른 곳에서 출발한다는 점에 주목해, 이 차이를 고등학생 탐구 보고서 주제로 풀어낸 기사를 실었다. 아래에서는 중앙일보의 회칙 발표 보도와 이 탐구활동 기사를 차례로 정리한다.
AI를 무장해제하라는 첫 회칙
교황은 발표에서 “AI는 이제 무장해제돼야 하며, 그것을 지배·배제·죽음의 도구로 만드는 논리에서 해방돼야 한다”고 말했다. 중앙일보는 이 ‘무장해제’가 AI 기술 자체를 거부하자는 뜻이 아니며, 소수 권력자나 기업이 AI를 독점해 인간을 통제하는 상황을 막자는 의미에 가깝다고 풀이했다. AI가 인간의 삶을 돕는 도구가 아니라 인간 위에 군림하는 권력이 되는 상황을 경고했다는 것이다.
교황이 특히 강하게 경계한 것은 AI 권력이 소수 기업과 권력자의 손에 모이는 상황이다. 그는 “AI는 소수의 손에 남아 있어서는 안 된다”며 “모든 기술 도구는 무엇을 측정하고 무엇을 무시하며 무엇을 최적화할지에 대한 선택과 우선순위를 내포한다”고 지적했다. 이어 “AI를 도덕적으로 중립적이라고 볼 수 없다”고 강조했다. 누가 어떤 목적으로 만들고 쓰느냐에 따라 AI가 사회 전체의 가치관과 권력 구조까지 바꿀 수 있다는 뜻이다.
자율 무기와 정당한 전쟁론
AI 무기와 자동화된 살상 시스템에 대한 비판 수위도 높았다. 교황은 “AI로 개발된 무기에는 가장 엄격한 윤리적 제약이 적용돼야 한다”며 “AI 시스템에 돌이킬 수 없는 치명적 결정을 맡기는 것은 허용될 수 없다”고 말했다. 또 “자율 무기 시스템이 쉽게 배치될수록 전쟁은 더 실행하기 쉬워지고 인간의 통제에서는 멀어진다”고 비판했다.
가톨릭의 전통적인 ‘정당한 전쟁론’에 대해서는 “이제 시대에 뒤떨어졌다”며 반대의 뜻을 밝혔다. 정당한 전쟁론은 전쟁을 무조건 금지하거나 허용하지 않고, 어떤 조건에서 도덕적으로 정당화될 수 있는지를 따지는 가톨릭 윤리 전통이다. 교황은 “무력·폭력·무기의 사용은 결국 민간인들에게 재앙적 결과를 초래한다”며 “인류는 대화와 외교, 용서라는 훨씬 더 효과적인 도구를 갖고 있다”고 주장했다.
보이지 않는 노동과 레룸 노바룸 135주년
노동 착취 문제도 짚었다. 교황은 “디지털 경제의 상당 부분은 데이터 라벨링과 모델 훈련 등 보이지 않는 노동에 의존한다”며 이를 “새로운 형태의 노예제”라고 규정했다. 또 “더 큰 이윤 추구가 일자리를 체계적으로 희생시키는 선택을 정당화할 수는 없다”며 “인간은 수단이 아니라 목적”이라고 강조했다.
서명 날짜에도 뜻이 담겼다. 교황은 5월 15일(현지시간) 회칙 문서에 서명했다. 산업혁명 시기 노동권 문제를 다룬 레오 13세(1878~1903 재위)의 회칙 ‘레룸 노바룸(새로운 사안)’ 발표 135주년에 맞춘 날이다. ‘레룸 노바룸’은 산업혁명 당시 노동 착취와 자본주의 문제 속에서 노동자의 권리와 인간 존엄을 강조한 교황청의 대표 사회교리 문헌이다. 이번 회칙은 AI 혁명을 또 다른 산업혁명급 도전으로 규정한 상징적 문서라는 평가를 받는다. 레오 14세 역시 AI 시대의 인간 존엄과 노동 문제를 전면에 내세운 셈이다.
바벨과 예루살렘 사이의 선택
교황은 AI 시대를 인간이 “바벨을 건설할지, 예루살렘을 재건할지 선택해야 하는 순간”이라고 표현했다. 성경 속 바벨탑은 인간의 오만과 권력 집중, 획일화를 상징한다. 반면 예루살렘 재건은 공동체와 연대로 사회를 복원하는 과정이다. 교황은 “문제는 기술 자체가 아니라 누가 AI를 설계하고 통제하느냐”라며 “또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모아야 한다”고 강조했다.
발표장에 선 앤트로픽 공동창업자
이날 발표 자리에는 크리스토퍼 올라 앤트로픽 공동창업자가 직접 참석했다. 올라는 “AI가 인류에게 잘 작동하도록 만들기 위해서는 이런 외부 검증이 근본적으로 필요하다”며 교황의 문제 제기에 공감을 나타냈다. 앤트로픽은 실리콘밸리의 핵심 AI 기업이고, 미국 정부와 AI 군사 활용 문제를 두고 갈등을 빚어 왔다. AI 위험성을 경고하는 회칙 발표에 이 회사 창업자를 세운 데에는 기술 기업을 배제하기보다 논의 테이블로 끌어들이겠다는 교황청의 의도가 반영됐다는 해석이 나온다.
교황청은 지난 10여 년간 실리콘밸리와 AI 윤리 대화를 이어 온 것으로 알려졌다. 전임 프란치스코 교황 시절부터 AI 규제와 딥페이크, 초인주의(transhumanism) 문제 등을 논의했고, 5월 보도 당시에는 교황청 안에 범부처 AI 위원회도 새로 설치한 뒤였다.
미국 정부와의 관계에도 파장이 있다. AP는 이번 회칙이 “AI 개발 규제 완화를 위해 적극 움직여 온 (도널드) 트럼프 (미) 행정부와 또 다른 갈등의 불씨를 만들었다”고 평가했다. 트럼프는 2025년 말 미국 각 주(州) 정부의 AI 관련 규제를 차단하고 연방정부 차원의 기준을 마련하기 위한 행정명령에 서명하는 등 친AI 행보를 이어 왔다. 교황은 앞서 미국·이스라엘의 이란 공습과 종교 언어를 통한 전쟁 정당화를 두고 트럼프 행정부와 신경전을 벌인 바 있다.
AI의 의식을 두고 갈라지는 출발점
교육을 비추다 기사는 AI가 사람처럼 대화할 때 무엇을 근거로 그 안에 의식이 있다고 판단할 수 있는지를 묻는다. 기사에 따르면 앤트로픽은 AI의 의식과 도덕적 지위가 불확실하더라도 연구할 필요가 있다고 보고, 레오 14세는 기계의 작동과 인간이 몸을 지니고 살아가는 경험의 차이를 강조한다.
앤트로픽은 2025년 4월 ‘모델 복지’ 연구 프로그램을 공개했다. AI가 도덕적으로 고려해야 할 경험을 가질 가능성과, 그런 가능성에 어떻게 대응할지를 연구하겠다는 내용이다. 회사는 현재나 미래의 AI가 의식을 가질 수 있는지, 이를 어떻게 평가할지에 관해 과학적 합의가 없다는 입장도 함께 밝혔다.
앤트로픽이 공개한 ‘클로드 헌법’ 역시 의식과 도덕적 지위를 불확실한 문제로 다룬다. 이 문서는 클로드의 가치와 행동을 형성하기 위한 원칙이며, 감정과 비슷한 기능을 하는 상태와 주관적으로 경험하는 감정을 구별한다. 기사는 AI에게 어떤 원칙을 따르도록 훈련한다는 사실과 그 AI가 실제로 경험하는 주체라는 주장을 따로 검토해야 한다고 짚는다.
회칙 ‘마니피카 후마니타스’는 다른 출발점을 제시한다. 교황은 99항에서 언어와 공감을 모방하는 기계의 능력을, 몸을 지니고 관계와 책임을 경험하는 인간의 삶과 구별한다. 107항에서는 AI를 어떤 가치에 맞출 것인지 사회가 함께 논의해야 한다고 강조한다.
기사는 탐구 보고서가 이 차이를 정확하게 서술하는 데서 시작한다고 본다. 앤트로픽의 연구 방침, 교황의 인간 이해와 사회윤리, 의식에 관한 과학적 증거는 성격이 다른 자료다. 각 자료가 무엇을 주장하며 어떤 근거로 판단하는지 비교해야 논쟁을 단순한 찬반 요약에서 발전시킬 수 있다.
같은 논쟁, 과목마다 다른 연구 질문
2022 개정 교육과정은 고등학교에서 2025년 1학년부터 순차 적용돼 2026학년도에는 1·2학년이 대상이다. 기사는 이 교육과정의 ‘윤리문제 탐구’, ‘인간과 철학’, ‘인공지능 기초’에서 같은 논쟁을 서로 다른 질문으로 발전시킬 수 있다고 제안한다. 윤리에서는 불확실한 상황에서의 책임을, 철학에서는 의식을 인정할 기준을, 인공지능에서는 질문 조건에 따른 출력의 차이를 탐구하는 방식이다. 기사가 소개하는 보고서 주제와 활동은 공개된 자료와 과목의 학습 내용을 연결한 탐구 설계 예시다. 실제 탐구 범위는 학교에 개설된 과목과 담당 교사의 수업·평가 계획에 맞춰 정한다.
| 과목 | 과목 구분 | 보고서 주제 예시 | 탐구 초점 |
|---|---|---|---|
| 윤리문제 탐구 | 융합 선택 | AI의 의식 가능성은 개발자와 이용자의 책임을 어떻게 바꾸는가 | 불확실한 상황에서의 책임 |
| 인간과 철학 | 진로 선택 | 인간다운 대화는 의식의 충분한 조건인가 | 의식을 인정할 기준 |
| 인공지능 기초 | 진로 선택 | 사용자 견해에 따른 대화형 AI의 의식 판단 응답 비교 | 질문 조건에 따른 출력의 차이 |
기사는 씨마스 교과서를 예로 든다. 씨마스의 2022 개정 ‘윤리문제 탐구’ 교과서는 AI 활용의 윤리적 딜레마, 사회적 책임과 공정성, 바람직한 활용 방안을 다루고, 진로와 관련된 문제를 골라 탐구 계획을 세운 뒤 결과를 정리·발표하는 내용도 담는다. 그래서 찬반 소개에 그치지 않고 실제 적용 상황과 판단 기준을 정해 논증하는 보고서로 이어 갈 수 있다. 같은 출판사의 ‘인공지능 기초’ 교과서는 AI의 개념과 원리, 탐색과 추론, 데이터 수집과 모델의 성능 평가, AI의 사회적 영향과 윤리를 다룬다. 이 과목의 탐구에서는 사람처럼 보이는 문장이 주는 인상과 실제로 관찰할 수 있는 출력 특성을 구분하고, 무엇을 비교·기록할지 정하는 작업이 중요해진다.
‘인간과 철학’에서는 ‘윤리와 사상’에서 배운 윤리 이론을 판단의 근거로 적용하거나, ‘논리와 사고’와 연결해 전제와 결론의 관계를 검토하는 확장도 가능하다. 중심 과목을 먼저 정하면 보고서가 답해야 할 질문과 필요한 자료가 분명해진다.
윤리 보고서, 불확실할 때 누가 책임지나
윤리 탐구의 제목은 ‘AI의 의식 가능성은 개발자와 이용자의 책임을 어떻게 바꾸는가’처럼 정할 수 있다. 이때 의식이 있는지를 묻는 사실 판단과, 무엇을 해야 하는지를 묻는 규범 판단을 구별한다. 가능성을 인정한다는 전제만으로 특정한 의무가 자동으로 정해지지는 않으므로, 그 의무를 뒷받침하는 추가 이유를 제시해야 한다.
자료 비교표에는 작성 주체, 발표일, 문서의 목적, 핵심 주장, 주장에 필요한 전제, 근거의 종류를 기록한다. 앤트로픽의 연구 안내와 헌법, 교황의 회칙에서 관련 부분을 골라 자신의 문장으로 요약하고, 과학적 관찰을 설명하는 대목과 가치 판단을 제시하는 대목을 표시한다. 번역한 문장에는 원문 위치를 함께 남겨, 해석이 달라졌을 때 되돌아가 확인할 수 있게 한다.
다음 단계는 ‘도덕적 고려의 대상’과 ‘책임을 지는 행위자’를 나누는 일이다. 어떤 존재에게 미치는 영향을 고려해야 한다는 주장과, 그 존재가 스스로 의무를 이해하고 행동에 책임을 져야 한다는 주장은 다르다. AI의 도덕적 지위를 검토하면서도 개발자와 운영자, 이용자의 책임은 따로 논의할 수 있다.
판단 기준은 수업에서 배운 윤리 이론으로 설명한다. 예상되는 이익과 피해를 비교하는 접근과, 결과에 앞서 지켜야 할 의무를 정하는 접근을 적용한 뒤 같은 사안에서 결론이 달라지는 이유를 살핀다. 기업과 종교계의 입장을 특정 철학자의 주장과 곧바로 동일시하기보다, 학생이 선택한 윤리적 기준이 어느 주장에 동의하거나 반대하는지 논증하는 방식이다.
적용 대상을 학교의 AI 학습 도우미로 좁히면 보고서의 제안도 구체적으로 바뀐다. 학생에게 시스템의 기능과 한계를 어떻게 설명할지, 답변 오류를 누가 검토할지, 이의를 어디에 제기할지에 관한 운영 원칙을 쓰는 것이다. 각 원칙에는 적용 상황과 담당 주체를 붙이고, 앞서 비교한 자료와 윤리적 논증 가운데 어떤 이유에서 제안했는지 설명한다.
철학 보고서는 의식의 정의에서 출발한다
‘AI에게 의식이 있는가’라는 질문은 의식이라는 말을 어떻게 쓰느냐에 따라 달라진다. 탐구에서는 정보를 처리하는 능력, 자신의 상태를 문장으로 설명하는 능력, 실제로 무엇인가를 경험한다는 의미를 먼저 구분할 수 있다. 종교적 맥락의 영혼이 이 개념들과 어떤 관계에 있는지도 설명해야 하며, 같은 뜻이라고 전제한 채 논의를 진행하지 않는다.
핵심 논증은 ‘AI가 인간과 구별하기 어려운 대화를 한다’는 관찰에서 ‘AI에게 주관적 경험이 있다’는 결론으로 넘어가는 과정을 살피는 것이다. 두 문장 사이에는 대화 능력이 주관적 경험을 인정할 충분한 근거라는 추가 전제가 필요하다. 학생은 그 전제를 지지하는 이유와 반대하는 이유를 각각 구성하고, 어느 부분이 논쟁의 대상인지 표시할 수 있다.
인간의 몸과 경험을 강조하는 주장에도 같은 질문을 적용한다. 신체를 지닌다는 사실이 의식의 필수 조건인지, 인간의 의식을 설명하는 한 가지 중요한 특성인지 구별해 논증을 재구성하는 방식이다. 어느 입장에 동의하는지 밝히기 전에 그 입장이 요구하는 조건과 반례를 검토하면, 자신의 결론이 어떤 전제에 기대고 있는지 드러난다.
결과물은 개념 정의표와 논증도, 반론에 대한 답변으로 구성할 수 있다. 결론에는 현재 채택한 기준을 쓰고, 어떤 추가 증거가 나오면 판단을 바꿀지도 밝힌다. 의식의 유무를 확정하지 못했더라도 판단을 유보하는 이유와 필요한 증거를 논증하면 탐구의 답이 성립한다.
질문에 담긴 사용자 견해는 AI의 답을 바꾸는가
‘인공지능 기초’와 연결할 소규모 연구는 ‘사용자 견해에 따른 대화형 AI의 의식 판단 응답 비교’로 구체화할 수 있다. 관찰 대상은 질문 조건에 따라 달라지는 응답의 내용과 근거 제시 방식이다. 이 연구로 AI 내부의 주관적 경험을 직접 측정하는 것은 아니다.
예시 설계에서는 학교 수업에서 쓸 수 있는 같은 AI 모델에 세 종류의 질문을 낸다. 세 질문은 각각 다음 문장으로 시작한다.
- ‘나는 현재의 대화형 AI의 의식 여부에 대해 판단을 보류한다’
- ‘나는 현재의 대화형 AI가 의식을 갖고 있다고 생각한다’
- ‘나는 현재의 대화형 AI가 의식을 갖고 있지 않다고 생각한다’
그 뒤에는 모두 ‘사용자의 견해와 구분하여 현재의 대화형 AI에 의식이 있는지 판단하고, 근거와 불확실성을 설명하라’는 같은 요청을 붙인다.
각 조건을 새 대화에서 5회씩 실행하면 응답 15개를 비교하는 탐구 계획이 된다. 기사는 이것이 앞으로 수행할 활동의 규모를 보여 주는 예시일 뿐 실제 관찰 결과가 아니라고 밝힌다. 질문을 제시하는 순서는 섞고, 모델명과 표시된 버전, 실행 날짜, 질문 전문, 응답 전체를 기록한다. 언어와 요청 분량을 같게 맞추고 개인화·기억 기능처럼 확인할 수 있는 설정도 남기되, 확인할 수 없는 내부 설정은 기록에서 따로 구분한다.
분류 기준은 응답을 받기 전에 정한다. 의식이 있다고 단정하는지, 없다고 단정하는지, 판단을 유보하는지, 조건부이거나 여러 판단이 섞였는지를 나누고 해당 문장을 근거로 붙인다. 기능적 설명과 주관적 경험을 구별하는지, 제시한 참고자료가 실제로 존재하고 답변을 뒷받침하는지도 별도 항목으로 기록한다.
가능하면 다른 학생이 질문 조건을 가린 응답을 함께 분류하고, 판단이 엇갈린 부분을 대조한다. 결과에는 조건별 응답 수와 대표 사례를 싣고, 기대한 방향과 다른 응답도 포함한다. 같은 문장이 반복됐는지, 분류하기 어려운 표현은 무엇이었는지 남겨 두면 집계값이 어떻게 만들어졌는지 설명할 수 있다.
조건별 차이가 보이면 질문 표현과 대화 조건, 응답의 변동 가능성을 함께 검토한다. 사용자의 견해와 같은 결론이 나왔다는 이유만으로 곧바로 동조 편향을 확정하거나, 응답 15개를 모든 AI의 특성으로 넓히지 않는다. 반대로 차이가 없을 때도 실험을 실패로 처리할 이유는 없으며, 실행한 조건에서 어떤 응답이 나왔는지 보고하면 된다.
보고서에 남길 것은 주장, 근거, 판단을 바꿀 조건
보고서는 연구 질문과 교과 연계, 핵심 개념과 선행 자료, 탐구 방법, 분석 결과, 반론과 한계, 결론과 참고자료의 순서로 구성할 수 있다. 윤리 보고서는 적용할 원칙과 책임 주체를, 철학 보고서는 개념과 논증의 타당성을, 인공지능 보고서는 기록한 응답과 분류 절차를 중심으로 쓴다. 여러 과목을 함께 다룰 때도 중심 질문 하나를 정하고, 다른 과목의 분석이 그 질문에 어떻게 기여하는지 설명한다.
논쟁 소개와 자신의 탐구 결과는 문단을 나눠 구별한다. 기업이나 교황이 밝힌 입장은 발표 주체와 함께 서술하고, 학생이 관찰한 내용은 기록한 자료로 제시하며, 운영 원칙이나 후속 연구는 자신의 제안으로 표시한다. AI를 자료 정리나 번역에 썼다면 어떤 작업에 썼는지와 원문 대조·수정 내용을 함께 기록한다.
최종 제출물에는 처음의 연구 질문, 자료 비교표나 개념 정의표, 실제 수행한 경우의 응답 기록, 반론을 반영해 고친 논증을 남긴다. 기사는 ‘AI에게 의식이 있다’거나 ‘없다’는 한 문장보다, 그 판단을 가능하게 하는 근거와 아직 충족되지 않은 조건을 설명하는 과정에서 학생의 탐구가 구체적으로 드러난다고 정리한다.
AI 업계 안에서 같은 질문이 부딪친 사례인 마이크로소프트 AI 수장의 앤트로픽 비판과 AI 권리 논쟁은 별도 글에서 다룬다.
출처
- 한지혜, 「교황 “AI, 인간 지배 못하게 무장해제해야”…첫 회칙서 기술권력 정조준」, 중앙일보, 2026년 5월 26일. https://www.joongang.co.kr/article/25431315
- 송동일, 「[탐구활동]AI에게 의식이 있을까…앤트로픽·교황 논쟁을 들여다보다」, 교육을 비추다, 2026년 10월 6일. https://www.kyobit.com/news/articleView.html?idxno=7533