집단지성으로 AI를 빚어내기, 2023년 그 실험의 현장

기술의 발전 속도가 민주적 의사결정 구조를 압도하는 시대이다. 챗GPT 등장 이후 인공지능이 우리 삶의 모든 영역에 스며드는 현실을 매일 목격한다. 이 거대한 흐름 속에서 AI가 과연 누구의 가치를 대변하며 나아가야 할까? 2023년, 오픈AI와 집단지성 프로젝트(Collective Intelligence Project, CIP)는 이 질문에 답하기 위한 과감한 실험을 시작했다.

AI 거버넌스, 더 이상 미룰 수 없는 일

2022년 미국 백악관은 ‘AI 권리 장전 청사진’을 발표했다. 이 문서는 구속력은 없지만, 급변하는 기술의 윤곽을 잡으려는 중요한 움직임이다. 청사진의 핵심 원칙 중 하나는 공중이 AI 시스템 설계, 사용, 배포에 의견을 낼 권리를 지닌다는 점이다. AI가 미치는 영향이 지대함을 고려하면, 이 기술은 영향을 받을 사람들과 협의해 개발돼야 한다는 주장이다.

필자의 판단: 이 원칙은 이상적이다. 그러나 현장에서 공중의 의견을 효과적으로 수렴하고, 이를 실제 정책이나 기술 개발로 연결하는 일은 실로 거대한 난제이다. 학교 현장에서 AI 도입 논의 시, 교사들의 실질적인 목소리가 얼마나 반영되는지 돌아보면 이 간극은 더욱 선명해진다. 추상적인 ‘공청회’가 아니라, 실제적인 참여 메커니즘이 부재하면 AI는 언제나 개발자의 논리 또는 자본의 이해관계에 갇히게 된다.

집단지성 프로젝트의 야심찬 비전

오픈AI는 AI 행동을 통제하는 새로운 민주적 프로세스를 실험하기 위해 투자를 결정했다. 집단지성 프로젝트(CIP)는 이 자금 지원을 받아 AI 개발 방향을 ‘집단적 선(collective good)’으로 이끌고자 한다. 2023년 초 설립된 CIP의 공동 설립자 디비야 시다르트(Divya Siddarth)와 사프론 황(Saffron Huang)은 AI를 인류의 가치에 부합하게 정렬하는 비결이 ‘집단지성’에 있다고 말한다. 그들에게 집단지성은 “공통의 관심사를 해결하는 역량을 확장하는 의사결정 기술, 프로세스, 제도”를 포괄한다.

필자의 판단: ‘집단적 선’이라는 목표는 고결하다. 그러나 이 개념 자체가 다차원적이고 때로는 모순적인 다양한 이해관계로 구성됨을 인정해야 한다. 우리 교육 현장에서도 ‘모두에게 좋은 교육’이라는 막연한 목표 아래, 교육 주체들(학생, 학부모, 교사, 학교 관리자, 정책 입안자)의 실제 요구와 기대는 첨예하게 대립한다. CIP의 비전은 대담하지만, 현실의 복잡한 가치 충돌을 어떻게 조율할 것인지에 대한 구체적인 방법론이 더욱 중요하게 다뤄진다.

기존 시스템의 한계, 왜 돌파가 필요한가

사프론 황은 “기술은 우리의 민주적 구조가 감당할 수 없을 정도로 빠르게 가속화되고 있으며, 사람들에게 정말 빠르고 깊이 영향을 미친다”고 경고한다. 실제 기존 민주적 과정은 소셜 미디어 플랫폼 규제부터 기후 위험 조정에 이르기까지 공중의 우려를 따라잡지 못했다. 효과적인 대표성 문제까지 더하면, AI 거버넌스에는 더 나은 집단 의사결정 모델이 필요하다는 점은 명확해진다.

필자의 판단: 현행 제도가 기술 가속도를 따라가지 못한다는 지적은 정확하다. 특히 이윤 극대화를 목표로 하는 시장 메커니즘은 인간의 가치를 대변하기에 부적합하다. 교육 영역에서도 상업적 에듀테크 기업의 논리가 교육의 본질적 가치보다 앞서는 경우가 흔하다. 그렇다고 기술 개발을 무작정 억제하는 것 또한 답이 아니다. 결국은 기술을 향해 민주적 제도의 속도와 폭을 확장하는 수밖에 없다는 결론에 이른다. 이 전환은 피할 수 없는 흐름이다.

‘정렬 어셈블리’로 AI의 나침반을 찾다

CIP는 오픈AI와 협력해 ‘정렬 어셈블리(alignment assemblies)’를 시범 운영한다. 이 용어는 AI를 집단적 가치에 ‘정렬(aligning)’시키는 목표와 함께, 다양한 참가자들이 모여 신기술에 대한 필요, 선호, 희망, 우려를 논의하고 숙고하는 ‘과정(assembling)’을 모두 담는다.

2023년 6월 첫 파일럿은 AI 시스템의 위험과 평가에 집중했다. 위키서베이 도구를 활용해 미국 대중의 핵심 우려를 반영한 위험 목록을 우선순위로 정했다. 이 결과는 모델 평가 및 출시 기준, 더 나아가 광범위한 표준 설정 및 규제 과정에 반영될 예정이다.

필자의 판단: ‘정렬 어셈블리’는 실증적인 접근 방식이다. 특정 주제에 대한 대중의 의견을 수치화하고 우선순위를 매기는 시도는 추상적 논의를 구체적 행동으로 전환하는 데 필수적이다. 교육 현장에서 AI 윤리 가이드라인을 만들 때, 이처럼 직접적인 교사-학생-학부모 참여와 의견 수렴 과정이 선행되어야 한다. 단순히 전문가 몇 명이 모여 지침을 발표하는 방식으로는 실제 현장의 복잡한 맥락을 담아낼 수 없다.

대중의 목소리와 전문가의 지혜, 융합의 기술

디비야 시다르트는 “사람들에게 ‘어떤 종류의 모델 평가를 설계하시겠습니까?’라고 물을 수 없다”고 강조한다. 사프론 황 역시 “대중은 특정 문제에 대해 우려하지만, 전문가들은 평가 가능한 것에 대한 많은 맥락과 지식을 지닌다”고 덧붙인다. 오픈AI 정책 연구원 라마 아흐마드(Lama Ahmad)는 “모델의 역량과 한계를 이해하기 위한 필수적인 단계”가 ‘평가’라고 설명한다. 기술을 제대로 이해해야 합법적인 규제 결정을 내릴 수 있다는 의미이다.

필자의 판단: 이 지점은 AI 거버넌스의 핵심을 찌른다. 대중은 AI의 파급력과 부작용에 대한 본능적 우려를 지닌다. 하지만 기술의 작동 원리나 실질적인 평가 기준을 설계하는 것은 고도의 전문성을 요한다. 우리 교육 현장의 경우, 교사들은 학생 지도에 대한 전문가이지만, AI 기술의 심층적 작동 방식이나 평가 방법론에 대한 전문가는 아니다. 이 간극을 메우는 것이 시급하다. 교사들이 AI 기술의 ‘블랙박스’를 이해하고 비판적으로 질문할 수 있는 역량을 길러야 비로소 실효성 있는 집단지성으로 나아갈 수 있다. 단순한 공포나 맹목적 수용 대신, 기술 리터러시를 기반으로 한 참여가 전제될 때만 대중의 목소리가 유의미한 정책으로 전환된다.

역설적인 관계, AI는 집단지성을 어떻게 돕는가

CIP와 오픈AI는 AI가 집단지성 과정을 어떻게 도울 수 있을지 탐구한다. 예컨대 언어 모델은 토론을 촉진하고 합의를 유도하며, 대량의 자연어 질적 데이터를 종합해 미묘한 의견들을 규모 있게 수렴하는 데 기여한다. 이는 집단지성에서 고질적인 문제였던 ‘미묘한 차이(nuance)와 규모(scale) 사이의 균형’ 문제를 완화할 수 있다. 사프론 황은 집단지성 피드백으로 모델 정렬을 개선하고, “사람들의 가치를 기술에 직접 투입하고 이를 반복적으로 개선”하기를 희망한다.

필자의 판단: AI가 AI를 통제하는 민주적 과정을 돕는다는 이 역설은 비판적 낙관주의의 정점이다. AI가 도구에 머물지 않고 ‘조력자’ 역할까지 수행할 가능성을 보여준다. 그러나 누가 이 조력자 AI를 설계하고 통제할 것인가? 이 문제는 또 다른 윤리적 질문으로 이어진다. 우리 학교 현장에서는 AI 기반의 회의록 요약, 의견 분류 도구를 활용해 교사들의 아이디어를 효율적으로 취합하고, 이를 기반으로 교육 과정을 개선하는 시도가 가능하다. 중요한 점은 이러한 AI 도구가 인간의 판단과 대화를 대체하는 것이 아니라, 강화하는 방향으로 설계되어야 한다는 것이다. 그렇지 않으면 집단지성은 결국 AI가 생성한 ‘환상’에 불과하게 된다.

우리 교육 현장이 던져야 할 질문

2023년에 시작된 이 실험들은 AI 시대에 인간의 가치를 지키기 위한 중요한 첫걸음이다. 기술이 초고속으로 발전하는 와중에, 우리 모두가 주인 의식을 지니고 AI의 방향타를 잡아야 한다. 단순히 AI를 사용하는 데서 그치지 않고, AI가 어떻게 설계되고 운영되어야 하는지에 대한 질문을 던지는 주체가 돼야 한다.

지금 당장 당신의 교실에서, 혹은 당신의 학교에서 AI 기술을 도입할 때 다음 질문을 던져보라. “이 AI는 누구의 가치를 반영하고 있는가? 그리고 우리 공동체의 목소리를 반영하기 위해 어떤 구체적인 참여 방안을 마련할 수 있는가?” 이 질문에 답하는 작은 시도들이 모여, AI가 진정으로 ‘집단적 선’을 향하도록 이끄는 강력한 힘이 될 것이다.

출처

• OpenAI Forum: https://forum.openai.com/public/blogs/shaping-artificial-intelligence-through-collective-intelligence-2023