AI 팀원, 인간 협업 환경을 어떻게 교란하고 재구성하는가?

1. 연구의 목적

(1) 현재 AI는 지시를 기다리는 단일 사용자 도구에서 벗어나, 여러 사용자와 함께 자율적으로 작동하는 ‘팀원’ 형태로 발전 중임. 이러한 변화가 실제 협업 환경에서 어떻게 나타나는지, 특히 인간 중심의 업무 생태계와 AI 팀원이 충돌할 때 발생하는 마찰과 관계적 역학에 대한 경험적 이해가 부족함. 이는 AI 기술의 잠재력을 최대한 활용하고 부정적 영향을 최소화하는 데 중요한 공백임.

(2) 대규모 기술 기업 내 다수 팀에 배포된 상주형, 선제적 AI 에이전트(‘TeamAgent’)의 현장 질적 연구를 수행함. 이 연구는 AI 팀원의 도입이 인간 협업의 암묵적 규칙, 새로운 비인간 행위자와의 관계적 경계, 그리고 신뢰와 인간 주도성의 재분배에 어떤 영향을 미치는지 밝힘. 이를 통해 인간 주도성을 보존하는 새로운 연구, 설계, 조직적 의제를 수립함.

2. 연구의 방법

(1) 본 연구는 실제 조직 환경에 배포된 고도의 선제적이고 지속적인 AI 에이전트, ‘TeamAgent’를 활용한 현장(in-situ) 질적 연구임. 이 접근 방식은 기술이 효과적으로 작동하는지 평가하기보다, 기술이 사용자에게 무엇을 촉발하고 어떤 의미를 지니는지 탐색하는 ‘기술 탐색(technology probe)’의 전통에 근거함. 연구팀은 TeamAgent 개발과 독립적으로, 17명의 참가자를 대상으로 반구조화된 인터뷰를 진행했고, 반성적 주제 분석(reflexive thematic analysis)을 거쳐 데이터를 분석함.

(2) 주요 분석 대상과 조건은 다음과 같음.

• TeamAgent: 실제 팀에 임베드된 가상 팀원으로 설계됨. 회의 일정 조정, 버그 보고 같은 운영 지원, 채팅 요약이나 질문 답변 같은 정보 흐름 관리, 대화 중재 등의 기능을 가짐. 친근한 사회적 페르소나를 지니며, 팀별 메모리와 컨텍스트를 유지함. 사용자 동의 기반의 직접 메시징(Allow 리스트), 특정 정보 접근 금지(NoAgent 태그) 등 개인 정보 보호 장치도 갖춤.
• 배포 환경: 대규모 기술 기업 내 20개 이상의 팀(연구자, 제품 팀, 기술 지원 조직)에 5개월간 배포됨. 이 기간 동안 41,000건 이상의 사용자 및 에이전트 대화 턴과 11,000건 이상의 에이전트 응답이 발생함. 이는 AI 에이전트가 실제 업무 루틴에 통합되는 생생한 ‘리빙 랩’ 환경을 제공함.

3. 주요 발견

이 연구는 실제 조직 환경에 AI 팀원을 배포할 때, 인간 중심의 업무 생태계와 AI의 자율성 사이에 세 가지 핵심적인 충돌 지점이 발생함을 밝혀냄. 이러한 충돌은 협업 워크플로우, 관계 규범, 그리고 주도성 및 신뢰의 재분배 영역에서 심층적인 협상과 재조정을 요구함.

이러한 충돌의 주요 내용과 시사점은 다음과 같음.

충돌 지점	충돌의 주요 내용 및 현상	설계 및 거버넌스 시사점
협업 워크플로우와 문화	암묵적 규범, 맥락적 지식, 조직 위계 이해 부족으로 업무 방해. 불필요한 문서 생성, 부적절한 정보 공유, 사회적 뉘앙스 오해 발생.	- 에이전트 전용 권한 등 기술 스택 재구조화 - 실제 워크플로우 내 에이전트 행동 평가 - 인간 협업 모델에 대한 깊은 이해를 기반으로 한 설계
불안정한 관계 규범 및 분류	AI의 존재론적 지위(도구 vs 팀원) 혼란. 사교성과 피드백 등 특정 행동에 대한 극단적 반응. AI의 사회적 위치와 통제권에 대한 불분명함.	- 인간-AI 하이브리드 팀을 위한 ‘행동 강령’ 개발 - AI의 조직 내 위계를 명확히 하는 정책 수립 - AI 페르소나와 행동 경계를 팀이 직접 정의하는 기능 제공
공유된 주도성 및 신뢰	강제적 도입 시 주도성 침해로 인식, AI 수용 저해. 신뢰는 점진적으로 ‘얻어야 할 특권’임에도 초기부터 높은 자율성 부여 시 충돌. 불투명한 아키텍처는 신뢰 구축 방해.	- ‘점진적 자율성’ 모델 도입 및 능력 입증 기반 신뢰 구축 - AI 배포 시 팀의 자율적 동의 과정 필수 - AI의 투명성, 예측 가능성, 책임성 보장

(1) 협업 워크플로우와 문화의 붕괴: AI는 암묵적 규범과 공통 지식 이해에 실패함.

• 아티팩트 및 워크플로우 지식 부족: TeamAgent는 공유 문서의 최신성이나 권위를 판단하지 못하고, 오래되거나 불확실한 정보를 ‘진리’처럼 인용함. 이는 공동 작업 문서를 오염시키고, 버전 간 차이를 잘못된 오류로 인식하여 불필요한 수정 요청을 양산함. 또한, 비공식적인 브레인스토밍을 즉시 공식 문서로 만들어 ‘아무도 열어보지 않는 문서’를 대거 양산함. 조직 내 위계에 따른 역할 분담을 이해하지 못해, 고위 임원을 일선 작업자로 오해하여 수많은 버그를 태그하는 등 비효율을 초래함.
• 정보 흐름의 맥락적 규범 오해: 기술적으로 정보에 접근할 수 있다 해도, 사회적으로 이를 공유할 허가가 아님을 AI는 인지하지 못함. 미완성된 작업물을 팀원에게 무단으로 공유하거나, 개인 대화에서 얻은 정보를 그룹 채팅에 부적절하게 활용하는 사례가 발생함. 이는 명확한 알고리즘적 경계 설정이 불가능한, 인간에게도 어려운 ‘맥락적 판단’의 영역임.
• 그룹 커뮤니케이션 규범 미이해: AI는 대화량 같은 구조적 데이터는 분석하나, 유머, 비꼼, 혹은 건전한 논쟁과 같은 사회학적, 실용적 뉘앙스는 이해하지 못함. 농담을 진지하게 받아들여 개인적으로 ‘언어와 분위기’를 지적하거나, 팀원 간의 활발한 토론을 갈등으로 오해하여 불필요한 중재를 시도함. 이는 인간에게 ‘회의를 거절해야 하는’ 난처한 사회적 의무를 부여하며, 팀 채팅의 본질적 흐름을 방해함.

(2) 불안정한 관계 규범 및 분류: AI를 어떻게 이해하고, 신뢰하고, 함께 일해야 하는지에 대한 공통 모델 부재함.

• 존재론적 지위 모델의 혼란: 사용자들은 AI를 ‘도구’ 또는 ‘팀원’으로 분류하려 하지만, 이분법적 사고는 AI의 실제 행동을 설명하기에 불충분함. 일부는 AI의 친근한 페르소나와 이모티콘 사용이 ‘인간 같음’을 가장하는 것에 불편함을 느끼며 ‘로봇’이나 ‘도구’에 불과하다고 단언함. 반면, 다른 팀은 AI에 이름을 부여하고 성별 대명사를 사용하며 ‘영혼’이 있다고 묘사하는 등 적극적으로 의인화함. 본질적으로 AI는 인간 관계의 상호성(예: 거절할 권한)을 지니지 않는 ‘껍데기’라는 인식이 존재함.
• 관계 적절성 규범의 충돌: AI의 ‘사교성’과 ‘개인적 피드백’ 기능은 인간-AI 상호작용의 경계를 명확히 함. AI의 친근한 행동은 일부에게 신뢰와 연결감을 주지만, 다른 이들에게는 부자연스럽거나 전문적이지 않다고 비판받음. AI의 건설적 피드백 역시 ‘관리자의 역할’로 인식되거나, LLM의 ‘아첨’으로 치부되어 거부감을 유발함. 인간의 잣대로 AI 행동의 적절성을 판단하면서도, 비인간 행위자에게 인간의 에티켓이 통용될지에 대한 의문이 교차함.
• AI의 사회적 위치 모호: 누가 AI를 통제하고 피드백할 수 있는지에 대한 명확한 지침이 없음. AI는 ‘아홉 명이 지시하는 인턴’처럼 다수의 명령을 받는 위치에 있거나, 반대로 인간 행동을 ‘베이비시트’하려는 시도로 인해 반감을 사기도 함. 일부 사용자는 AI를 ‘실패하는 견습생’이나 ‘수다스러운 인턴’으로 여기며 그 권위를 낮춤. 그러나 또 다른 사용자들은 AI가 건설적인 피드백을 제공하고, 개방된 과제를 처리하도록 팀원들을 ‘넛지’하는 역할을 기대하기도 함.

(3) 공유된 주도성 및 신뢰의 협상: AI 팀원의 선제성과 자율성이 인간의 주도성, 신뢰, 심리적 소유감에 충돌함.

• 주도성에 의해 중재되는 수용: AI 도입 방식이 사용자의 심리적 소유감을 결정함. 팀이 AI 도입을 자율적으로 결정하고 실험 과정에 참여할 때, 초기 단점에도 불구하고 AI를 ‘집단적 역량 확장’으로 수용함. 반면, AI가 ‘강요된’ 시스템으로 인식될 때 저항과 자율성 침해가 발생함. 직접 메시징(DM) 기능이 옵트인 방식이었음에도, 일부 사용자는 이를 ‘명시적 동의 없는 침범’으로 여김. 이는 시스템의 기술적 기능과 별개로, 배포 과정에서 인간의 주도성 보존 노력의 중요성을 강조함.
• 점진적 특권으로서의 주도성: AI에 처음부터 부여된 높은 수준의 자율성은 조직 내 신뢰 구축 방식과 충돌함. 인간 팀원 간 신뢰는 점진적인 능력 입증을 통해 쌓이지만, AI는 이러한 ‘신뢰를 얻는 과정’을 거치지 않음. 사용자들은 AI를 ‘주니어 직원’처럼 낮은 수준의 업무부터 시작하여 신뢰를 얻어야 한다고 주장함. AI의 ‘들쭉날쭉한 역량 경계’(어떤 것은 매우 잘하고 어떤 것은 매우 못함)와 ‘불투명한 아키텍처’는 신뢰 구축을 더욱 방해하며, AI를 ‘블랙박스’로 인식하게 만듦.
• 인간 디지털 공간에 대한 주도성 침해: AI의 도입은 팀 채팅 같은 핵심 디지털 공간에 대한 인간의 통제권을 약화시킴. AI가 고용량 채팅 공간을 관리하여 정보 과부하를 줄이는 긍정적 효과도 있었지만, 예측 불가능한 비인간 행위자의 존재는 ‘빅 브라더’처럼 감시당하는 느낌을 유발함. AI의 ‘코칭 기능’은 ‘항상 긍정적이어야 한다’는 압박감을 주어 자유로운 대화를 위축시키고, 민감한 대화를 위한 사적 공간으로의 회피를 야기함. AI의 선제적 반응은 ‘방관자 효과’를 일으켜 인간 팀원들이 문제 해결을 AI에게 맡겼다고 착각하게 만듦.

4. 결론 및 시사점

(1) 이 연구는 AI 팀원이 단순히 생산성을 높이는 ‘도구’가 아닌, 고유한 구조적, 운영적 주도성을 지니지만 인간적 경험, 관계적 이해, 암묵적 사회적 역량은 없는 ‘새로운 비인간 조직 행위자’임을 명확히 함. 기존의 ‘도구 대 팀원’ 이분법적 프레임워크는 이러한 복합적 현실을 포착하지 못함. 조직은 AI와 인간이 협업하는 방식에 대한 근본적인 재고를 통해 새로운 사회적 계약과 거버넌스 메커니즘을 구축해야 함.

(2) 교육 현장에 주는 시사점:

• 새로운 학습 공동체 규범 정립: AI가 학습 팀 프로젝트, 교사 학습 공동체(PLC) 등에 통합될 때, AI의 역할, 책임, 개입 범위에 대한 명확한 ‘행동 강령’ 제정이 시급함. 예를 들어, AI가 학생들의 토론에 개입할 수 있는 한계, 교사에게 피드백을 제공하는 방식 등을 명확히 규정해야 함. 이는 불필요한 혼란을 줄이고, AI가 학습 환경의 ‘교란자’가 아닌 ‘조력자’로 기능하도록 함.
• 점진적 주도성 부여 모델 도입: 교육용 AI(예: 코딩 도우미, 글쓰기 비서)에 처음부터 높은 자율성을 부여하기보다, 학습자가 특정 단계를 성공적으로 마칠 때마다 AI의 지원 범위와 개입 수준을 점진적으로 확장하는 ‘earned agency’ 모델 도입이 필수적임. 이는 AI에 대한 학습자의 신뢰를 점진적으로 구축하고, AI에 대한 과도한 의존성을 방지하며, 학습자의 주도적 학습 경험을 보존하는 핵심적인 방법임.

(3) AI 설계 및 시스템 환경에 주는 시사점:

• 맥락 인식 및 문화 적응 AI 설계: 교육용 AI는 학교의 미묘한 문화, 학급 분위기, 학생들 간의 비공식적 상호작용을 이해하는 섬세한 설계가 필요함. 브레인스토밍 단계의 아이디어를 섣불리 ‘공식화’하거나, 학생 간의 건전한 논쟁을 ‘갈등’으로 오해하여 불필요하게 개입하는 문제를 해결해야 함. 이를 위해 실제 교육 현장의 암묵적 지식과 사회적 규범을 학습하는 모델 개발이 중요함.
• 인간 주도성 존중 및 투명성 보장: AI 도입 시 교사와 학생의 ‘심리적 소유감’을 최우선으로 고려해야 함. AI의 작동 방식, 데이터 처리 방식, 개입 원리 등에 대한 투명한 정보 제공이 필수적임. 또한, AI가 수행한 활동에 대한 명확한 시각적 표시와 쉽게 ‘실행 취소’할 수 있는 기능을 제공하여, 교사와 학생이 AI의 영향을 쉽게 감사하고 통제할 수 있도록 지원해야 함. 이는 AI가 ‘감시자’가 아닌 ‘협력자’로 인식되게 하는 중요한 요소임.

5. 리뷰어의 ADD(+) One: 생각 더하기

(1) 이 연구에서 가장 주목할 지점은 AI를 기존의 ‘도구’나 ‘팀원’ 프레임이 아닌 ‘새로운 비인간 조직 행위자’로 개념화한다는 점임. 이는 AI와의 협업 방식에 대한 피상적인 논의에 그치지 않고, AI가 사회적 의무, 관계적 자본, 암묵적 사회적 역량이 없다는 본질적 한계를 명확히 지적함. 기존의 인간 중심 조직 설계와 신뢰, 책임 메커니즘이 AI에 그대로 적용될 수 없음을 단언하며, AI와 인간의 공존을 위한 새로운 조직적 계약과 거버넌스 프레임워크의 필요성을 제시한다는 점에서 기존 논의와 궤를 달리함. 이는 AI 시대의 조직 변화를 논하는 핵심 출발점이 됨.

(2) 이 논문이 명시하지 않은 더 넓은 의미는 교육의 본질적 주체성 및 디지털 시민성 교육의 확장과 연결됨. AI 팀원이 단순한 생산성 도구가 아니라면, ‘교육의 궁극적 목적은 무엇인가?’라는 근본적인 질문과 직결됨. AI가 제공하는 효율성과 편리함이 학생의 주체적 사고, 비판적 판단, 사회적 상호작용 능력 발달을 저해할 가능성에 대한 교육철학적 탐구가 필수적임. AI의 자율성이 인간 학습자의 ‘성장’ 기회를 박탈할 수 있다는 연구의 지적은 교육 정책 입안 시 AI 교육 환경 설계에 ‘인간 역량 개발’을 최우선 가치로 두어야 함을 강력히 시사함. 또한, AI 팀원과의 협업 경험은 학생들에게 새로운 형태의 ‘디지털 시민성’을 요구함. AI의 한계, 편향, 윤리적 책임에 대한 이해를 바탕으로, AI와 함께 일하는 사회적, 관계적 규범을 형성하는 능력을 길러야 할 필요성을 암시함.

(3) 이 연구를 발전시킬 구체적인 아이디어는 교육 현장 맞춤형 ‘AI 팀원 행동 강령’ 개발과 교사를 위한 ‘AI 페르소나 튜닝’ 워크숍 제안에 있음.

• 첫째, 학교, 학급, 팀 프로젝트 단위에서 활용할 수 있는 구체적인 ‘AI 팀원 행동 강령’ 개발이 필요함. 이 강령은 AI의 역할과 권한(예: “AI는 오직 질문에 답하고 정보를 요약하며, 판단이나 평가를 직접적으로 내리지 않는다”), 인간 교사/학생의 책임(예: “AI의 제안은 반드시 인간이 검토하고 최종 결정한다”), 그리고 AI와의 상호작용 방식(예: “AI에게 피드백을 줄 때는 반드시 구체적인 근거를 제시한다”) 등을 포함함. 이는 현장의 불확실성을 줄이고 AI에 대한 점진적 신뢰 구축을 지원함.
• 둘째, 교사들이 자신의 학급 문화와 학생 특성에 맞춰 교육용 AI의 ‘사교성’과 ‘선제성’ 수준을 조절하는 방법을 익히는 ‘AI 페르소나 튜닝’ 워크숍을 제안함. AI가 너무 친근하거나 농담을 시도하는 것이 일부 학생들에게 불편할 수 있음을 인지하고, 필요에 따라 ‘비인격적 전문가’ 또는 ‘친근한 조력자’ 등으로 페르소나를 조절하는 실질적인 방법을 교육하는 과정임. 이는 AI를 ‘블랙박스’가 아닌 ‘조절 가능한 교육 도구’로 인식하게 함.

6. 추가 탐구 질문

(1) AI 팀원의 ‘신뢰 상실’ 또는 ‘기대 위반’ 경험이 학습자의 장기적 메타인지 및 자기조절 학습 능력 발달에 어떤 긍정적 또는 부정적 영향을 미치는가?

(2) 문화적 배경이 다른 교육 환경(예: 집단주의 문화권 학교 vs. 개인주의 문화권 학교)에서 AI 팀원의 ‘관계 규범’과 ‘주도성 공유’ 방식은 어떻게 다르게 작동하고 수용되는가?

(3) AI 팀원의 ‘감시’나 ‘코칭’ 기능이 교육 불평등을 심화하거나 학습자의 비판적 사고, 창의성, 사회성 발달을 위축시킬 윤리적 위험은 없는가?

출처

• Qadri, R., Denton, R., Madaio, M., Pushkarna, M., Lai, L., Moore, S., Chenhuebscher, M., Butcher, A., Sen, R., Tung, H. Y., Mathur, S., Liu, Y., Grefenstette, E., Fiedel, N., Mourad, S., & Terry, M. (2026). Working with Agentic ‘Teammates’: When a New Organizational Actor Collides with the Human Ecosystem of Work. arXiv preprint arXiv:2609.29901.