AI 시스템 개발에서 팀 다양성은 공정성 확보에 어떤 역할을 하는가?
1. 연구의 목적
(1) AI 시스템이 사회적 불평등을 심화시킬 수 있는 편향을 내재할 위험이 커짐에 따라, 공정성과 형평성에 대한 우려가 증가하고 있음. 기존 연구는 주로 기술적 해결책에 집중했지만, AI 결과에 영향을 미치는 사회적 역학 관계는 충분히 탐구되지 않았음.
(2) AI 시스템 개발에서 팀 다양성이 편향 식별 및 완화에 미치는 영향을 분석하고, 더 공정하고 포용적인 AI 시스템 개발을 위한 실질적인 통찰력을 제공하고자 함.
2. 연구의 방법
(1) 근거 이론(Grounded Theory) 방법론을 사용하여 브라질과 포르투갈에 기반을 둔 대규모 소프트웨어 회사 내 4개의 AI 프로젝트 팀의 경험을 분석함.
- 교육, 에너지, 접근성, 얼굴 인식 등 다양한 분야의 프로젝트를 대상으로 함
- 소프트웨어 전문가 25명을 대상으로 인터뷰를 진행함
(2) 인터뷰 대상자는 디자이너, 소프트웨어 엔지니어, 데이터 과학자, 테스터 등 다양한 역할을 수행하는 소프트웨어 전문가였음. 이들은 프로젝트 팀 구성원으로서의 경험을 바탕으로 팀 다양성이 프로젝트 관련 프로세스 및 결과에 미치는 영향에 대한 질문에 답함.
(3) 팀 다양성이 AI 개발에 미치는 영향을 다음 측면에서 분석함:
- 다양한 관점을 통한 편향 식별
- AI 개발에 대한 공감대 형성
- 시스템 차별 해소
- 포용적 의사 결정 지원
- 다양성을 편향에 대한 안전 장치로 활용
- 문제 해결에 대한 폭넓은 사고 함양
3. 주요 발견
(1) 팀 다양성은 AI 시스템 개발의 다양한 단계에서 인종, 성별, 사회적 편견을 포함한 다양한 형태의 편향을 식별하는 데 기여함. 다양한 관점을 통해 잠재적인 문제를 조기에 인식하고, 더 넓은 범위의 사용자와 상황을 반영하는 시스템을 설계할 수 있음.
(2) 팀 다양성은 공감 능력을 향상시켜 AI 시스템이 소외되거나 소외된 집단의 경험과 어려움을 인식하고 고려할 수 있도록 함. 다양성이 부족한 팀에서는 시스템 기능의 기술적 측면에만 집중하는 경향이 있는 반면, 다양한 팀은 시스템이 사람들에게 미치는 영향, 특히 민감한 속성과 관련된 상황에서 미치는 영향을 더 잘 반영함.
(3) 다양한 팀은 AI 개발에서 더 넓은 범위의 관점을 고려함으로써 시스템 차별을 예방하고 완화하는 데 기여함. 다양한 인종, 민족, 성별 및 사회 경제적 배경을 가진 구성원을 포함하면 인종 또는 성별 배제와 같은 명시적인 형태의 불평등과 모델 학습 및 평가에 내재된 더 미묘한 형태를 인식할 가능성이 높아짐.
4. 결론 및 시사점
(1) 팀 다양성은 AI 시스템 개발에서 단순한 인구 통계학적 특성이 아니라, 문제 정의, 솔루션 설계, 잠재적 실제 결과 고려 방식에 영향을 미치는 중요한 요소임.
(2) AI 시스템 개발 팀은 의도적으로 다양한 관점을 통합하고, 다양성이 윤리적 고려 사항일 뿐만 아니라 공정성을 고려하는 AI 시스템 개발을 위한 실질적인 전략임을 인식해야 함.
5. 리뷰어의 ADD(+) One: 생각 더하기
(1) 이 연구의 가장 인상적인 부분은 근거 이론을 통해 팀 다양성이 AI 개발 과정에 미치는 구체적인 역할들을 도출한 점임. 이는 단순히 다양성이 좋다는 추상적인 주장을 넘어, 실제 개발 과정에서 다양성이 어떻게 편향을 줄이고 공정성을 높이는 데 기여하는지 보여줌.
(2) 이 연구는 AI 윤리 논의에서 종종 간과되는 ‘팀 구성’이라는 사회적 맥락의 중요성을 부각함. AI 시스템의 공정성은 알고리즘 자체뿐만 아니라, 시스템을 설계하고 개발하는 사람들의 다양성과 포용성에 달려 있다는 점을 시사함.
(3) 이 연구 결과는 다양한 교과 및 학교급에서 AI 교육 및 활용 방안을 설계할 때에도 중요한 시사점을 제공함. 예를 들어, AI 교육 커리큘럼 개발 시 다양한 배경을 가진 학생들의 참여를 장려하고, 그들의 관점을 반영할 수 있도록 하는 것이 중요함.
(4) 이 연구를 발전시키기 위해, 다양한 팀 구성원 간의 상호작용 패턴을 분석하고, 특정 유형의 상호작용이 편향 감소에 더 효과적인지 조사한다면 어떨까. 예를 들어, 팀 내에서 서로 다른 배경을 가진 구성원들이 서로의 아이디어를 비판적으로 평가하고 건설적인 피드백을 제공하는 과정이 AI 시스템의 공정성을 높이는 데 어떻게 기여하는지 분석할 수 있을 것임.
6. 추가 탐구 질문
(1) 팀 다양성이 AI 시스템의 성능 및 사용자 만족도에 미치는 영향은 무엇이며, 다양성과 성능 간의 최적 균형점은 무엇인가?
(2) 다양한 팀에서 효과적인 의사 소통과 협업을 촉진하기 위한 구체적인 전략은 무엇이며, 이러한 전략은 다양한 문화적 배경을 가진 구성원 간의 이해를 높이는 데 어떻게 기여하는가?
(3) AI 개발 팀의 다양성을 확보하고 유지하기 위한 조직 차원의 노력은 무엇이 필요하며, 이러한 노력이 AI 시스템의 공정성 및 사회적 책임에 미치는 장기적인 영향은 무엇인가?
<출처> - de Souza Santos, R., Baldassarre, M. T., & Magalhaes, C. (2024). The Role of Team Diversity in AI Systems Development. *arXiv preprint* arXiv:2601.01019v1. [https://doi.org/10.48550/arXiv.2601.01019](https://doi.org/10.48550/arXiv.2601.01019)