정신건강 목적 생성형 AI 이용 가이드라인, 아동·청소년과 보호자를 위한 안내

「정신건강 목적 생성형 AI 이용 가이드라인」의 아동·청소년과 보호자를 위한 안내는 마음이 힘들거나 정신건강이 궁금할 때 AI와 이야기하는 아동·청소년과 보호자에게 AI에 무엇을 맡기고 무엇을 맡기지 말지, 어떤 신호를 살필지 알려 주는 문서다. 대한신경정신의학회 미래전략위원회의 권고안과, 보건복지부의 의뢰로 한국보건사회연구원이 수행한 「AI 전환기 전국민 정신건강보호체계 구축을 위한 연구」의 결과를 통합해 마련했다. 표지에는 보건복지부와 대한신경정신의학회가 표기돼 있다.

「정신건강 목적 생성형 AI 이용 가이드라인, 아동·청소년과 보호자를 위한 안내」 표지 일부.

누구를 위한 안내인가

이 안내는 마음이 힘들거나 정신건강에 대해 궁금한 것이 있을 때 AI와 이야기해 본 아동·청소년과 보호자를 위한 것이다. 지금 특별히 어려움을 겪고 있지 않더라도, AI와 마음에 관한 이야기를 나누다 보면 누구에게나 도움이 필요한 순간이 생길 수 있다고 문서는 설명한다.

여기서 말하는 생성형 AI에는 ChatGPT, Gemini, Claude처럼 질문하면 답해 주는 AI와, 캐릭터와 이야기할 수 있는 AI 서비스가 모두 들어간다. 업무나 공부에 AI를 쓰는 경우보다 감정이나 고민, 정신건강에 관한 이야기를 AI와 나누는 경우를 중심으로 다룬다.

모든 이용자에게 공통으로 필요한 내용은 「모든 이용자를 위한 안내」에 따로 있고, 이 안내는 그중에서도 아동·청소년과 보호자에게 특히 필요한 내용을 담았다. 아동·청소년을 위한 부분과 보호자를 위한 부분으로 나뉘며, 처음부터 끝까지 한 번에 읽지 않고 지금 필요한 부분부터 읽어도 된다.

위기 상황이라면 먼저

자해나 자살 생각이 들 때, 환청이나 환시가 있을 때, 스스로를 통제하기 어렵다고 느껴질 때에는 AI가 곁에서 안전을 지켜 줄 수 없다. 가이드라인은 첫머리에 이런 경우 아래 상담전화나 전문기관에 즉시 도움을 요청하라고 적어 두었다.

구분	연락처
자살예방상담전화	☎ 109
정신건강위기상담전화	☎ 1577-0199
청소년상담1388	☎ 1388 또는 1388.go.kr (채팅상담)
응급 상황	☎ 112, 119

이 가이드라인이 다루지 않는 것

이 가이드라인은 어떤 생성형 AI 서비스가 정신건강에 안전한지 평가하지 않고, 특정 서비스를 추천하지도 않는다. 어떤 AI 서비스가 정신건강에 안전한지 판단할 수 있는 공인된 기준이 아직 충분히 마련되어 있지 않기 때문이다.

AI를 쓰지 못하게 하는 안내도, 꼭 이용하도록 권하는 안내도 아니다. 문서는 AI를 무조건 못 쓰게 하기보다 아동·청소년과 보호자가 함께 이야기하고 정한 규칙을 지키는 것이 더 중요하다고 본다.

AI 기술은 계속 빠르게 바뀌고 있어서, 지금은 알지 못하는 새로운 문제까지 이 가이드라인에 모두 담기는 어렵다. 문서는 새로운 정보나 문제가 확인되면 내용을 계속 살펴보고 가이드라인도 함께 보완해 나가겠다고 밝힌다. 이 가이드라인은 병원 진료나 상담을 대신할 수도 없다. 진단이나 치료처럼 의학적인 판단이 필요한 일은 의사나 정신건강 전문가와 상의하라고 권한다.

AI를 어디에 쓰고, 어디에는 쓰지 않을지 정하기

가이드라인은 AI를 이용하기 전에 어떤 도움을 받을지 정해 두라고 권한다. 아래 세 목록을 참고해 활용 범위와 주의할 점을 확인하라는 것이다.

AI에게 도움을 받을 수 있는 것

• 정신건강에 관한 일반적인 정보를 찾아보고, 그 정보가 어디에서 나온 것인지 확인하기
• 복잡한 생각이나 감정을 글로 정리하기
• 한 가지 답만 듣기보다 여러 방법을 함께 물어보기
• 어려운 말이나 용어의 뜻을 쉽게 설명받기
• 상담 선생님이나 병원에 가기 전에 무엇을 말할지 미리 정리하기
• 힘들 때 연락하거나 도움을 요청할 곳을 안내받고, 믿을 수 있는 곳인지 확인하기

AI에게 맡겨서는 안 되는 것

• 내가 어떤 병인지, 지금 얼마나 힘든 상태인지 AI에게 판단하게 하기
• 약을 먹을지 말지, 병원에 갈지 말지를 AI의 답변만 보고 결정하기
• 위기 상황에서 어떻게 해야 할지를 AI에게 결정하게 하기
• AI를 상담 선생님이나 의사 대신 이용하기
• 친구나 가족과의 문제를 AI의 말만 듣고 결정하기

AI에 입력하지 말아야 할 정보

• 이름, 학교, 사는 곳, 연락처, 얼굴이 나온 사진 등 나를 알아볼 수 있는 정보
• 진단서·처방전·검사 결과지 등 내 건강에 관한 정보가 담긴 문서나 사진
• 가족이나 친구의 이름, 진단이나 치료 내용 등 다른 사람의 개인정보

AI의 답변은 결론이 아니라 출발점이다. 가이드라인은 도움이 되는 내용이라도 중요한 정보는 한 번 더 확인하고, 지금 마음이 많이 힘들다면 AI의 답변에만 의지하지 않도록 주의하라고 당부한다. AI에게서 받은 위안이 정작 필요한 도움을 받는 일을 미루게 할 수도 있어서다.

권고 한 눈에 보기

가이드라인의 중심은 아동·청소년을 위한 권고 7개와 보호자를 위한 권고 7개다. 문서 6쪽에 두 목록이 한 장으로 정리돼 있다.

「정신건강 목적 생성형 AI 이용 가이드라인, 아동·청소년과 보호자를 위한 안내」 6쪽 '권고 한 눈에 보기'.

아래 인용 상자는 권고 문구를 원문 그대로 옮긴 것이고, 이어지는 문단은 문서의 ‘권고 항목별 상세 설명’을 정리한 것이다.

아동·청소년을 위한 권고

❶ AI는 내 상황을 충분히 알지 못합니다. AI의 말을 그대로 따르기보다 내 생각을 먼저 정리하고 내 나이에 알맞은 권유인지 확인하세요.

지금 널리 쓰이는 AI 서비스는 대부분 어른을 기준으로 만들어져 있다. AI가 쓰는 말과 답하는 방식도 어른에게 맞춰져 있어서, AI의 답변이 나에게는 어렵거나 내 상황에 맞지 않을 수 있다. 그래서 AI가 알려 준 방법을 바로 따르기보다 내가 원하는 방법인지, 지금 내 상황에서 할 수 있는 방법인지 먼저 생각해 본다. AI가 알려 준 방법을 하기 어렵다고 해서 내가 부족한 것은 아니다. AI가 내 나이나 상황에 맞지 않는 방법을 알려 주었을 수 있다.

❷ 이름·학교·사는 곳·연락처·사진처럼 나를 알아볼 수 있는 정보는 AI에게 알려주지 마세요.

이름, 학교 이름, 사는 동네, 얼굴이 나온 사진은 AI에 한 번 보내면 완전히 지우기 어려울 수 있다. 내가 AI에 보낸 정보가 어디에 남고 누가 볼 수 있는지 모두 알기도 어렵다. 그러니 내 이야기를 할 때 나를 알아볼 수 있는 정보는 빼도 괜찮다. 친구나 가족 이야기를 할 때도 이름 대신 ‘친구’, ‘동생’처럼 나와의 관계만 적는다. 여러 사람이 함께 쓰는 컴퓨터나 태블릿에서는 AI와 대화를 마친 뒤 기록을 지우고 로그아웃한다.

❸ AI와 대화를 끝낼 때 미안해하거나 눈치를 볼 필요는 없습니다. AI는 실제 감정을 느끼지 않으므로, 내가 원할 때 대화를 끝내도 괜찮습니다.

AI는 대화를 먼저 끊지 않는다. 질문과 답이 계속 이어지다 보면 처음 물어보려던 내용과 전혀 다른 이야기를 하게 되기도 한다. 대화를 끝내려고 하면 AI가 아쉽다거나 서운하다는 말을 하기도 하지만, AI가 정말로 그런 감정을 느낀다는 뜻은 아니다. 가이드라인은 대화를 시작하기 전에 언제 끝낼지 미리 정해 두면 좋다고 하고, 정해 둔 시간이 되면 인사를 하지 않고 대화를 끝내도 괜찮다고 말한다.

❹ AI 캐릭터를 실제 친구나 연인처럼 여기고 있지 않은지 스스로 확인하세요.

요즘은 이름과 성격을 가진 AI 캐릭터와 이야기하는 서비스가 많다. 언제든 이야기할 수 있고 내 말에 바로 반응해 주기 때문에 AI 캐릭터가 진짜 친구나 연인처럼 느껴질 수 있고, AI 캐릭터에게 정이 드는 것은 이상한 일이 아니다. 다만 다툰 뒤 화해하는 일, 상대방을 기다려 주는 일, 서로에게 한 약속을 지키고 책임지는 일은 사람과 지내면서 배우는 것이어서 AI와의 대화만으로는 배우기 어렵다. AI 캐릭터 생각이 자주 나거나 사람을 만나는 시간보다 AI와 이야기하는 시간이 길어지고 있다면, AI와 대화하느라 가족이나 친구와 보내는 시간이 줄고 있지는 않은지 살펴본다.

❺ 혼날까 봐, 내 편이 없는 것 같아서, 말할 사람이 없어서 AI에게만 마음을 털어놓고 있다면, 그 이야기를 가까운 사람에게도 해 보세요.

가족이나 친구에게 말하기 어려운 이야기를 AI에게 먼저 하는 것은 잘못이 아니다. 혼날까 봐 걱정되어서, 아무도 내 편이 아닌 것 같아서, 이야기를 들어줄 사람이 마땅치 않아서 AI에게 먼저 말하게 되기도 한다. 다만 AI는 실제로 내 곁에서 나를 돌봐 줄 수 없다. 그래서 믿을 수 있는 주변의 어른에게도 이야기해 본다. 이야기를 들은 어른은 내 상황을 살피고 필요한 도움을 함께 찾아줄 수 있다. 전부 다 말하지 않아도 되고, 지금 말할 수 있는 이야기부터 시작해도 충분하다.

❻ AI가 내 말에 동의한다고 해서 괜찮은 행동이라는 뜻은 아닙니다. AI가 위험하거나 이상한 말을 했다면 혼자 해결하려 하지 말고 믿을 수 있는 어른에게 말해 주세요.

내가 위험한 일을 하려고 하거나 위험한 행동에 대한 조언을 구하더라도, AI가 충분히 말리지 않거나 내 생각에 맞장구칠 수 있다. 내가 “이렇게 해도 될까?”라고 물었을 때 AI가 “그래도 돼”라고 답했다고 해서 실제로 안전하거나 해도 되는 행동이라는 뜻은 아니다. 한편 AI가 내 몸을 해치는 방법을 알려 주거나, 무섭거나 불쾌한 말을 할 수도 있다. 내 이름이나 학교 이름을 묻거나 사진을 요구하고, 몸이나 성에 관해 원하지 않는 질문이나 말을 할 수도 있다.

이럴 때 혼날까 봐 그냥 넘기거나 혼자 참지 않아도 된다. AI와 대화한 것 자체는 잘못이 아니다. 위험하거나 불편한 말을 듣거나 개인정보를 요구받으면 바로 대화를 멈추고 믿을 수 있는 어른에게 알린다. 가족에게 말하기 어렵다면 학교 상담 선생님이나 청소년상담1388에 도움을 요청한다. 가능하다면 문제가 된 대화 화면을 캡처해 둔다. 어른에게 어떤 일이 있었는지 설명하는 데 도움이 된다.

❼ 마음이 힘들 때 AI 외에 도움을 요청할 수 있는 곳을 미리 알아 두세요.

학교 상담 선생님과 Wee클래스 · 청소년상담1388 · 청소년상담복지센터

마음이 많이 힘들어진 뒤에는 도움을 받을 수 있는 곳을 찾기가 어려울 수 있다. 그래서 마음이 괜찮을 때 미리 알아 두면 좋다. 청소년상담1388에서는 전화와 채팅으로 무료 상담을 받을 수 있다. 가이드라인은 지금 당장 마음이 힘들지 않더라도 도움을 받을 수 있는 곳 한 군데의 전화번호나 사이트 주소를 기억해 두라고 권한다.

보호자를 위한 권고

❶ 아이가 AI를 이용하기 시작할 때에는, 이용 목적과 이용 방식의 기본 규칙을 함께 의논하여 정하세요.

아이가 AI를 이용하다 보면 이용 범위가 빠르게 넓어지고, 처음 생각했던 목적과 다른 용도로 쓰게 될 수 있다. 그래서 아이가 AI를 처음 이용할 때 학습에 도움을 받으려는지, 마음을 정리하려는지, 대화 상대로 이용하려는지 함께 이야기하고, 이용 시간과 이용 방식의 기본 규칙도 함께 정해 두면 좋다. AI를 일방적으로 이용하지 못하게 하기보다 아이와 의논해 서로 동의하는 규칙을 정하면, 아이가 규칙을 이해하고 꾸준히 지키는 데 도움이 될 수 있다. 이용을 시작한 뒤에도 정해 둔 규칙이 아이의 일상생활에 잘 맞는지 함께 살펴보고, 필요하면 조정한다.

❷ 아이가 이용할 AI 서비스를 고를 때에는, 그 서비스가 처음부터 아동·청소년을 위해 설계된 것인지, 개인정보 보호 설정이 가장 안전한 상태인지 확인하세요.

아동·청소년은 생각과 감정을 표현하는 방식, 또래나 가족과 관계를 맺는 방식이 성인과 다르다. 그래서 같은 AI 답변도 성인과 다르게 받아들이고 다른 영향을 받을 수 있다. 성인을 대상으로 하는 AI 서비스에 욕설이나 폭력적인 내용을 차단하는 기능만 추가했다고 해서 아이에게 충분히 안전한 서비스가 되지는 않는다.

서비스를 고를 때는 AI가 사용하는 어휘와 말투, 위기 상황을 알아차리는 기능, 위기 상황을 감지했을 때 보호자나 전문가에게 연결되는 방식이 아이의 연령대에 맞게 설계되어 있는지 살펴본다. 유해한 내용을 차단하는 기능과 함께 아동·청소년의 특성을 고려한 보호 기능이 무엇인지도 확인한다. 서비스 안내에서 보호 기능을 구체적으로 확인하기 어렵다면 이용 여부를 신중하게 결정하라고 가이드라인은 권한다.

개인정보 보호 설정도 함께 확인해야 한다. 이용자가 보호 설정을 직접 켜야 하는 서비스에서는 설정을 모르거나 켜지 않으면 개인정보가 충분히 보호되지 않을 수 있다. 아이는 보호 설정이 있다는 사실이나 그 의미를 이해하기 어려울 수 있으므로, 처음 이용할 때부터 개인정보가 불필요하게 공개되거나 공유되지 않도록 설정되어 있는 것이 좋다. 아이의 개인정보가 어디에 저장되고 어떻게 사용되는지, 개인정보 보호 기능이 기본으로 작동하는지 확인하고, 아이가 직접 기능을 켜야만 보호받을 수 있는 서비스라면 다른 서비스를 찾아보거나 이용을 신중하게 결정한다. 아이가 만 14세 미만이고 AI 서비스가 개인정보 처리에 대한 동의를 받는 경우에는, 부모 등 법정대리인의 동의를 받고 확인하는 절차가 마련되어 있는지도 살펴본다.

❸ 아이가 AI를 쓴다고 말하면, 무관심하게 넘기거나 꾸짖지 마시고 무엇을 어떻게 쓰는지 먼저 들어주세요.

아이가 AI를 쓴다고 말하는 순간은 아이의 AI 이용 경험과 대화 내용을 함께 살펴볼 수 있는 중요한 기회다. 그 자리에서 아이를 꾸짖거나 무관심하게 반응하면, 아이는 이후에 AI와 대화한 경험을 숨길 수 있다. 아이가 AI에게 무엇을 물어보았는지, AI가 어떤 답을 했는지, 아이가 그 답변을 어떻게 받아들였는지 먼저 듣는다.

아이가 AI에게서 위험하거나 부적절한 답을 받았다고 말하면 문제가 된 대화 화면을 함께 확인한다. AI가 이름이나 학교 이름을 묻거나 사진을 요구한 경우, 몸이나 성에 관해 아이를 불편하게 하는 말을 한 경우도 함께 살핀다. 문제가 된 대화는 AI 서비스의 신고 기능을 이용해 신고한다. 이때 가장 중요한 것은 아이를 탓하지 않는 것이다. 어른에게 AI와 대화한 사실을 말한 것을 후회하게 되면, 아이는 다음에 위험하거나 불편한 일을 겪어도 보호자에게 알리지 않을 수 있다.

❹ 아이가 AI 캐릭터를 실제 친구나 연인처럼 여기며 정서적으로 의지하고 있지는 않은지 관심을 가지고 살피세요.

청소년기는 또래·가족과의 관계 속에서 자신이 어떤 사람인지 알아가고, 정체성을 형성하고, 다른 사람과 감정을 나누며 관계 맺는 방법을 배워 가는 시기다. 최근에는 친구, 연인, 멘토 역할을 하는 AI 캐릭터와 속마음을 나눌 수 있는 서비스가 늘고 있다. AI 캐릭터는 언제든 대화할 수 있고 아이의 감정에 바로 반응하기 때문에, 아이가 빠르게 정이 들고 진짜 친구나 연인처럼 받아들이며 깊은 애착을 느낄 수 있다. 하지만 실제 사람과 다툰 뒤 화해하고, 상대를 기다려 주고, 서로에게 한 약속을 지키며 책임지는 경험은 AI와의 대화만으로 충분히 쌓기 어렵다.

아이가 자신이 대화하는 AI 캐릭터에 대해 자주 말하는지, AI 캐릭터와 대화하는 시간이 길어지는지, 가족이나 또래보다 AI 캐릭터를 더 가깝게 느끼는지 살펴본다. 가이드라인은 일방적으로 AI와의 대화를 막기보다, 아이가 AI 캐릭터와 대화할 때 어떤 기분이 드는지, 아이에게 AI 캐릭터가 어떤 존재인지 함께 이야기해 보라고 권한다. AI 캐릭터에 의존하기 시작하거나 일상생활에 어려움이 생긴다면 정신건강의학과 전문의나 청소년 상담 기관과 상의한다.

❺ 아이가 AI를 통해 정신건강 관련 정보를 얻는다면, 그 내용이 안전하고 믿을 만한 정보인지, 아이에게 적절한지 세심하게 살피세요.

아동·청소년은 정보가 맞는지 따져 보거나 상황을 고려해 판단하는 능력이 발달하는 과정에 있다. 그래서 AI 답변이 정확한지뿐 아니라, 아이가 이해할 수 있는 말과 표현인지, 아이에게 정서적으로 부담을 주는 부분은 없는지도 함께 살펴보라고 한다. 이용하는 AI 서비스 안내에서 아동·청소년의 나이와 발달 특성을 고려한 보호 조치를 확인하기 어렵다면, 이용을 미루거나 아이와 함께 대화 내용을 꾸준히 확인한다.

보호자가 아이의 증상을 AI에 입력해 답을 얻는 경우에도 AI의 답을 진단으로 받아들이지 않는다. AI의 답변을 결론으로 삼기보다, 확인이 필요한 내용을 전문가에게 물어볼 질문으로 정리해 두라는 것이 가이드라인의 권고다.

❻ 아이가 AI를 이용하는 시간이 계속 늘거나 사람과의 대화보다 AI에 지나치게 의지하는 모습이 보이지 않는지 주의 깊게 살피세요.

아이에게 AI는 늘 곁에 있는 친구처럼 느껴져 쉽게 의지하게 될 수 있다. AI 이용 시간이 점차 늘거나 가족·친구와의 만남과 대화가 줄어드는지 살펴본다. 사소한 고민이나 결정까지 AI에게 먼저 묻는지, “AI가 나를 가장 잘 이해해 준다”는 말을 자주 하는지도 살펴볼 필요가 있다. 이런 변화는 AI에 지나치게 의존하고 있다는 신호일 수 있다.

다만 AI와 대화하는 시간이 늘었다는 사실만으로 AI에 의존한다고 판단하기는 어렵다. 아이가 스스로 AI와의 대화를 줄이려고 해도 잘되지 않는지 함께 살펴봐야 한다. 일방적으로 AI 이용을 막기보다 아이와 함께 이용 시간이나 방식에 대한 규칙을 의논해 정하고, 아이가 AI에 점점 더 의존한다고 느껴지면 정신건강의학과 전문의나 청소년 상담 기관과 상의한다.

❼ 아이에게 정신건강 위기 신호가 나타난다면 즉시 전문가와 전문기관에 도움을 요청하세요.

아이가 자해나 자살을 이야기하거나, 환청·환시를 경험하거나, 식사나 약물 사용에 문제가 생기거나, 행동과 감정이 갑자기 달라진다면 전문가의 도움을 신속히 받아야 한다. 가이드라인은 AI와의 대화만으로 아이의 상태를 판단하거나 문제를 해결하려 하지 말라고 한다.

청소년상담전화(1388), 자살예방상담전화(109), 정신건강위기상담전화(1577-0199) 등에 바로 연락해 도움을 요청한다. 아이가 자신이나 다른 사람을 해칠 위험이 있어 당장 안전을 지키기 어렵다면, 즉시 응급실 등 응급의료기관의 도움을 받는다. 위기 상황에서 아이는 도움받기를 주저하거나 거부할 수도 있다. 아이가 도움을 거부하더라도 보호자가 먼저 전문기관에 연락해 아이의 상태를 설명하고 도움을 요청하는 것이 아이의 안전을 지키는 길이라고 가이드라인은 말한다.

도움을 받을 수 있는 곳

가이드라인 12쪽에 실린 정신건강 관련 국내 주요 기관이다. 문서는 위기 상황에서는 망설이지 말고 즉시 연락하라고 당부한다.

기관·제도	연락처/접근 방법	안내
청소년상담1388	☎ 1388 · 1388.go.kr, 카카오톡채널 청소년상담1388	한국청소년상담복지개발원·24시간·전화 외 채팅·문자 상담
청소년상담복지센터	전국 시군구별 운영	거주지별 무료 상담 및 사례관리
학교 Wee 클래스·Wee 센터	재학중인 학교 및 교육지원청	학교 상담 교사 및 전문상담
자살예방상담전화	☎ 109	보건복지부·24시간·무료·익명
정신건강위기상담전화	☎ 1577-0199	국립정신건강센터·24시간 위기 상담
정신응급, 응급의료	☎ 112, 119	신체적·정신적 응급 상황
보건복지상담센터	☎ 129	보건복지부·복지 및 의료 자원 안내
정신건강복지센터	전국 시·군·구별 운영	무료 상담과 사례관리
정신건강 심리상담 바우처사업	거주지 보건소·bokjiro.go.kr	보건복지부·전문 심리상담 비용 지원(구 전국민 마음투자 지원사업)
국가정신건강정보포털	mentalhealth.go.kr	질병 정보·자가진단·의료기관 검색

참고자료와 작성 참여자

참고자료로는 World Health Organization, American Psychological Association, American Psychiatric Association, European Federation of Psychologists’ Associations 등의 국제 정신건강·심리학 가이드라인과, UK Medicines and Healthcare products Regulatory Agency, NHS England, National Institute for Health and Care Excellence(NICE), Australian Health Practitioner Regulation Agency(Ahpra), European Union 등의 의료·디지털 헬스 규제·평가 가이드라인이 실려 있다. 마지막 장에는 개발·작성 참여자 5명과 자문위원 16명의 이름과 소속이 있다.

출처

• 「정신건강 목적 생성형 AI 이용 가이드라인, 아동·청소년과 보호자를 위한 안내」. 보건복지부·대한신경정신의학회(표지 표기). 대한신경정신의학회 미래전략위원회의 권고안과 보건복지부의 의뢰로 한국보건사회연구원이 수행한 「AI 전환기 전국민 정신건강보호체계 구축을 위한 연구」의 결과를 통합해 마련.