YouTube 알고리즘이 십대에게 위험한 콘텐츠를 추천하는 방식: 연구 결과가 보여주는 사실 (2026)

두 가지 독립적인 연구에서 동일한 패턴이 발견되었습니다. 13세 소녀로 설정된 가상 계정에 제공된 추천 영상 3개 중 1개는 해로운 섭식 장애 관련 영상이었으며, 사용자가 후회한 영상의 71%는 검색이 아닌 YouTube 추천 알고리즘을 통해 노출되었습니다. 연구 결과가 증명하는 것과 그렇지 않은 것, 그리고 부모가 결정 과정에서 알고리즘을 배제할 수 있는 방법을 알아보세요.

요약 (TL;DR)

YouTube의 추천 시스템은 십대들을 검색하지도 않은 해로운 콘텐츠로 유도할 수 있습니다. 두 가지 독립적인 연구가 이 패턴을 입증했습니다.
CCDH (2024년 12월): 섭식 장애 영상을 하나 시청한 13세 가상 계정에 대해, 추천 영상 3개 중 1개가 해로운 섭식 장애 콘텐츠였습니다.
Mozilla (2021년 7월): 37,380명의 자원봉사자가 후회한 영상의 71%가 검색이 아닌 추천 알고리즘을 통해 노출되었습니다.
이러한 결과는 조건부이며 보편적인 것은 아닙니다. 이는 일단 루프가 시작되면 어떤 일이 벌어지는지를 보여주는 것이지, 모든 십대에게 강요된다는 뜻은 아닙니다.
부모는 결정 과정에서 알고리즘을 배제할 수 있습니다. WhitelistVideo는 승인된 채널만 재생하므로, 추천 알고리즘이 개입할 틈이 없습니다.

알고리즘은 자녀가 볼 콘텐츠를 어떻게 선택하나요?

YouTube의 추천 시스템은 시청 기록, 시청 시간, 클릭, 좋아요 및 세션 길이를 사용하여 다음에 무엇을 보여줄지 결정합니다. 그 목표는 '참여(Engagement)'입니다. 시청자가 계속 시청하게 만드는 영상은 주제와 상관없이 더 많이 추천됩니다.

대부분의 성인에게 이는 요리, 스포츠, 음악 피드를 만들어냅니다. 하지만 민감한 주제에 한 번이라도 관심을 보인 십대에게 동일한 논리는 해당 주제를 반복해서 노출하는 피드를 생성할 수 있습니다. 연구자들은 이를 '토끼굴(rabbit hole)'이라고 부르며, 이는 실제로 측정된 현상입니다.

연구가 실제로 발견한 것은 무엇인가요?

CCDH: YouTube의 거식증 알고리즘 (2024년 12월)

디지털 혐오 대응 센터(CCDH)는 이전 시청 기록이 없는 13세 소녀를 시뮬레이션한 테스트 계정을 만들었습니다. 각 계정으로 섭식 장애 영상을 하나 시청한 후, 연구원들은 이후 1,000개의 추천 영상을 기록하고 분류했습니다.

추천 영상 3개 중 1개가 해로운 섭식 장애 영상이었습니다.
3개 중 2개는 섭식 장애 또는 체중 감량 관련 콘텐츠였습니다.
일부 추천 영상은 자해나 자살을 언급했습니다.
CCDH가 해로운 영상을 신고했을 때, YouTube는 5개 중 4개의 영상에 대해 삭제하거나 연령 제한을 적용하지 못했습니다.

출처: https://counterhate.com/research/youtube-anorexia-algorithm/

Mozilla: YouTube Regrets (2021년 7월)

Mozilla의 크라우드소싱 조사는 190개국 37,380명의 자원봉사자에게 RegretsReporter라는 브라우저 확장 프로그램을 제공했습니다. 10개월 동안 1,662명의 사용자가 시청을 후회하는 영상에 대해 3,362건의 보고를 제출했습니다.

후회한 영상의 **71%**는 검색 결과가 아닌 YouTube의 추천 알고리즘에 의해 노출되었습니다.
추천된 영상은 사용자가 직접 검색한 영상보다 후회할 확률이 40% 더 높았습니다.
비영어권 사용자들이 더 높은 비율로 후회 사례를 보고했습니다.

자원봉사자들은 모든 연령대였으므로, 이 연구는 십대뿐만 아니라 전반적인 시스템의 작동 방식을 보여줍니다.

출처: https://www.mozillafoundation.org/en/research/library/youtube-regrets-findings/

연구 결과가 말하지 않는 것은 무엇인가요?

객관적인 해석이 중요합니다. 두 연구 모두 YouTube가 모든 십대에게 위험한 콘텐츠를 추천한다고 말하지는 않습니다. CCDH의 계정에는 섭식 장애 영상 하나가 초기 노출(seed)되었고, Mozilla의 보고는 콘텐츠를 신고하기로 선택한 자원봉사자들로부터 나왔습니다. 두 연구가 입증하는 패턴은 '루프(loop)'입니다. 민감한 주제에 대한 단 한 번의 참여가 유사한 자료의 반복적인 추천으로 이어진다는 것입니다.

이는 십대들에게 여전히 실질적인 위험입니다. 청소년은 정체성, 신체 이미지, 복잡한 감정을 탐구하는 시기이며, 특정 주제에 대한 단순한 호기심이 몇 주 동안 관련 콘텐츠를 계속 주입받고 싶다는 의미는 아니기 때문입니다.

기존 제어 기능이 한계가 있는 이유는 무엇인가요?

YouTube는 부모를 위한 세 가지 도구를 제공합니다. 각각 도움이 되지만, 어느 것도 알고리즘의 결정권을 완전히 제거하지는 못합니다.

제한 모드(Restricted Mode): 신고된 일부 영상을 숨깁니다. 그러나 CCDH는 신고된 섭식 장애 영상 5개 중 4개에 대해 YouTube가 조치를 취하지 않았음을 발견했습니다. 즉, 신고 시스템은 완벽한 필터가 아닙니다.
시청 기록 끄기: 홈 피드를 비우지만, '다음 동영상' 및 검색 결과 내 추천은 그대로 유지됩니다.
감독 대상 계정: 콘텐츠 수준 설정(Explore, Explore More, Most of YouTube)을 추가하지만, 해당 수준 내에서 무엇을 보여줄지는 여전히 YouTube 시스템이 선택합니다.

부적절한 콘텐츠를 스캔하는 자녀 보호 앱들도 같은 한계에 부딪힙니다. 매일 수백만 건의 업로드가 발생하는 상황에서 어떤 필터도 모든 추천 영상이 적절하다고 보장할 수 없습니다. 현실적인 대안은 시청할 소스를 미리 결정하는 것입니다.

결정 과정에서 알고리즘을 배제하기

WhitelistVideo는 8세에서 15세 사이의 자녀를 위해 YouTube 전용으로 구축된 자녀 보호 도구이며, 더 어린 자녀도 모든 기능을 사용할 수 있습니다. 이 시스템은 기본적으로 모든 채널을 차단하고 부모가 승인한 채널만 재생합니다. 이는 알고리즘의 역할을 다음과 같이 변화시킵니다.

추천 기능이 작동할 근거가 없습니다. 추천된 영상이 승인되지 않은 채널의 것이라면 재생되지 않습니다. CCDH가 측정한 루프가 시작될 수 없습니다.

Shorts는 기본적으로 차단됩니다. 원할 경우 대시보드에서 켤 수 있습니다. 세로형 피드는 추천 루프가 가장 빠르게 작동하는 곳입니다.

자녀는 검색과 탐색 기능을 유지합니다. 필터링이 적용된 Full YouTube 모드에서 자녀는 일반 YouTube 앱을 사용하지만 승인된 채널만 재생됩니다. Android 및 Android TV의 Curated Feed는 추천이 전혀 없는 잠금된 그리드 화면을 제공합니다.

새로운 채널은 요청을 통해 추가됩니다. 자녀가 앱 내에서 요청하면 부모가 한 번의 탭으로 승인하거나 거절합니다. 부모가 개입된 상태에서 새로운 발견이 이루어집니다.

Auto-pilot 카테고리 스크리닝 (Premium): 승인된 채널 내의 새 영상에 대한 카테고리 신호를 확인하고, 검색어 알림을 통해 자녀가 무엇을 찾고 있는지 알려줍니다.

WhitelistVideo를 Apple Screen Time (iOS), Google Family Link (Android), Family Safety (Windows) 또는 Google Admin console (Chromebook)과 함께 사용하면 화이트리스트가 운영 체제에 고정됩니다. 오직 부모의 암호나 비밀번호로만 이를 해제할 수 있습니다.

자녀와 이에 대해 대화하기

화이트리스트는 대화를 대체하는 것이 아니라 대화와 함께할 때 가장 효과적입니다. 자녀에게 CCDH의 수치를 보여주세요. 이 시스템은 사용자를 위한 것이 아니라 시청 시간을 늘리기 위해 설계되었음을 설명하세요. 어떤 채널이든 요청할 수 있으며, 부모가 결정하기 전에 영상 하나를 함께 보겠다고 약속하세요. 대부분의 십대는 이유를 모르는 규칙보다 이해할 수 있는 규칙을 훨씬 더 잘 수용합니다.

목표는 십대들이 YouTube를 아예 못 하게 하는 것이 아닙니다. 다른 가치를 위해 최적화된 시스템에 모든 시청 결정을 맡기지 않고, 자녀가 가치 있게 생각하는 크리에이터의 콘텐츠를 안전하게 즐길 수 있도록 하는 것입니다.

출처

Center for Countering Digital Hate. "YouTube's Anorexia Algorithm." 10 December 2024. https://counterhate.com/research/youtube-anorexia-algorithm/

Mozilla Foundation. "YouTube Regrets: A crowdsourced investigation into YouTube's recommendation algorithm." 7 July 2021. https://www.mozillafoundation.org/en/research/library/youtube-regrets-findings/

Munzer TG et al. "Digital Ecosystems, Children, and Adolescents: Policy Statement." Pediatrics 157(2), 2026. 알고리즘 추천 시스템을 참여 유도형 설계 중 하나로 지목함. https://publications.aap.org/pediatrics/article/157/2/e2025075320/206129/

자주 묻는 질문

아니요. 연구 결과는 보편적인 결과가 아니라 특정 조건 하에서의 우려스러운 패턴을 보여줍니다. CCDH 연구는 추천 영상을 측정하기 전, 13세 소녀로 설정된 가상 계정에 섭식 장애 영상을 하나 노출시켰습니다. 해당 주제를 전혀 접하지 않은 십대라면 이를 보지 못할 수도 있습니다. 위험한 점은 단 한 번의 호기심 어린 클릭이 동일한 자료를 계속 공급하는 루프를 시작할 수 있다는 것입니다.

2024년 12월 10일에 발표된 디지털 혐오 대응 센터(CCDH)의 연구에 따르면, 시청 기록이 없는 13세 소녀 가상 계정으로 섭식 장애 영상을 하나 시청한 후 다음 1,000개의 추천 영상을 분석했습니다. 그 결과 3개 중 1개는 해로운 섭식 장애 영상이었고, 3개 중 2개는 섭식 장애 또는 체중 감량 관련 콘텐츠였습니다. 또한 YouTube는 신고된 영상의 5개 중 4개를 삭제하거나 연령 제한을 두는 데 실패했습니다.

2021년 7월, Mozilla는 RegretsReporter 확장 프로그램을 설치한 190개국 37,380명의 자원봉사자들로부터 얻은 결과를 발표했습니다. 사용자들이 '후회한다'고 신고한 영상 중 71%는 검색이 아닌 YouTube의 추천을 통해 도달한 것이었으며, 추천된 영상은 사용자가 직접 검색한 영상보다 후회할 확률이 40% 더 높았습니다. 이 연구의 자원봉사자들은 십대뿐만 아니라 모든 연령대였습니다.

시청 기록을 끄거나 제한 모드 및 감독 대상 계정을 사용하는 것이 도움이 되지만, 여전히 알고리즘이 선택권을 갖게 됩니다. 채널 화이트리스트 방식은 결정 과정에서 알고리즘을 완전히 제거합니다. 부모가 승인한 채널만 재생되고, Shorts는 기본적으로 비활성화되며, 새로운 채널은 자녀가 요청을 보내고 부모가 승인해야만 볼 수 있습니다.