Wie der YouTube-Algorithmus Teenagern gefährliche Inhalte empfiehlt: Was die Forschung zeigt (2026)

Zwei unabhängige Studien fanden das gleiche Muster: Jede dritte Empfehlung für ein simuliertes 13-jähriges Mädchen war ein schädliches Video über Essstörungen, und 71 % der Videos, die Nutzer bereuten, stammten von YouTubes Empfehlungen, nicht aus der Suche. Hier erfahren Sie, was die Forschung beweist (und was nicht) und wie Eltern den Algorithmus aus der Entscheidung nehmen können.

TL;DR

Das Empfehlungssystem von YouTube kann Teenager zu schädlichen Inhalten führen, nach denen sie nie gesucht haben. Zwei unabhängige Studien dokumentieren dieses Muster.
CCDH (Dezember 2024): Jede dritte Empfehlung für ein simuliertes 13-jähriges Mädchen nach nur einem Video über Essstörungen betraf schädliche Inhalte zum gleichen Thema.
Mozilla (Juli 2021): 71 % der Videos, deren Ansicht 37.380 Freiwillige bereuten, stammten aus Empfehlungen, nicht aus der Suche.
Die Ergebnisse sind bedingt, nicht universell. Sie zeigen, was passiert, wenn eine Schleife erst einmal begonnen hat, nicht, dass jeder Teenager dazu gedrängt wird.
Eltern können den Algorithmus aus der Entscheidung nehmen. WhitelistVideo spielt nur genehmigte Kanäle ab, sodass Empfehlungen nichts haben, was sie forcieren könnten.

Wie der Algorithmus entscheidet, was Ihr Teenager sieht

Das Empfehlungssystem von YouTube nutzt den Wiedergabeverlauf, die Wiedergabezeit, Klicks, Likes und die Sitzungsdauer, um zu entscheiden, was als Nächstes angezeigt wird. Das Ziel ist Engagement. Ein Video, das einen Zuschauer zum Weiterschauen animiert, wird häufiger empfohlen, unabhängig von seinem Thema.

Bei den meisten Erwachsenen führt dies zu einem Feed aus Kochvideos, Sport und Musik. Bei einem Teenager, der sich einmal mit einem sensiblen Thema beschäftigt, kann dieselbe Logik einen Feed erzeugen, der immer wieder zu diesem Thema zurückkehrt. Forscher nennen dies den „Rabbit Hole“ (Kaninchenbau), und dieser Effekt wurde wissenschaftlich gemessen.

Was die Forschung tatsächlich herausgefunden hat

CCDH: YouTubes Anorexie-Algorithmus (Dezember 2024)

Das Center for Countering Digital Hate erstellte Testkonten, die ein 13-jähriges Mädchen ohne vorherigen Wiedergabeverlauf simulierten. Jedes Konto sah sich ein Video über Essstörungen an, woraufhin Forscher die nächsten 1.000 Empfehlungen aufzeichneten und klassifizierten.

Jede dritte Empfehlung betraf schädliche Videos über Essstörungen.
Zwei von drei Empfehlungen betrafen Inhalte zu Essstörungen oder Gewichtsverlust.
Einige Empfehlungen bezogen sich auf Selbstverletzung oder Suizid.
Als CCDH die schädlichen Videos meldete, versäumte YouTube es in vier von fünf Fällen, diese zu entfernen oder mit einer Altersbeschränkung zu versehen.

Quelle: https://counterhate.com/research/youtube-anorexia-algorithm/

Mozilla: YouTube Regrets (Juli 2021)

Die Crowdsourcing-Untersuchung von Mozilla gab 37.380 Freiwilligen in 190 Ländern eine Browser-Erweiterung namens RegretsReporter. Über zehn Monate hinweg reichten 1.662 von ihnen 3.362 Berichte über Videos ein, deren Ansicht sie bereuten.

71 % der bereuten Videos waren von YouTube empfohlen worden, anstatt über die Suche gefunden worden zu sein.
Empfohlene Videos wurden mit einer um 40 % höheren Wahrscheinlichkeit bereut als Videos, nach denen der Nutzer aktiv gesucht hatte.
Nicht-englischsprachige Nutzer meldeten Reuegefühle in einer höheren Rate.

Die Freiwilligen waren jeden Alters, daher zeigt diese Studie, wie sich das System allgemein verhält, nicht nur für Teenager.

Quelle: https://www.mozillafoundation.org/en/research/library/youtube-regrets-findings/

Was die Forschung nicht besagt

Eine ehrliche Interpretation ist hier wichtig. Keine der beiden Studien zeigt, dass YouTube jedem Teenager gefährliche Inhalte empfiehlt. Die Konten von CCDH wurden gezielt mit einem Video über Essstörungen gefüttert; die Berichte von Mozilla stammten von Freiwilligen, die sich aktiv entschieden, Inhalte zu markieren. Das Muster, das beide Studien dokumentieren, ist eine Schleife: Eine einzige Interaktion mit einem sensiblen Thema führt zu wiederholten Empfehlungen für ähnliches Material.

Das bleibt dennoch ein reales Risiko für einen Teenager. Jugendliche erforschen Identität, Körperbild und schwierige Gefühle. Neugier auf ein Thema ist nicht gleichbedeutend mit dem Wunsch, wochenlang damit gefüttert zu werden.

Warum die üblichen Kontrollen nicht ausreichen

YouTube bietet drei Werkzeuge für Eltern an. Jedes hilft, aber keines nimmt den Algorithmus aus der Entscheidung.

Eingeschränkter Modus blendet einige markierte Videos aus. CCDH stellte fest, dass YouTube bei vier von fünf gemeldeten Videos zu Essstörungen nicht reagierte, weshalb die Markierung ein schwacher Filter ist.
Das Deaktivieren des Wiedergabeverlaufs leert den Home-Feed, lässt aber „Nächstes Video“ und Empfehlungen in den Suchergebnissen bestehen.
Elternbeaufsichtigte Konten bieten Einstellungen auf Inhaltsebene (Entdecken, Mehr entdecken, Meiste Inhalte auf YouTube), lassen aber immer noch YouTubes Systeme innerhalb dieser Stufe auswählen.

Kinderschutz-Apps, die nach unangemessenen Inhalten suchen, stoßen an dieselbe Grenze. Bei Millionen von Uploads pro Tag kann kein Filter garantieren, dass jede Empfehlung angemessen ist. Die praktische Alternative besteht darin, die Quellen im Voraus festzulegen.

Den Algorithmus aus der Entscheidung nehmen

WhitelistVideo ist eine Kindersicherung, die ausschließlich für YouTube entwickelt wurde – für Kinder von 8 bis 15 Jahren, wobei auch jüngere Kinder jede Funktion nutzen können. Es blockiert standardmäßig jeden Kanal und spielt nur die Kanäle ab, die ein Elternteil genehmigt. Das verändert grundlegend, was der Algorithmus tun kann:

Empfehlungen haben nichts, was sie forcieren können. Wenn ein empfohlenes Video von einem nicht genehmigten Kanal stammt, wird es nicht abgespielt. Die von CCDH gemessene Schleife kann gar nicht erst entstehen.

YouTube Shorts sind standardmäßig blockiert, mit einem Schalter im Dashboard, falls Sie diese aktivieren möchten. Der vertikale Feed ist der Ort, an dem Empfehlungsschleifen am schnellsten ablaufen.

Ihr Teenager behält die Suche und das Browsen. Im Modus „Full YouTube mit Filterung“ nutzen sie die reguläre YouTube-App, und nur genehmigte Kanäle werden abgespielt. Auf Android und Android TV bietet der „Curated Feed“ ein gesperrtes Raster ohne jegliche Empfehlungen.

Neue Kanäle werden per Anfrage hinzugefügt. Ihr Teenager fragt innerhalb der App an; Sie genehmigen oder lehnen mit einem Fingertipp ab. Entdeckungen finden weiterhin statt, aber mit einem Elternteil als Kontrollinstanz.

Auto-pilot Kategorie-Screening (Premium) prüft Kategoriesignale bei neuen Videos innerhalb genehmigter Kanäle, und Suchanfragen-Warnungen informieren Sie darüber, wonach Ihr Teenager sucht.

Die Kombination von WhitelistVideo + Apple Screen Time (iOS), Google Family Link (Android), Family Safety (Windows) oder der Google Admin-Konsole (Chromebook) verankert die Whitelist im Betriebssystem. Nur der Passcode oder das Passwort der Eltern kann sie entfernen.

Mit Ihrem Teenager darüber sprechen

Eine Whitelist funktioniert am besten zusammen mit einem Gespräch, nicht als Ersatz dafür. Zeigen Sie Ihrem Teenager die CCDH-Zahlen. Erklären Sie, dass das System für Wiedergabezeit gebaut wurde, nicht für sein Wohlergehen. Vereinbaren Sie, dass er jeden Kanal anfragen kann und dass Sie sich ein Video ansehen, bevor Sie entscheiden. Die meisten Teenager akzeptieren eine Regel, die sie verstehen, viel eher als eine Regel, mit der sie einfach konfrontiert werden.

Das Ziel ist nicht, Teenager von YouTube fernzuhalten. Es geht darum, ihnen die Creator zu geben, die sie schätzen, ohne jede Entscheidung darüber, was sie sehen, einem System zu überlassen, das auf etwas ganz anderes optimiert ist.

Quellen

Center for Countering Digital Hate. „YouTube's Anorexia Algorithm.“ 10. Dezember 2024. https://counterhate.com/research/youtube-anorexia-algorithm/

Mozilla Foundation. „YouTube Regrets: A crowdsourced investigation into YouTube's recommendation algorithm.“ 7. Juli 2021. https://www.mozillafoundation.org/en/research/library/youtube-regrets-findings/

Munzer TG et al. „Digital Ecosystems, Children, and Adolescents: Policy Statement.“ Pediatrics 157(2), 2026, welche algorithmische Empfehlungssysteme zu den engagement-fördernden Designs zählt. https://publications.aap.org/pediatrics/article/157/2/e2025075320/206129/

Häufig gestellte Fragen

Nein. Die Forschung zeigt besorgniserregende Muster unter spezifischen Bedingungen, kein universelles Ergebnis. Die CCDH-Studie fütterte das Konto eines simulierten 13-jährigen Mädchens mit einem Video über Essstörungen, bevor die Empfehlungen gemessen wurden. Ein Teenager, der dieses Thema nie anrührt, sieht es möglicherweise nie. Das Risiko besteht darin, dass ein einziger neugieriger Klick eine Schleife starten kann, die immer wieder dasselbe Material liefert.

Veröffentlicht am 10. Dezember 2024, erstellte das Center for Countering Digital Hate Testkonten, die ein 13-jähriges Mädchen ohne bisherigen Wiedergabeverlauf simulierten. Es wurde ein Video über Essstörungen angesehen und anschließend die nächsten 1.000 Empfehlungen analysiert. Jede dritte Empfehlung war ein schädliches Video über Essstörungen, zwei von drei waren Inhalte zu Essstörungen oder Gewichtsverlust, und YouTube versäumte es in vier von fünf Fällen, gemeldete Videos zu entfernen oder mit einer Altersbeschränkung zu versehen.

Im Juli 2021 veröffentlichte Mozilla Ergebnisse von 37.380 Freiwilligen in 190 Ländern, die die Erweiterung RegretsReporter installierten. Von den Videos, die sie als bedauerlich markierten, stammten 71 % aus YouTubes Empfehlungen und nicht aus der Suche. Empfohlene Videos wurden mit einer um 40 % höheren Wahrscheinlichkeit bereut. Die Freiwilligen waren jeden Alters, nicht nur Teenager.

Das Deaktivieren des Wiedergabeverlaufs, die Nutzung des Eingeschränkten Modus und elternbeaufsichtigte Konten reduzieren das Problem jeweils, lassen aber immer noch den Algorithmus die Auswahl treffen. Eine Kanal-Whitelist nimmt den Algorithmus aus der Entscheidung: Nur von den Eltern genehmigte Kanäle werden abgespielt, YouTube Shorts sind standardmäßig deaktiviert, und neue Kanäle werden über eine Anfrage hinzugefügt, die der Teenager sendet und die Eltern genehmigen.