Jahresbericht

KI auf jugendaffinen Plattformen: Anbieter schaffen neue Einfallstore für Risiken 

jugendschutz.net registrierte 2025 insgesamt 15.099 Verstoßfälle. Die Zahl bewegt sich im zweiten Jahr in Folge auf hohem Niveau (2024: 17.630; 2023: 7.645). Ursache dafür ist weiterhin ein enorm hohes Aufkommen an Fällen im Themenfeld Sexualisierte Gewalt, die jugendschutz.net über die Online-Beschwerdestelle erreichten.

Bei über 6.900 Fällen wies jugendschutz.net Anbieter und Selbstkontrollen auf Verstöße hin und forderte schnelle Beseitigung. In besonders gravierenden Fällen wie zum Beispiel sexualisierter Gewalt schaltete die Organisation Strafverfolgungsbehörden ein. Aufsichtsfälle wurden an die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) übermittelt. 
Zum Jahresende waren insgesamt 96 % der Verstöße bereits im Vorfeld weiterer Maßnahmen beseitigt.

Zentrale Probleme im Netz bleiben weiterhin sexualisierte Gewalt und extremistische Hassinhalte. Viele Risiken werden durch KI-gestützte Anwendungen verschärft: Chatbots, künstlich generierte Influencer:innen und manipulierte Bilder stellen den Jugendmedienschutz vor neue Herausforderungen. Die Anbieter der Dienste unternehmen dagegen viel zu wenig für den Schutz von Kindern und Jugendlichen.