Sexualisierte Gewalt und extremistische Hassinhalte bleiben zentrale Probleme im Netz: Im zweiten Jahr in Folge hat jugendschutz.net mehr als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. KI-gestützte Anwendungen verschärfen viele Risiken: Chatbots, künstlich generierte Influencer:innen und manipulierte Bilder stellen den Jugendmedienschutz vor neue Herausforderungen. Bei Spotify und Discord waren zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen festzustellen; auf TikTok und Co. beobachtete jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen. Mehr dazu in unserem aktuellen Jahresbericht.
Neue Risiken auf jugendaffinen Plattformen durch KI