Sexualisierung Minderjähriger und riskante Interaktion
Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie – Charakter-Bots machen solche Szenarien erlebbar. Für Kinder und Jugendliche kann die Interaktion mit KI-Charakteren spannend und unterhaltsam sein, sie birgt jedoch auch erhebliche Risiken. In Diensten, die solche Charaktere anbieten, fehlen häufig angemessene Vorsorgemaßnahmen.
jugendschutz.net untersuchte exemplarisch, wie schnell junge Nutzer:innen in Gesprächen mit Bots auf problematische oder grenzüberschreitende Inhalte stoßen. Dabei lag der Schwerpunkt der Recherche auf Risiken sexualisierter Gewalt gegen Minderjährige.