Eine romantische Beziehung mit der Heldin aus einem Fantasy-Roman oder eine enge Freundschaft mit dem Hauptdarsteller der Lieblingsserie – Charakter-Bots ermöglichen Nutzer:innen digitale Erlebnisse in unterschiedlichsten Szenarien. Auch für Kinder und Jugendliche kann der Austausch mit KI-Charakteren spannend und unterhaltsam sein, birgt jedoch auch erhebliche Risiken.
Eine Recherche von jugendschutz.net nahm insbesondere Risiken im Bereich sexualisierter Gewalt gegen Minderjährige in den Blick und untersuchte exemplarisch drei Dienste, in denen Nutzer:innen mit Charakter-Bots interagieren sowie eigene Charaktere erstellen und veröffentlichen können. Dabei zeigte sich, dass schwache Filter und unzureichende Vorsorgemaßnahmen dazu führen können, dass Minderjährige schnell mit ungeeigneten oder potenziell gefährdenden Inhalten in Kontakt kommen. Beispielsweise erzeugten Bots eigenständig Texte, in denen Minderjährige sexualisiert oder sexuelle Handlungen mit ihnen beschrieben wurden.
Alle Rechercheergebnisse lesen Sie im aktuellen Report.
