Wegen sexualisierter Deepfakes ist der Chatbot Grok in der Kritik und Anlass eines EU-Verfahrens gegen den Dienst X. jugendschutz.net hat Anfang des Jahres getestet, wie einfach sich Extremismus- und Hass-Content generieren lässt – und so ggf. Minderjährige bei ihrer Nutzung damit konfrontiert sind.
Das Ergebnis zeigt: Hakenkreuze oder Holocaust leugnende Inhalte sind schnell erstellt; Vorkehrungen, Warnungen oder Einordnungen fehlen. Besonders bedenklich: Beim Test von jugendschutz.net im Sommer 2025 war das noch besser. Umso drastischer fällt der aktuelle Befund aus: Bei der fiktiven Suche nach Mobbing-Ideen gegen Klassenkamerad:innen regt die KI selbst an, immer mehr zu eskalieren – bis hin zur Detailbeschreibung explizitester Vergewaltigungs- und Mordszenarien.
Den Report „Grok: Hass und Extremismus-Content durch KI“ finden Sie HIER.
