Kein Schutz vor verbotenen Kennzeichen, Holocaustleugnung und Anleitung zum Menschenhass
Der Chatbot Grok ist u.a. Teil des Dienstes X (vormals Twitter). Wegen sexualisierter Deepfakes, womöglich auch von Minderjährigen, sorgte er Anfang 2026 für Empörung. jugendschutz.net testete den KI-Dienst hinsichtlich Hass- und Extremismusinhalte. Dabei zeigte sich ein systematisches Versagen: NS-Symbole wurden generiert, Holocaustleugnungen konnten kreiert oder zusammengestellt werden. Besonders gravierend: Von spielerischen Mobbing-Ideen aus eskalierte der Dienst in der Interaktion mit den Nutzer:innen über Abwertungen bis hin zu drastischen Gewalt-, Vergewaltigungs- und Mordfantasien. Im Vergleich zu früheren Tests zeigte sich zudem, dass Beschränkungen zur Generierung bestimmter Inhalte offenbar wieder aufgeweicht wurden.
Report: Grok: Hass- und Extremismus-Content durch KI (nicht barrierefrei)