Der "Hey Grok"-Trend ist ein aktuelles Social-Media-Phänomen, mit Ursprung auf x.com. Nutzer:innen fordern dort den integrierten KI-Chatbot Grok (xAI) auf, Bilder zu bearbeiten oder zu generieren. Häufig wird angefragt, die Oberbekleidung bei Frauen digital zu entfernen. Aus harmlosen Selfies werden so, ohne Zustimmung der abgebildeten Personen, sexualisierte Darstellungen, die diese meist in Unterwäsche oder Bikini zeigen. Auch eine geringe Anzahl Minderjähriger soll betroffen sein. Die manipulierten Bilder sind direkt in einem öffentlichen X-Post neben dem Ursprungsbild sichtbar. Auch auf anderen Plattformen wie TikTok, Instagram oder YouTube werden unter dem Hashtag #heygrok manipulierte Inhalte und Chatverläufe von x.com geteilt und weiterverbreitet. Die Kontrolle über das eigene Bild geht so schnell verloren. Selbst wenn der Ursprungspost bereits entfernt wurde, ist die manipulierte Variante weiterhin im Umlauf.
Bildbasierte sexualisierte Gewalt, durch Manipulation von Bildern mit technischen Mitteln, wird durch den Einsatz künstlicher Intelligenz immer leichter (siehe auch „Wenn KI entblößt“), insbesondere, wenn entsprechende Vorsorgemaßnahmen fehlen. Die Deepfakes verletzen die Persönlichkeitsrechte der Betroffenen und können – je nach Ausprägungsform – auch strafrechtlich relevant sein. Es kann zu weiteren Risiken, wie Cybermobbing kommen.
Verstöße gegen Jugendschutzbestimmungen können über unser Beschwerdeformular gemeldet werden. Eine Liste von Beratungs- und Informationsangeboten zum Thema sexualisierte Gewalt (online) finden Sie hier.
