(Stand: April 2025)
Generative Künstliche Intelligenz (KI) wird heute häufig zur Erstellung von Bildern benutzt. Entsprechend sind sie mittlerweile Grundlage von Social-Media-Trends. Auch Extremist:innen greifen diese Trends auf. Sie nutzen die Technologien, um sich modern zu inszenieren und an die Lebenswelten junger Menschen anzudocken. Besonders dann, wenn die Trends sich an jugend- und popkulturelle Phänomene, wie etwa Zeichentrick-, Animationsfilme oder Actionfiguren, anschließen.
Bereits Ende 2023 war einer der ersten KI-Trends auf Social Media zu beobachten. Nutzer:innen stellten sich selbst oder andere im Computeranimations-Stil des Pixar-Studios dar, bekannt durch Familienfilme wie „Toy Story“, „Findet Nemo“ oder „Cars“. Die Technik wurde jedoch schnell auch für problematische Zwecke eingesetzt. So entstanden Bilder mit expliziten Gewaltdarstellungen – teils als angeblich „schwarzhumorige“ Provokation, teils gezielt für Hass- und Propagandazwecken. So wurde beispielsweise ein fiktives Filmplakat verbreitet, das einen kulleräugigen Hitler in einem Vernichtungslager zeigte. Auch Illustrationen, die die Gewalt an NS-Gefangenen verniedlichen, kursierten im Netz.
Ein jüngerer KI-Trend ist „Ghiblification“. Dabei werden Fotos durch den neuen ChatGPT-Bildgenerator so umgewandelt, dass sie wie Screenshots aus einem Zeichentrickfilm des japanischen Anime-Studios Ghibli („Prinzessin Mononoke“, „Chihiros Reise ins Zauberland“) oder anderen Animes aussehen.
Die Erstellung solcher Bilder ist durch unterschiedliche Filter niedrigschwellig, einige KI-Tools haben bereits feste „Ghiblification“-Einstellungen. Die Bilder werden vor allem auf Instagram, TikTok und X verbreitet. Der Stilisierungstrend wurde nicht nur als Fall von kultureller Aneignung und Beispiel für die Verdrängung künstlerischen Kreativitätshandwerks durch generative KI diskutiert. Auch Extremist:innen nutzen die Stilisierungsmöglichkeiten zur heroisierenden Selbstdarstellung, um sich humorvoll zu geben oder um Menschengruppen bloßzustellen und abzuwerten.
So finden sich auf Instagram „ghiblifizierte“ Bilder, mit denen Islamist:innen eigene Schriften vermarkten oder den Israel-Gaza-Krieg kommentieren. Der israelische Ministerpräsident Netanyahu wird dabei häufig als Verbrecher dargestellt. Die verspielte Anime-Ästhetik der Bilder verschleiert dabei das Problematische der Kernbotschaften.
Vermehrt greifen zudem rechtsextreme Akteure und sogar rechtspopulistische „virtuelle Influencer:innen“ den Trend in ihrem politischen Kulturkampf auf. Sie machen sich selbst zu Figuren der Ghibli-Welt, um jugendaffiner und ansprechender zu wirken. Ebenso werden auch Szenarien, wie z.B. rechtextreme Demostrationen, in diesem Stil dargestellt.
Abgelenkt wird von den Kernbotschaften der sogenannten „Remigrations“-Veranstaltungen, auf denen die systematische Ausgrenzung und massenweise Abschiebung von Menschen gefordert wird. Weiterhin fanden sich Bilder, die in diesem Stil etwa den Tod George Floyds oder den islamistischen Anschlag von Mannheim 2024 verniedlichen oder ideologische Gegner:innen herabwürdigen.
Ein weiterer aktueller KI-Trend ist schließlich, sich als Spielzeug- bzw. Actionfigur in Verkaufshülle mit frei wählbarem Zubehör darzustellen. Dafür können Fotos hochgeladen oder Beschreibungen („Prompts“) eingegeben werden, aus denen die KI das Bild generiert.
Zwischen Selbstironie und Heroisierung präsentieren sich allerdings auch Rechtsextreme und Islamist:innen und erzielen damit, etwa auf Instagram oder X, hohe Klickzahlen. Die Zubehörteile zur eigenen Actionfigur dienen dabei der Selbstcharakterisierung sowie bisweilen dem Ausdruck der eigenen ideologischen Haltung. Bei der Darstellung der eigenen Person oder anderer (z.B. politische Idole) gibt es allerdings Einschränkungen.
So verweigert es etwa ChatGPT, Abbildungen von bzw. Darstellungen als Adolf Hitler oder Angehörige von Terrororganisationen (allgemein oder konkret z.B. des IS-Anführers Abu Bakr al-Baghdadi) zu erzeugen. Allerdings versuchen Nutzer:innen immer wieder, das System dahingehend auszutricksen. Die Actionfiguren-Bildgenerierung wird zudem genutzt, um ironisch virtuelles Propaganda-„Merchandise“ zu kreieren.
Beispielsweise wurde die Figur eines Abschiebeflug-Kapitäns inklusiver Handschellen und Deutschlandfahne im Kontext der Forderungen nach Ausweisung und „Remigration“ erstellt.
Weiterhin werden über die Darstellungstechnik verachtete Personen (z.B. Bundesinnenministerin Nancy Faeser oder Bundeskanzler Olaf Scholz) als Hass- und Spottfiguren karikiert sowie abwertende stereotype Feindbilder von Menschen- und Gegnergruppen konkretisiert (der „dunkelhäutige vergewaltigende Flüchtling“, die weinerliche „Liberale Linke“).
Ob Pixar-Stil, Ghiblification oder Actionfiguren: Extremistische Werbung, Hass und Hetze, die sich solcher Trends und den entsprechenden KI-Darstellungsmitteln bedienen, sind für Kinder und Jugendliche in mehrfacher Hinsicht besonders problematisch. Im Anschluss an vertraute mediale Ästhetiken und Produktwelten, die besonders auf Minderjährige zielen, aber auch weil sie lustig und putzig wirken, werden extremistische Botschaften und Sichtweisen leichter aufgenommen, nicht sofort durchschaut oder trivialisiert.
Sie wirken auf Minderjährige in ihrer Jugendaffinität besonders attraktiv, erreichen sie aber auch über die weite Verbreitung im Zuge des Trends potenziell schneller oder häufiger als andere Inhalte.
![Tagungsband: Rechtsextreme [&] Gaming-Kulturen](/fileadmin/_processed_/c/a/csm_tagungsband_re_und_gaming_kulturen_3c60be78c5.png "Tagungsband: Rechtsextreme [&] Gaming-Kulturen")
