(Stand 22.07.2025)
Generative KI ist in der Lage, Texte, Bilder oder Videos zu generieren, die nur noch schwer als künstliche Inhalte zu erkennen sind. In Social Media gehören diese Inhalte heute schon zum normalen Erscheinungsbild. Verschiedene Anbieter trainieren KI darauf, menschliches Verhalten in Social Media zu imitieren. Das soll die Angebote interessanter für Nutzer:innen machen und sie dazu verleiten, mehr Zeit in den Diensten zu verbringen. Butterflies.AI ist ein Beispiel für diese Entwicklung.
Was macht Butterflies.AI so besonders?
In Optik und Funktionsweise unterscheidet sich Butterflies.AI zunächst kaum von herkömmlichen Social-Media-Diensten. Nutzer:innen können ein Profil anlegen, Beiträge posten, anderen folgen und deren Beiträge kommentieren, liken oder teilen sowie private Nachrichten versenden. Das Besondere an Butterflies.AI ist, dass sowohl reale Personen als auch KI-Charaktere aktiv sind.
Im Mittelpunkt des Dienstes steht das Erstellen dieser KI-Charaktere, genannt „Butterflies“. Nutzer:innen können ihren Charakteren eine Persönlichkeit und Charakterzüge verleihen, an denen sich die KI des Angebots später orientiert und darüber entscheiden, wie realistisch die Darstellung sein soll. Wer möchte, kann auch einen Klon von sich selbst aus einem Selfie erstellen lassen und bestimmen, wie sich dieser in dem Sozialnetzwerk verhalten soll.
Ist der KI-Charakter fertig, imitiert er menschliches Verhalten, das Profil unterscheidet sich dann kaum von dem realer Nutzer:innen. Er kann dann u.a. posten, kommentieren und Nachrichten schreiben.
KI-Charaktere agieren eigenständig
Sobald der KI-Charakter erstellt und veröffentlicht ist, lassen sich dessen Aktivitäten nur noch indirekt steuern. Welchen Profilen er folgt, welche Beiträge er likt oder wie er diese kommentiert lässt sich nicht mehr direkt beeinflussen. Ebenso haben Nutzer:innen weder Einblick noch Einfluss darauf, wie sich der eigene KI-Charakter im privaten Chat mit anderen Nutzer:innen konkret verhält, bzw. mit wem er kommuniziert. Auch Posts erstellt der Charakter täglich eigenständig – deren Veröffentlichung müssen Nutzer:innen seit Kurzem aber zustimmen. Wird der Charakter aktiv dazu aufgefordert einen weiteren Post zu erstellen, wird dieser automatisch veröffentlicht, ohne das dem Ergebnis zugestimmt werden muss.
Nutzer:innen können ihre KI-Charaktere zudem dazu veranlassen, mit beliebigen KI-Charakteren einen gemeinsamen Beitrag zu erstellen. Die Ersteller:innen der gewählten KI-Charaktere, die Teil des gemeinsamen Posts sind, werden darüber nicht informiert und können dem auch nicht widersprechen. So kann nicht ausgeschlossen werden, dass KI-Charaktere Teil von Posts sind, mit denen die Ersteller:innen normalerweise nicht einverstanden wären.
Konfrontation mit gefährdenden Inhalten nicht ausgeschlossen
Wie in normalen Social-Media-Diensten ist eine Konfrontation mit gefährdenden Inhalten auch bei Butterflies.AI nicht ausgeschlossen. Bei der Sichtung des Dienstes fand jugendschutz.net eine Vielzahl an Butterflies, deren Inhalte potenziell gegen den JMStV verstoßen. Darunter z.B. solche, die sexualisierte Inhalte posteten, u.a. auch pornografische Beiträge. Ebenso fanden sich verschiedene Butterflies, die Adolf Hitler, Osama bin Laden, Mitglieder des „Islamischen Staats” oder den Rechtsterroristen Anders Breivik nachempfunden waren und potenziell entwicklungsbeeinträchtigende Inhalte veröffentlichten. Einige KI-Charaktere waren minderjährig und/oder posteten Kinderbilder, die in der Bildbeschreibung oder Kommentaren sexualisiert wurden.
KI-Charaktere künftig fester Bestandteil von Social Media?
Mit Butterflies.AI hat jugendschutz.net exemplarisch einen Dienst gesichtet, der klassisches Social Media und neue Möglichkeiten durch KI vereint. Damit ist der Anbieter nicht allein - neben ähnlichen Angeboten wie Chirper AI, werden auch immer mehr KI-Chatangebote wie z.B. character.ai gelauncht. Wie bei vielen anderen Anbietern auch, gibt es bei Butterflies.AI keine verlässliche Altersverifikation, Kinder und Jugendliche haben somit leicht Zugang zu diesen Angeboten. Auch das Schutzbedürfnis minderjähriger Nutzer:innen wird von vielen Anbietern nur unzureichend berücksichtig.
Nahezu alle großen Social-Media-Dienste planen oder haben bereits Social-Bots integriert. Meta hat schon erste Tests mit KI-Charakteren in seinen Angeboten gemacht. Presseberichte deuten darauf hin, dass der Dienst beabsichtigt, solche KI-Bots in den Angeboten auch proaktiv agieren zu lassen. In welchem Umfang die Bots in den Diensten vertreten sein sollen und wer sie erstellen darf, ist bisher noch unklar. Das Angebot an KI generierten Inhalten wächst stetig und insbesondere Funktionen in bei jungen Menschen beliebten Diensten erfordern den Blick auf neue oder verschärfte Risiken und erforderliche Vorsorgemaßnahmen.
