Die rasche Verbreitung generativer KI erzeugt verstärkten Handlungsdruck auf politischer Ebene. Bislang gibt es jedoch lediglich eine EU-Initiative zur gesetzlichen Regulierung von KI. Die EU plant den sogenannten „AI Act“ bis Ende des Jahres zu verabschieden. Bis das Gesetz tatsächlich greift, kann allerdings noch weitere Zeit vergehen. Als Übergangslösung ist daher momentan eine freiwillige Selbstverpflichtung für KI-Unternehmen angedacht, die von den USA und der EU vorangetrieben wird.
Das Regulierungsvorhaben unterteilt KI in vier Risiko-Kategorien: minimales, geringes, hohes und unannehmbares Risiko. Unannehmbar würde bedeuten, dass die Nutzung der KI „die Werte der Union, beispielsweise Grundrechte, verletzt“. Diese würde generell verboten. Unter die Kategorien „minimales“ und „geringes“ Risiko soll solche KI fallen, die mit Menschen interagieren, Emotionen erkennen oder Inhalte wie Deepfakes erzeugen kann. Hier muss transparent und für alle User:innen sichtbar angezeigt werden, dass es sich um KI-generierte Inhalte handelt.
Daneben sollen für „Hochrisiko-KI-Systeme“ eigene Regeln gelten. Hierunter fällt KI, die „ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen" darstellt. Hierzu gehören Systeme, welche zur biometrischen Identifizierung (z. B. Gesichtserkennung) oder in kritischer Infrastruktur (z. B. im Straßenverkehr, bei der Energieversorgung oder von Ermittlungsbehörden) genutzt werden. Anbieter, deren KI als „Hochrisiko-KI-System“ eingestuft werden, sollen u. A. verpflichtet werden, Risikoanalysen hinsichtlich bekannter und vorhersehbarer Risiken durchzuführen, die KI-Vorgänge während der Nutzung zu dokumentieren sowie Trainingsdaten der KI auf Anforderung offenzulegen.
Generative KI kann theoretisch in allen genannten Risikokategorien eingesetzt werden.
>>> Weiter zu: Welche Chancen bietet KI für Kinder und Jugendliche?
<<< Zurück zu: Wo haben Kinder und Jugendliche Zugang zu generativer KI?
Zur Übersicht: Künstliche Intelligenz (KI)