KI sollte allerdings nicht nur auf mögliche Risiken hin betrachtet werden – sie bietet auch viele Chancen für Heranwachsende und den Jugendschutz im Internet. KI wird seit Jahren erfolgreich dafür eingesetzt, sexualisierte Gewalt im Internet gegen Kinder zu bekämpfen, indem entsprechende Inhalte automatisch erkannt und den Ermittlungsbehörden gemeldet werden. Auch ist KI heute bereits in der Lage, die Altersverifikation in kinder- und jugendaffinen Online-Diensten zu unterstützen. Zudem kann sie in Form von helfenden und warnenden Chat-Bots zu einem sichereren Onlineerlebnis Minderjähriger beitragen, um bspw. die Konfrontation mit gefährlichen Inhalten oder den Austausch mit unbekannten bzw. riskanten Kontakten zu verhindern. Bisher setzen jedoch noch zu wenige Dienste KI-Systeme gezielt für die Sicherheit von Kindern und Jugendlichen ein.
In der Arbeit mit Kindern und Jugendlichen kann insbesondere generative KI als Werkzeug zur Förderung von kreativen Fähigkeiten und Medienkompetenz dienen. Sie bietet aber auch Potenziale zur Aufklärung über mögliche Gefahren und kann so eine kritische Mediennutzung unterstützen und für einen reflektierten Umgang mit der Technologie sensibilisieren. Erste Projekte erproben, wie KI im Schulalltag von Minderjährigen eingesetzt werden kann, z. B. PEER der TU München. Darüber hinaus gibt es Initiativen zur Förderung von Bildung, Wissenschaft und Innovation im schulischen Kontext.
<<< Zurück zu: Welchen rechtlichen Rahmen gibt es bisher für die Nutzung von generativer KI?
Zur Übersicht: Künstliche Intelligenz (KI)