KI-Überwachung erfolgt durch Bundesnetzagentur

Künstliche-Intelligenz-Systeme in der EU stehen unter strengen Auflagen – je nach Risiko. Die Bundesnetzagentur soll in Deutschland zentrale Anlaufstelle für alle Fragen der Regulierung von KI im Rahmen der geltenden EU-KI-Verordnung sein. Das hat das Bundeskabinett in Berlin beschlossen.

Die Ministerrunde verabschiedete ein Umsetzungsgesetz zur EU-KI-Verordnung, dem weltweit ersten staatenübergreifenden Gesetzeswerk zum Einsatz von Künstlicher Intelligenz (KI), das seit 2024 schrittweise in Kraft gesetzt wird. Ziel dieser Verordnung ist nach Darstellung der EU-Kommission der Verbraucherschutz und die Sicherstellung eines verantwortungsvollen KI-Einsatzes. Es gibt aber auch Bedenken aus der Wirtschaft, dass zu strenge Regeln Innovation bremsen könnten und Europa im internationalen KI-Wettlauf ins Hintertreffen geraten könnte.

Die Verordnung verbietet beispielsweise den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Damit können Menschen in Verhaltenskategorien eingeteilt, belohnt oder bestraft werden. Nicht erlaubt sind beispielsweise Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen und grundsätzlich die Gesichtserkennung im öffentlichen Raum – mit Ausnahmen für Sicherheitsbehörden zur Verfolgung bestimmter Straftaten.

Unternehmen, die Künstliche Intelligenz entwickeln oder einsetzen, müssen ihre Systeme nach dem Grad des Risikos bewerten und Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Je höher das Risiko ist, desto strenger sind die Anforderungen an Transparenz und Sicherheit.