Im Interview wirft Ivana Bartoletti, Chief Privacy und AI Governance Officer beim IT-Konzern Wipro, einen Blick auf das neue EU-Gesetz zur Künstlichen Intelligenz (KI).
Ivana Bartoletti wurde kürzlich zum Mitglied des Sachverständigenausschusses für Künstliche Intelligenz, Gleichstellung und Diskriminierung beim Europarat ernannt.
Wipro
Frau Bartoletti, warum ist KI-Regulierung ein wichtiges Thema?
Ivana Bartoletti: Wir müssen sicherstellen, dass die Produkte auf dem Markt sicher und robust sind und keine bestehenden Ungleichheiten in Entscheidungen oder Vorhersagen einfließen lassen. KI hat ein enormes Potenzial, vor allem wenn es darum geht, unser Wohlbefinden, Produktivität und Gesundheit zu verbessern. Wir sehen aber auch reale Gefahren aufkommen. In Anbetracht der Tatsache, dass in diesem Jahr in über 60 Ländern Wahlen stattfinden (diese entsprechen etwa der Hälfte der Weltbevölkerung), müssen wir uns mit Deepfakes befassen. Denn diese sind mit allgemein zugänglichen KI-Tools jetzt viel einfacher zu erstellen.
Welche Rolle spielt in diesem Kontext der EU AI Act?
Auch vor dem AI Act war KI kein rechtsfreier Raum. Datenschutz-, Antidiskriminierungs-, Verbraucher- und Urheberrechtsgesetze, um nur einige zu nennen, gelten hier bereits. Hier spielt die EU-KI-Verordnung eine wichtige Rolle: Sie besagt, dass Systeme mit hohem Risiko vor ihrem Markteintritt bestimmte Sorgfaltspflichten in Bereichen wie „Transparenz“, „Datenschutz“, „Robustheit“ und „Fairness“ nachweisen müssen. Der wichtigste Punkt ist jedoch, dass wir das EU-KI-Gesetz nicht isoliert betrachten dürfen. Es ist Teil eines größeren Vorhabens, das sicherstellen soll, dass wir eine faire digitale Welt haben, die auf dem Wert der Menschenwürde beruht. Darüber hinaus spielen auch die kommenden Haftungsrichtlinien eine wichtige Rolle für KI-Systeme, ebenso wie der Digital-Governance- und der Data-Act. Es besteht kein Zweifel daran, dass die EU-KI-Verordnung weltweit Maßstäbe setzt; in einer Zeit, in der KI-Governance in allen Ländern ganz oben auf der politischen Agenda steht.
Welche Schwierigkeiten erwarten Sie bei der praktischen Umsetzung?
Meiner Ansicht nach geht es bei vielen Anforderungen des Gesetzes darum, die Einhaltung bestehender Rechtsvorschriften zu protokollieren und nachzuweisen. So schreibt die Verordnung z.B. für KI mit hohem Risiko eine Konformitätsprüfung vor, die im Grunde eine Reihe an Dokumenten zum Compliance-Nachweis umfasst. Die eigentliche Herausforderung, die ich sehe – unabhängig vom EU-KI-Gesetz an sich – besteht also darin, bestehende Gesetze wie Urheberrecht und Datenschutz mit KI in Einklang zu bringen. Folglich sollten Unternehmen in multifunktionale Governance investieren, um sicherzustellen, dass wir mithilfe vielseitigen Inputs Lösungen für komplexe Probleme finden können.
Wie sollte die EU jetzt vorgehen, um die Unternehmen beim KI-Gesetz „mitzunehmen“?
Ein wichtiger Schritt wurde mit der Einrichtung des KI-Büros gemacht, das in Zukunft hoffentlich wirksam greifen wird. Investitionen in das Early-Adopters-Programm werden ebenfalls zentral sein, damit Unternehmen gemeinsam bewährte Verfahren zur Einhaltung der Vorschriften entwickeln können. Und schließlich werden Leitlinien der Regulierungsbehörden sowie sichere Räume zum Experimentieren für Unternehmen (bspw. „Sandboxes“) von entscheidender Bedeutung sein. Ein weiteres wichtiges Element in diesem Zusammenhang ist, aus den Fehlern bei der Datenschutz-Grundverordnung (DSGVO) zu lernen. So sollten wir beispielsweise eine Fragmentierung vermeiden und dafür sorgen, dass Unternehmen ohne allzu große Hürden in der gesamten EU operieren können. Ich möchte die EU auch dazu ermutigen, mit anderen Ländern und Rechtsordnungen zusammenzuarbeiten, um sich bei den wichtigsten Grundsätzen und Maßnahmen für KI-Governance anzugleichen. Es ist unbedingt notwendig, globale Normen für KI zu entwickeln. Das Wichtigste ist jedoch, in Wachstum zu investieren, bei dem der Mensch im Mittelpunkt steht, und in dieser Hinsicht ist das EU-KI-Gesetz nur ein Teil eines viel größeren Mosaiks.