Künstliche Intelligenz (KI) in Unternehmen bringt Effizienz und wirtschaftlichen Erfolg. Doch in allen Branchen wird auch über mögliche Risiken diskutiert. Die EU-Kommission möchte nun Grenzen ziehen und wird bald eine entsprechende Verordnung beschließen.
Als zentrales Risiko von Künstlicher Intelligenz betrachtet die EU-Kommission die Undurchsichtigkeit des Handelns entsprechender Systeme und deren rechtlicher Nachvollziehbarkeit.
dragonstock / Fotolia
Kundenanfragen mit einem Chatbot beantworten, eingehende Mails nach Themen und Kundenanliegen klassifizieren, optimale Entscheidungen im Wertpapierhandel treffen – Künstliche Intelligenz (KI) bietet viele Möglichkeiten, ihr Anwendungsspektrum ist breit. Finanzdienstleister können zum Beispiel anhand allgemein verfügbarer Daten im Internet Bonitätsprüfungen vornehmen oder eine Betrugserkennung durchführen.
Das Potenzial ist groß, die Möglichkeit zum Missbrauch allerdings auch, etwa durch eine ungehemmte Überwachung des öffentlichen Raums. Die europäische Kommission setzt deshalb auf das Konzept der vertrauenswürdigen KI: Europa soll führender Standort für KI werden, dabei sollen aber fragwürdige Einsatzgebiete ausgeschlossen sein. Deshalb entwickelt die europäische Kommission zurzeit eine neue EU-Verordnung. Sie ist im Moment noch ein Entwurf, soll aber bis Ende des Jahres beschlossen werden. Deshalb ist es für alle Unternehmen sinnvoll, sich mit den Inhalten zu beschäftigen.
Risikoeinschätzung für Künstliche Intelligenz
Kern der neuen Richtlinie ist eine Risikoabschätzung hinsichtlich der Grundrechte, der Sicherheit und der Privatsphäre. Die EU definiert die vier Risikogruppen unannehmbar, hoch, gering und minimal. Ein unannehmbares Risiko ist etwa Software, die soziales Verhalten bewertet. Auch Gesichtserkennung auf öffentliche Plätzen ist stark eingeschränkt.
Relevant sind Anwendungen mit einem hohen Risiko. Dabei geht es um alle IT-Systeme, die Personendaten verarbeiten, beispielsweise persönliche Finanzinformationen der Kunden. Als geringes Risiko bezeichnet die EU beispielsweise Chatbots im Service, sofern sie klar als Software erkennbar sind und die Nutzer frei über den Einsatz entscheiden. Ein minimales Risiko haben auch alle Anwendungen, die keine weiteren rechtlichen Verpflichtungen erfordern, etwa KI in Videospielen.
Unternehmen sollten auf diese Regulierungsinitiative reagieren und die von ihnen genutzten KI-Anwendungen überprüfen. Dazu gehört in erster Linie eine Bewertung der Nutzungsfolgen.
Transparente KI ohne Vorurteile
Grundlegend für die EU sind Transparenz und Erklärbarkeit von KI-Verfahren. So sollte ein Chatbot immer als KI-System auftreten, aber nicht als Servicemitarbeiter. Wenn KI zur Unterstützung von Entscheidungen eingeführt wird, rückt ihre Nachvollziehbarkeit in den Vordergrund. Deshalb ist es sinnvoll, wenn Unternehmen alle Daten und Entscheidungswege dokumentieren. Damit können sie auch die Übereinstimmung mit den EU-Regeln beweisen.
Entscheidend ist auch die Unvoreingenommenheit der genutzten Verfahren. Da sie auf Daten basieren, muss die Datengrundlage möglichst umfassend und objektiv sein. KI-Systeme dürfen auf Basis der Daten keine Vorurteile schaffen oder verstärken. So sollten zum Beispiel Banken den Abschluss von Kreditverträgen nicht aufgrund von Kriterien, wie Geschlecht oder Herkunft, verweigern.
Nach der EU-Richtlinie kann dies durch ein ausreichend repräsentatives Training vermieden werden, um das Risiko unfairer Verzerrungen gering zu halten. Diese Trainingsdaten unterliegen einer Dokumentations- und Aufbewahrungspflicht. Deshalb ist es sinnvoll, zunächst mit einer Analyse der Datenqualität, der Dokumentation und Rückverfolgbarkeit aller eingesetzten Daten zu starten.
Grundregeln für die KI-Governance
Der Einsatz von KI erfordert eine IT-Governance, mit der die Konformität zur EU-Verordnung zu erreichen ist. Ein paar Handreichungen dafür gibt es in der Versicherungsbranche. Dessen europäische Aufsichtsbehörde hat vor kurzem Leitlinien beschlossen, an denen sich zum Beispiel auch andere Finanzunternehmen und Geldinstitute orientieren können.
So sollte zunächst die Verhältnismäßigkeit des KI-Einsatzes geprüft und die Fairness und Gleichbehandlung aller Kunden garantiert werden. Damit die KI-Lösungen transparent und nachvollziehbar sind, muss es eine menschliche Aufsicht geben. Hinzu kommt: Der Datenschutz (EU-DSGVO) muss befolgt werden und darüber hinaus sollten die IT-Systeme ausreichend robust und leistungsfähig sein. Die Folge ist ein gewisser Aufwand bei der Einführung von KI basierten Lösungen, der jedoch durch die eindeutigen Vorteile wettgemacht wird. Ein offener, transparenter und rechtskonformer Umgang mit Daten hilft dabei, das Vertrauen der Kunden zu stärken – letztlich ein klarer Wettbewerbsvorteil in der EU.