Die Finanzbranche schwankt beim Einsatz von Künstlicher Intelligenz (KI) zwischen Innovation und Vorsicht. Um beides in Einklang zu bringen, brauchen Banken und Versicherer mehr KI-Wissen in ihren Teams und ein spezielles Risikomanagement.
Die Finanzindustrie sollte die anstehende KI-Regulierung nicht als Gegner betrachten, sondern sich schon jetzt um geeignete Mitigationsmaßnahmen bemühen, um mittelfristig kein Reverse Engineering betreiben zu müssen.
top images / Generated with AI / Stock.adobe.com
Sie ist das Thema unserer Zeit und hat das Potential, die Welt ähnlich stark zu verändern wie einst das Internet: Künstliche Intelligenz. Auch die Finanzbranche will von innovativen Ansätzen und revolutionären Tools für Vertrieb, Marketing, Produktentwicklung und Kundenservice profitieren. Doch wie immer sind ihre Datensätze sensibler, ihre Verantwortung größer – und ihre Regularien für den Einsatz neuer Technologien umfangreicher als in den meisten anderen Wirtschaftszweigen.
2023 hat der AI Act (Gesetz zum Einsatz von Artificial Intelligence) das Europäische Parlament passiert und Experten erwarten, dass auch der Ministerrat seine Zustimmung gibt und das Gesetz 2024 verabschiedet wird. Nach einer Übergangszeit von voraussichtlich zwei Jahren gelten dann verbindliche Regeln für den Einsatz von Künstlicher Intelligenz - auch für Banken und Versicherer.
Regulierung nicht als Gegner betrachten
Diese versuchen derzeit, das große Potential vor allem generativer KI und neuronaler Netze für sich zu nutzen. Während KI zum Beispiel im Kundenservice großes Automatisierungspotential besitzt, bringt ihr Einsatz gleichzeitig das Risiko der Diskriminierung von Verbrauchern mit sich: Etwa, wenn KI die Kreditwürdigkeit falsch einschätzt oder einen Kreditantrag ohne ausreichende Begründung ablehnt.
Die geplante EU-Gesetzgebung ist in diesem Kontext kein Gegner, sondern wird für Klarheit, Rechtssicherheit und somit den Schutz der Verbraucher sorgen. Allerdings sollte sich die Branche vergegenwärtigen, in welchen Bereichen sie KI einsetzen kann, will und wird, um schon heute die geeigneten Mitigationsmaßnahmen zu treffen - damit sie in zwei Jahren kein Reverse Engineering betreiben muss.
Schöne neue Welt der neuronalen Netze
Bereits heute beschäftigen sich alle Häuser mit dem Thema KI. Auf den Ebenen unterhalb neuronaler Netze und generativer KI ist Künstliche Intelligenz auch im Finanzsektor bereits seit einigen Jahren im Einsatz, etwa in Gestalt von Chatbots in der Kundenbetreuung.
Der Unterschied zu den bahnbrechenden Entwicklungen der jüngsten Vergangenheit wie Open Ais Chat GPT jedoch besteht darin, dass bisherige Tools nur Informationen abrufen und auf dieser Basis Entscheidungen modellieren, nicht aber Inhalte neu generieren konnten. Bei Banken und Versicherern entstehen derzeit viele Initiativen, durch die auch generative KI für die Branche nutzbar gemacht werden soll.
Die Institute entwickeln Prototypen und setzen erste Piloten ein. Ziel dieser Initiativen ist es, neue Instrumente zu entwickeln, die nicht nur Customer Journey und Customer Centricity optimieren, sondern durch das Wegfallen repetitiver Aufgaben auch maßgeblich Performance und Zufriedenheit der Mitarbeiter steigern.
KI soll Vertriebspotenziale heben
Auch im Vertrieb hält KI Einzug: Mittels Mikrosegmentierung im Rahmen von beispielsweise Kundenbefragungen erhalten die Institute Einblick in die unterschiedlichen Bedürfnisse ihrer Kunden und können diese Erkenntnisse im nächsten Schritt nutzen, um mithilfe von generativer KI individualisierte Inhalte zu erzeugen. So wird die generative KI beispielsweise in der Lage sein, personalisierte Anschreiben zu verfassen, deren Tonalität auf den jeweiligen (zukünftigen) Kunden angepasst ist.
Im Marketing können die neuen Instrumente den Kundenwert (Customer Lifetime Value) zielgruppenspezifisch, ja sogar individuell bestimmen, während die KI in der Produktentwicklung hilft, Personas typischer Kundengruppen aufzubauen und zu befragen, oder im Prototyping Testphasen durchführt. Für den Kundenservice verspricht Künstliche Intelligenz eine vollständige Ende-zu-Ende-Automatisierung inklusive Empathie und individueller Tonalität, sodass Bots zum Beispiel den gesamten Prozess der Kreditvergabe vom Einkommensnachweis bis zum Cross- und Upselling übernehmen können.
Risiken verlangen neue Qualitätsstandards
Doch je leistungsstärker die neue Welt der Algorithmen und neuronalen Netzwerke ist, desto größer wird auch das Risiko. Denn die Benachteiligung und Diskriminierung von Verbrauchern oder gar ein sogenanntes Social Scoring in Echtzeit, mit dessen Hilfe die Systemkonformität von Milliarden Bürgern überwacht wird, gehört nicht zu den Aufgaben der KI. Daher sieht der AI Act der Europäischen Union eine Risikoklassifizierung der von Künstlicher Intelligenz übernommenen Aufgaben in vier Stufen vor: risikoarm, begrenzt riskant, riskant und verboten.
Vorbereitung auf die neue Regulatorik
Besondere Aufmerksamkeit verdienen die beiden mittleren Kategorien, da verbotene Funktionen gar nicht und risikoarme kaum mitigiert werden müssen. Gefahren lauern überall dort, wo Zweifel an der Integrität von Daten bestehen - und das ist bei KI im Grunde immer der Fall. Denn insbesondere komplexe KI-Modelle sind oftmals eine Blackbox, deren Entscheidungsfindung intransparent ist. Die Datenqualität muss daher immer vom Menschen überprüft werden, sodass sichergestellt ist, dass sich kein Bias in Datensätzen verbirgt oder diese sogar gänzlich fehlerhaft sind.
Trifft die KI für Verbraucher relevante Entscheidungen, etwa bei der Vergabe von Krediten oder der Empfehlung von Fonds und Wertpapieren mit Geschäftsabschluss, wird diese Leistung künftig vom Gesetzgeber als Hochrisikogeschäft bewertet.
Auch zur Szenarioanalyse, für Belastungstests und den Aufbau eines Big-Data-Haushalts kann die KI genutzt werden. Dadurch besteht einerseits die Gefahr sozioökonomischer Fehleinschätzungen, die für Banken im Extremfall existenzgefährdend sein können, und andererseits die Gefahr von Datenschutzverstößen: In einem konkreten Fall sind durch die Nutzung von Chat GPT bei der Datenverarbeitung sensible Kundendaten ins Netz gelangt.
Zahl der Prüfungsparameter steigt
Der EU AI Act sieht deshalb deutlich mehr Facetten und Prüfungsparameter insbesondere für Hochrisikoanwendungen vor:
- ein eigenes Risikomanagementsystem,
- die Überwachung von Daten und Datenströmen,
- die technische Dokumentation und Überwachung sowie Feedbackoptionen durch menschliche Instanzen,
- ein Audit Trail für jegliche Vorgänge innerhalb der KI-Anwendung,
- die Sicherstellung transparenter Informations- und Kommunikationsflüsse und
- eine CE-Konformitätsbewertung.
Wenn die Branche diesen Risiken beim Einsatz von KI vorbeugen will, lautet die allgemeine Devise: Eigeninitiative. Denn für die Governance, die um den geplanten AI Act herum aufgebaut werden muss, um die Compliance der Häuser mit demselben zu garantieren, gibt es keine Schablone. Doch haben Banken und Versicherer Erfahrung mit der Implementierung anderer Gesetze und Richtlinien und sollten diesen Prozess analog zu früheren abwickeln.
Bestehende Vorbilder nutzen
Neben der Rechtsabteilung existieren weitere regulatorische Einheiten von IT-Sicherheit bis Compliance - und nach ihrem Vorbild sollten die Institute KI-Beauftrage, gegebenenfalls ganze Teams einsetzen, die Use Cases vorbereiten, Prozesse etablieren, für Wissenstransfer von KI-Expertise sorgen und eigene Kriterienkataloge entwickeln. Wie bei der Internen Revision und anderen Kontrollorganen müssen die Institute die Überwachung der KI-Entscheidungen durch den Menschen sicherstellen.
Es gilt, schon heute Teams von KI-Experten zusammenzustellen, Trainings- und Vorkehrungsmaßnahmen zu treffen und Schulungen vorzubereiten, sodass mittelfristig jeder einzelne Mitarbeiter für den Umgang mit KI ausgebildet ist. Denn KI ist nur dann für die Branche ein Gewinn, wenn jederzeit die Qualitätskontrolle durch eine externe, nicht-maschinelle Instanz gewährleistet wird: die Natürliche Intelligenz.