9. Trust and Safety in Financial AI Systems

Dieses Kapitel vertieft die kritischen Aspekte von Vertrauen und Sicherheit in KI-Finanzsystemen und betont die Bedeutung von Zuverlässigkeit, Transparenz, Fairness, Rechenschaftspflicht und Prüfbarkeit. Er untersucht das Konzept des Vertrauens in die KI im Finanzbereich und betont die Notwendigkeit eines konsistenten Verhaltens, verständlicher Ergebnisse und fairer Behandlung von Einzelpersonen und Gruppen. In diesem Kapitel werden auch die wichtigsten Attribute sicherer KI-Systeme diskutiert, darunter Robustheit, Einsatzgrenzen, ausfallsichere Mechanismen, kontinuierliche Überwachung und Widerstandsfähigkeit gegen Angriffe. Das Zusammenspiel zwischen Vertrauen und Sicherheit wird untersucht, wobei der Schwerpunkt darauf liegt, wie unzureichende Sicherheit das Vertrauen verringern kann. Das Kapitel behandelt auch die Risiken im Zusammenhang mit finanzieller KI, einschließlich Modellrisiken, Datenrisiken, Betriebsrisiken, Sicherheits- und Widerstandsrisiken, regulatorischen und rechtlichen Risiken sowie ethischen Risiken und Reputationsrisiken. Um diese Risiken zu illustrieren, werden Beispiele aus dem realen Leben vergangener Fehlschläge wie die Ungleichheit zwischen den Geschlechtern bei der Apple Card und der Ausfall des Robinhood-Systems präsentiert. Das Kapitel schließt mit einem Aufruf zum Handeln an Organisationen, Vertrauen und Sicherheit in ihre KI-Systeme zu priorisieren, wobei die strategische und ethische Bedeutung dieses Vorgehens betont wird.