Zum Inhalt

KI-Kompetenz an neue Standards anpassen

  • Free Access
  • 01.04.2025
  • Karriere
Erschienen in:

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …
Von der Dokumentenprüfung über die Kreditrisikobewertung bis hin zur Betrugsprävention gewinnt Künstliche Intelligenz in der Finanzbranche an Bedeutung. Hohe regulatorische Anforderungen an die IT-Sicherheit und den Datenschutz gebieten, dass Unternehmen entsprechende Kompetenzen aufbauen, um vertrauensvolle Partner zu sein.
Im August 2024 ist die KI-Verordnung der Europäischen Union (KI-VO) in Kraft getreten und gilt als Meilenstein für die Regulierung Künstlicher Intelligenz (KI). Sie zielt darauf ab, KI verantwortungsvoll zu entwickeln und zu nutzen, den Schutz der Grundrechte zu gewährleisten und eine ethische, sichere und vertrauenswürdige Anwendung von KI zu fördern.
Für Unternehmen, die KI-Systeme entwickeln oder nutzen, legt die Verordnung spezifische Anforderungen fest. Diese klassifiziert sie anhand ihres jeweiligen Risikograds. Jedes betroffene Unternehmen muss daher zunächst sorgfältig analysieren, in welchem Umfang die KI-VO auf seine Produkte oder Dienstleistungen zutrifft. Die Einstufung reicht von geringem bis hin zu inakzeptablem Risiko, wobei die regulatorischen Anforderungen mit zunehmendem Risiko steigen. Mit den gestaffelten Übergangsfristen gehen klare Vorgaben für den Umgang mit KI einher. So sind Praktiken wie Social Scoring oder Predictive Policing seit Februar verboten. Gleichzeitig haben Unternehmen Maßnahmen zur Förderung von KI-Kompetenzen voranzubringen:
  • Seit dem 2. Februar 2025 sind bestimmte Verbote (Art. 5) und Maßnahmen zur Förderung von KI-Kompetenzen in Kraft (Art. 4).
  • Ab dem 2. August 2026 gilt die KI-VO in vollem Umfang.
  • Ab dem 2. August 2027 sind die Vorgaben zur Produktsicherheit verbindlich umzusetzen.

Die Verantwortung kennen

Akteure der Finanzbranche stehen nicht nur vor der dringenden Aufgabe sicherzustellen, dass ihre KI-Systeme den technischen und rechtlichen Anforderungen entsprechen. Sie sind seit dem 2. Februar 2025 auch angehalten, die Kompetenzen jener Mitarbeitenden zu fördern, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind.
Die KI-VO definiert die KI-Kompetenzen als „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“.
Konkrete Umsetzungsvorgaben zur Sensibilisierung von KI-Kompetenzen liegen zwar noch nicht vor, doch die Europäische Union (EU) arbeitet bereits an Leitlinien, die nähere Hinweise zu Inhalt und Umfang dieser Sorgfaltspflicht geben sollen. Entscheidend ist es, dass Unternehmen effektive Schulungskonzepte nutzen.
KI-Kompetenz sollte als ein dynamischer Prozess verstanden werden, der die kontinuierliche Vermittlung technischer und rechtlicher Aspekte umfasst und darauf ausgerichtet ist, die gesamte Organisation auf ein einheitliches Niveau zu heben. Das ermöglicht eine effiziente und interdisziplinäre Zusammenarbeit. Dabei sollte der unterschiedliche Wissensstand der Mitarbeitenden berücksichtigt werden, um den Bedürfnissen aller gerecht zu werden.

Recht und Werte schützen

Neben den technischen Aspekten sind auch ethische Fragen entscheidend: Wie können Fairness und Transparenz in algorithmischen Entscheidungen gewährleistet werden? Hier sind Unternehmen gefordert, nicht nur regulatorische Vorgaben umzusetzen, sondern auch durch gezielte Schulungen ein Bewusstsein für ethische Fragestellungen zu schaffen. Sie tragen zum Aufbau einer nachhaltigen Compliance-Kultur bei, die auf von Werten geleitetem Handeln basiert. So hilft KI-Kompetenz nicht nur bei der Vorbereitung auf die anstehenden gesetzlichen Vorschriften, sondern wird auch zu einem Wettbewerbsvorteil in einer datengetriebenen Wirtschaft.
KI-Kompetenz erfordert, dass Mitarbeitende KI-Systeme und -Tools sachgerecht einsetzen und sich der damit verbundenen Chancen, Risiken und möglichen Schäden bewusst sind. Dies umfasst insbesondere den Schutz personenbezogener Daten, damit Kunden- und Mitarbeiterdaten nur im zulässigen Rahmen für das Training oder die Nutzung von KI verwendet werden. Darüber hinaus müssen Haftungsvorschriften, zum Beispiel nach dem Bürgerlichen Gesetzbuch, erfüllt und transparente Dokumentationsprozesse etabliert werden, um den kommenden EU-Vorgaben zu entsprechen. Unternehmen, die diese Anforderungen vernachlässigen, riskieren Bußgelder, Schadensersatzansprüche und erhebliche Reputationsverluste.

Vertrauen entstehen lassen

Mitarbeitende müssen zu einer Vielzahl von Themen Kompetenzen aufbauen. Das kann nur mithilfe sorgfältig durchdachter Schulungspläne und flexibler Lernkonzepte gelingen. Flexible Ansätze, die E-Learnings als Teil eines umfassenden Lernkonzepts einbetten, ermöglichen es Unternehmen, ihre Belegschaft praxisnah und effizient auf neue Standards vorzubereiten. Dabei geht es nicht nur um die Vermittlung von Fachwissen, sondern auch um die Förderung einer Compliance-Kultur, die auf Werten und Vertrauen basiert. Durch solche ganzheitlichen Lernstrategien können Banken und Versicherer nicht nur die steigenden (Regulierungs-)Anforderungen meistern, sondern auch das Vertrauen ihrer Kunden dauerhaft stärken und sich als verlässliche Akteure in einem komplexen Markt positionieren.

Kompakt

  • Die neue europäische KI-Verordnung (KI-VO) bringt strenge Compliance-Anforderungen für Banken und Versicherer, insbesondere bei Risikobewertung, Datenschutz und Transparenz.
  • Unternehmen sind angehalten, ihre Mitarbeitenden im sicheren und ethischen Umgang mit KI zu sensibilisieren.
  • Nachhaltige Schulungskonzepte und eine wertebasierte Compliance-Kultur stärken nicht nur die Regeltreue, sondern auch das Vertrauen der Kunden.

Springer Professional

KI-Verordnung

Paul Voigt, Nils Hullen: Handbuch KI-Verordnung, Berlin Heidelberg 2024 https://sn.pub/gdcvmt
Gerrit Hornung: Individualrechte in der KI-Verordnung, in: Datenschutz und Datensicherheit - DuD 8/2024 https://sn.pub/bu1cao
Johannes Marco Holz, Frederik Kopp: KI-Schulungen sind jetzt Pflicht, Wiesbaden 2025 https://sn.pub/gwcmy1

Weitere Digitaltipps

  • Die Bundesbeaufragte für den Datenschutz und die Informationsfreiheit (BfDI): „Die KI-Verordnung der EU“, abrufbar unter https://sn.pub/wa6m1z
  • Bitkom: „Umsetzungsleitfaden zur KI-Verordnung“, abrufbar unter https://sn.pub/hp2mid

Cordula Meckenstock,

Co-CEO des Schulungsanbieters Lawpilots, Honorarprofessorin für Compliance und Internationales Strafrecht an der Universität Leipzig sowie Juristin mit Schwerpunkt auf Governance, Compliance, Data Ethics und ESG.
Download
Titel
KI-Kompetenz an neue Standards anpassen
Verfasst von
Cordula Meckenstock
Publikationsdatum
01.04.2025
Verlag
Springer Fachmedien Wiesbaden
Erschienen in
Bankmagazin / Ausgabe 4/2025
Print ISSN: 0944-3223
Elektronische ISSN: 2192-8770
DOI
https://doi.org/10.1007/s35127-025-2324-x

Premium Partner

    Bildnachweise
    Salesforce.com Germany GmbH/© Salesforce.com Germany GmbH, IDW Verlag GmbH/© IDW Verlag GmbH, msg for banking ag/© msg for banking ag, Governikus GmbH & Co. KG/© Governikus GmbH & Co. KG, Horn & Company GmbH/© Horn & Company GmbH, EURO Kartensysteme GmbH/© EURO Kartensysteme GmbH, Jabatix S.A./© Jabatix S.A., Doxee AT GmbH/© Doxee AT GmbH