Skip to main content

04.07.2024 | Kundenservice | Gastbeitrag | Online-Artikel

EU AI Act: Auswirkungen und Chancen für den B2B-Vertrieb

verfasst von: Sirke Reimann

4 Min. Lesedauer

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
print
DRUCKEN
insite
SUCHEN
loading …

Künstliche Intelligenz (KI) nimmt im deutschen Kundenservice inzwischen eine wichtigere Rolle ein, als dies noch vor zwei Jahren denkbar war. Was bedeutet das mit Blick auf die neue KI-Regulierung?

Die Europäische Union (EU) hat kürzlich das weltweit erste KI-Gesetz beschlossen. Der AI Act beinhaltet Transparenzanforderungen, Risikobewertungen, Haftungsregelungen und ethische Grundsätze. Das KI-Gesetz und andere Bestimmungen wie die DSGVO werden nebeneinander existieren. Unternehmen und ihre Vertriebsorganisationen sollten jetzt strategische Maßnahmen aufsetzen, um ihre KI-Lösungen transparenter und sicherer aufzustellen. Das stärkt auch das Vertrauen der Kunden in Künstliche Intelligenz.

AI Act: Zeitplan für Umsetzung und Compliance

Am 13. März 2024 hat das EU-Parlament die KI-Verordnung mit großer Mehrheit beschlossen. Nach Inkrafttreten des KI-Gesetzes ist eine zweijährige Frist bis zur Erfüllung der Vorgaben vorgesehen. Einige Bestimmungen werden schneller greifen. Beispielsweise sollen das Verbot von KI-Systemen mit inakzeptablen Risiken bereits nach sechs Monaten und Regelungen für General Purpose AI (GPAI), die Vertriebs-KI betreffen können, bereits nach zwölf Monaten in Kraft treten. 

Rechtskonforme KI-Lösungen im Vertrieb 

Ein zentraler Aspekt der KI-Verordnung ist die Kategorisierung von KI-Systemen nach diesen vier Risikostufen:

  • inakzeptable Risiken
  • hohe Risiken
  • begrenzte Risiken
  • minimale Risiken/kein Risiko

Inakzeptable KI-Systeme sind in der EU verboten, da sie beispielsweise die Rechte von Menschen durch biometrische Kategorisierungen bedrohen. KI-Systeme, die in Bereichen wie kritische Infrastrukturen, Bildung, Personalwesen oder Strafverfolgung eingesetzt werden, sind hingegen Hochrisiko-KI-Systeme. Diese müssen strenge Auflagen erfüllen, darunter umfassende Risikobewertungs- und -minderungsverfahren.

Ein begrenztes Risiko betrifft potenzielle Gefahren, die mit der intransparenten Nutzung von KI verbunden sind. Bei vielen KI-Systemen im Kundenservice müssen die Kunden zum Beispiel künftig darüber in Kenntnis gesetzt werden, dass sie mit einer Maschine kommunizieren. Sie können so eine informierte Entscheidung darüber treffen, ob sie mit der KI fortfahren oder nicht. Unternehmen, die solche Systeme einsetzen, sollten für ihre Kunden eine Möglichkeit schaffen, nahtlos zwischen Bots und Mitarbeitern wechseln zu können. 

Der AI Act sieht außerdem vor, dass jede Allzweck-KI-Anwendung (General Purpose AI, GPAI), die beispielsweise dazu dient, Text, Audio, Bild oder Video zu erzeugen, transparente Informationen zum angewendeten KI-System bereitstellen muss. Das betrifft insbesondere den Vertrieb, da sich die hier genutzten KI-Systeme hin zu GPAI (General Purpose Artificial Intelligence)-basierten Systemen weiterentwickeln, um vielfältige Kundenanliegen möglichst effektiv zu beantworten. 

Zahlreiche KI-Systeme, die derzeit in der EU verwendet werden, fallen voraussichtlich in die niedrigste Kategorie „minimales oder kein Risiko". Das bedeutet, sie müssen zwar keine Anforderungen erfüllen, sollten von Unternehmen aber kategorisiert und dokumentiert werden.

Schrittweise zum KI-Maßnahmenplan 

Die neue KI-Verordnung bietet die Chance, den Einsatz von KI-Lösungen strategisch aufzusetzen, um die Potenziale der Technologie voll auszuschöpfen. 

1. KI-Lösungen inventarisieren und Risiken bewerten
Ein erster Schritt ist es, den Ist-Zustand der KI-Lösungen systematisch zu erfassen. Dies bildet die Grundlage, um die KI-Systeme in eine der vorgegebenen Kategorien gemäß der Verordnung einzuordnen. Managementsysteme für die Risikobewertung und das kontinuierliche Monitoring von Risiken sind weitere wesentliche Bausteine. Ein Managementsystem für die Qualität von Daten ist für alle Unternehmen, die KI-Systeme für ihre individuellen Geschäftstätigkeiten anpassen wollen, ohnehin unabdingbar. In vielen Fällen können bestehende Risiko- und Qualitätsmanagementsysteme auf die neuen Anforderungen angepasst werden.

2. Dokumentation und Transparenzpflicht erfüllen
Um Compliance mit dem AI Act sicherzustellen, müssen Vertriebsorganisationen detaillierte Dokumentationen der verwendeten KI-Systeme erstellen, damit einerseits Behörden die Einhaltung der Vorschriften überprüfen können und andererseits die Benutzer in der Lage sind, die Systeme zu verstehen und ihre Auswirkungen zu bewerten. Je nach KI-System gehören zu diesen Dokumentationen auch 

  • verwendete Trainingsdaten, 
  • Algorithmen und 
  • Entscheidungsfindungsprozesse. 

Insbesondere GPAI-Systeme sind hier angesichts der verkürzten Umsetzungsfrist zu beachten.

3. KI-Entwicklungen und -Lösungen in einem rechtskonformen Rahmen vorantreiben
Bei neuen KI-Technologien sollten Unternehmen die Anforderungen des KI-Gesetzes von Anfang an systematisch umzusetzen. Ziel ist es, neue KI-Lösungen frühzeitig zu bewerten und ihre Qualität sowie die zugehörigen Daten stetig zu überwachen. Für den sicheren Einsatz von KI, die Transparenz aller Interaktionen durch Dokumentation und umfassendes Monitoring eignet sich ein "AI Gateway". Hierüber werden personenbezogene Daten durch leistungsstarke Anonymisierungs-Technologien geschützt und außerdem jede Kundenanfrage auf ihre exakte Anforderung hin überprüft. 

Gut vorbereitet von gesetzlichen Rahmenbedingungen profitieren 

Unternehmen, die die strengen Vorgaben umsetzen, profitieren von investitionssicheren KI-Lösungen, die über Deutschland hinaus auch in anderen Ländern konform sind. Bereits etablierte Funktionen können rechtssicher im Betrieb bleiben. KI-SaaS-Anbieter mit Servern in Deutschland garantieren dabei die Datenintegrität, Datenschutz sowie die Einhaltung der regulatorischen Anforderungen ohne Einschränkungen. 

print
DRUCKEN

Weiterführende Themen

Die Hintergründe zu diesem Inhalt