Warum KI Vertrauen braucht

Ohne Vertrauen scheitern Beziehungen. Diese Dynamik gilt auch im Verhältnis zur Künstlichen Intelligenz. Die Euphorie ist aktuell groß, doch die flächendeckende Einführung von KI wird stark davon abhängen, ob Menschen ihr vertrauen.

Generative KI beschleunigt menschliches Handeln in einer bislang nicht dagewesenen Weise. Im Gegensatz zu früheren Entwicklungen ist dies die erste Technologie, die die menschliche Denkweise replizieren und somit höherwertige Aufgaben wie Wissensarbeit automatisieren kann. Künstliche Intelligenz wird nicht ohne Grund so genannt. Wir beginnen, kreative Aufgaben und Entscheidungsfindungen an diese neue Technologie zu delegieren.

Heute übernimmt die KI tatsächlich die Rolle eines Helfers oder Assistenten bei der täglichen Arbeit. In Zukunft werden die Aufgaben, die der KI anvertraut werden, viel autonomer sein und hier kommt der Faktor Vertrauen ins Spiel. Mit KI gibt der Mensch mehr Kontrolle an die Automatisierung ab als je zuvor.

Auf dem Weg zur autonomen KI

Beispielsweise entwickelt sich die aktuelle Generation von Software-Coding-Assistenten allmählich zu einem KI-Ingenieur. Dieser kann Anforderungen aufnehmen und eine entsprechende Anwendung liefern. Dabei werden die Anforderungen in Aufgaben zerlegt und selbständig bearbeitet. Das Produkt ist dann wahrscheinlich nicht perfekt, aber KI wird mit ihnen iterieren, um es richtig zu machen.

Ähnliche Szenarien spielen sich künftig auch in anderen Branchen ab. Ob im Kunden-Support, wo Mitarbeiter mit KI-Tools bei der richtigen Antwort auf eine Kundenanfrage unterstützt werden oder bei der Vertragserstellung, um potenzielle Probleme zu erkennen. Es gibt drei unterschiedliche Wellen der Evolution: KI als Assistent, der dem Menschen hilft; KI als Agent, der mehr Aufgaben übernehmen kann und die autonome KI, die komplexe Aufgaben erledigen kann. Diese Entwicklung ist bereits in vollem Gange.

Des Verhältnis Mensch-Maschine

KI autonom arbeiten zu lassen, funktioniert nur, wenn Vertrauen in diese Tools aufgebaut und erhalten bleibt. Je mehr Autonomie gegeben ist, desto weniger werden die Unternehmen die derzeit vorherrschende Intransparenz akzeptieren wollen. Dieses Vertrauen muss jedoch verdient werden und das ist eine große Herausforderung für die Technologie. Mit jedem Übergang von einem menschenzentrierten zu einem automatisierten System wird die Messlatte für Vertrauen höher gelegt, noch höher, wenn man das Potenzial für echte Autonomie in Betracht zieht.

Ein Beispiel sind selbstfahrende Autos. Obwohl Studien zeigen, dass sie in vielen Situationen sicherer sind als menschliche Fahrer (Maschinen werden nicht müde, schreiben keine SMS während der Fahrt und trinken nicht zu viel), haben die meisten Menschen kein Vertrauen in autonomes Fahren. Jedes Mal, wenn ein neuer Unfall mit einem selbstfahrenden Auto durch die Medien geht, sinkt das Vertrauen weiter.

Offensichtlich ist es dem autonomen Fahren noch nicht gelungen, Vertrauen zu gewinnen. Menschen scheinen KI-unterstützte Autos einem höheren Standard zu unterwerfen als den Fahrer einer Mitfahrzentrale in seinem Privatfahrzeug, obwohl die Fähigkeiten und Fertigkeiten beider für den jeweiligen Mitfahrer gleichermaßen unerprobt sind. Es gibt eindeutig einen höheren Standard für autonome Systeme, der erfüllt werden muss.

Schaffung von Vertrauen in KI

Was ist nötig, um Vertrauen in autonome KI-Systeme zu gewinnen und zu erhalten, insbesondere in Unternehmen, wo sie Wissensarbeit automatisieren? Zwei Dinge sind entscheidend.

Der erste Punkt betrifft das umfassende Verständnis der Standards und der Kenntnisse eines Unternehmens sowie die Fähigkeit, diese anzuwenden. Das Verhalten der KI muss zu 100 Prozent mit der Arbeitsweise des Unternehmens übereinstimmen. Dies bedeutet, dass Kognitive Systeme mit den Praktiken, Standards, Formeln, Erwartungen, Arbeitsabläufen oder Richtlinien des Unternehmens vertraut sein muss. Im Wesentlichen verhält sich die KI wie einer der besten und erfahrensten Mitarbeiter des Unternehmens - wie ein Mitarbeiter des Monats also und nicht wie ein Neuling.

Der zweite Punkt ist, dass ein Unternehmen in der Lage sein muss, die absolute Kontrolle über den Umfang, das Verhalten und die Entscheidungen der KI auszuüben. Es reicht nicht aus, eine KI zu haben, die die Arbeit erledigen kann. Man braucht eine KI, die Befehle präzise befolgt und strikt innerhalb der festgelegten Grenzen agiert.

Bewertung von KI-Lösungen

Die meisten Unternehmen werden keine eigenen großen Sprachmodelle oder KI-Agenten entwickeln. Stattdessen werden sich die Unternehmen - wie bereits bei der digitalen Transformation - auf Lösungen von Anbietern verlassen. Delegiert man aber ganze Aufgaben an die KI, wie lässt sich dann sicherstellen, dass diese autonomen Systeme genauso vertrauenswürdig sind wie Mitarbeiter, mit denen regelmäßig Ziel- und Feedbackgespräche durchgeführt werden?

Die Unternehmensleitung und IT-Führungskräfte sollten ihre KI-Anbieter zu folgenden Punkten befragen:

Wissen rund um große Sprachmodelle (Large Lanuage Model (LLM)): Wissen die Anbieter, was tatsächlich im Modell steckt? Was weiß das Modell und was nicht? Ist bekannt, wie es trainiert wurde und ob die Daten, auf denen das Training basiert, zuverlässig sind? Die Transparenz des LLM-Trainings ist von entscheidender Bedeutung.

Anpassung und Nutzung des Kontexts: Kontextbewusstsein stellt sicher, dass KI so arbeitet, wie es im jeweiligen Unternehmen üblich ist und wie sie mit Daten gefüttert wird. Wie einfach ist es, die Lösung für den entsprechenden Anwendungsfall anzupassen oder auf die speziellen Unternehmensinformationen zu trainieren? Generative KI-Systeme wissen, was Unternehmen wissen, aber sie werden die individuelle Arbeitsweise der Mitarbeiter oder des Unternehmens nicht kennen. Da KI autonomer wird, wird personalisierte Künstliche Intelligenz den entscheidenden Unterschied ausmachen.

Fähigkeit, Restriktionen anzuwenden: Einschränkungen stellen sicher, dass die KI erwartungsgemäß und regelkonform arbeitet. Je autonomer KI wird, desto mehr muss sie individuellen Geschäftsstandards und -regeln folgen. Daher muss die Möglichkeit, Einschränkungen auf KI anzuwenden, leicht zugänglich und durchführbar sein.

Wer ist im Zugzwang?

Letztlich liegt es in der Verantwortung der Softwareindustrie, Vertrauen in KI aufzubauen. Silicon Valleys oft zitierte Maxime "Move fast and break things" wird für diese Art von unternehmenskritischen Fähigkeiten nicht funktionieren. Kurzsichtiges Verhalten, um Gewinne oder Wettbewerbsvorteile zu steigern, aber das Vertrauen der Kunden zu verlieren, wird dem zukünftigen Profit und der Fähigkeit von KI, positive Auswirkungen zu erzielen, mehr schaden als nützen. Es ist Zeit, die Blackbox zu öffnen und den KI-Weg gut informiert und wohlüberlebt zu beschreiten.