Skip to main content
main-content

Tipp

Weitere Artikel dieser Ausgabe durch Wischen aufrufen

05.03.2020 | Schwerpunkt | Ausgabe 2/2020 Open Access

Wirtschaftsinformatik & Management 2/2020

Vertrauenswürdige Systeme mit künstlicher Intelligenz

Zeitschrift:
Wirtschaftsinformatik & Management > Ausgabe 2/2020
Autor:
Prof. Dr. Ali Sunyaev
Nur wenn wir Systemen vertrauen, die auf künstlicher Intelligenz (KI) basieren, können wir das ganzheitliche Potenzial der KI für uns als Individuen, für Organisationen und Unternehmen bzw. für unsere Gesellschaft nachhaltig nutzen. Zentrale Aspekte der Vertrauenswürdigkeit von KI-Systemen können durch die Anwendung der Distributed Ledger Technology hergestellt werden.
Künstliche Intelligenz hat in vielen Bereichen das Potenzial, Prozesse und Entscheidungsfindungen im wahrsten Sinne zu automatisieren. Anwendungen finden sich etwa in der Industrie 4.0, dem autonomen Fahren oder im Gesundheitswesen. In Letzterem können KI-basierte Systeme heutzutage beispielsweise Echokardiogramme schneller und genauer analysieren als medizinische Experten. Trotz aller Erfolge, die das zukünftige Potenzial von KI-Anwendungen demonstrieren, müssen stets auch das Vertrauen in KI-basierte Systeme und die Implikationen ihrer Anwendung berücksichtigt werden. Ein Aspekt der Vertrauenswürdigkeit ist beispielsweise die Tatsache, dass das Training von KI-Modellen viele hochqualitative Daten, welche durchaus sehr sensibel sein können, benötigt. Ein weiterer Aspekt der Vertrauenswürdigkeit ist die Erklärbarkeit von KI-Modellen selbst. Häufig ist die Funktionsweise von KI-Modellen intransparent und schwer nachzuvollziehen. Diese Aspekte spielen insbesondere bei der Anwendung von KI in kritischen Informationsinfrastrukturen, wie z. B. der Anwendung von KI im Gesundheitswesen, eine zentrale Rolle: Eine erste Herausforderung ist es, hochqualitative Daten in ausreichender Form zu erlangen und sicherzustellen, dass diese nach höchsten Datenschutzstandards verarbeitet werden. Selbst wenn ein KI-Modell erfolgreich trainiert wurde, stellt die Erklärbarkeit dieses Modells eine weitere Herausforderung dar: Wenn ein KI-Modell zum Beispiel eine bestimmte Therapie empfiehlt, aber weder der Patient noch der Arzt oder ein Informatikexperte nachvollziehen können, wie diese Empfehlung zustande gekommen ist, fehlen Arzt und Patient gleichermaßen das Vertrauen in das KI-System und sie könnten daher von der Anwendung der KI-basierten Empfehlung absehen.
Distributed Ledger Technology (DLT) hat das Potenzial, die Vertrauenswürdigkeit von KI-basierten Systemen zu erhöhen und als Schlüsseltechnologie deren Bereitstellung in kritischen Informationsinfrastrukturen, wie der digitalisierten Medizin, zu ermöglichen: DLT erzeugt in erster Linie einen Konsensus zwischen den Knoten eines Peer-to-Peer-basierten Ledgers, obwohl manche Knoten möglicherweise vorübergehend nicht verfügbar sind oder einige Knoten versuchen, betrügerische oder falsche Daten aufzunehmen. Also ermöglicht DLT, die sogenannten „byzantinischen Fehler“ zu tolerieren und wendet spieltheoretische Konzepte an, um die beschriebenen Problematiken tolerieren zu können (z. B. das Problem der byzantinischen Generäle). Des Weiteren verhindert eine Dezentralisierung des Datenmanagements weitere Unsicherheiten, die in zentralisierten Infrastrukturen auftreten, zum Beispiel das, was technisch als „Single Point of Failure“ bezeichnet wird. Fällt ein zentrales System aus (der sogenannte „Point of Failure“), auf das viele andere Dienste zugreifen und von dem sie abhängen, ist nicht nur das eigentliche System betroffen, sondern auch alle anderen Dienste. Die DLT ermöglicht es, nicht von einer zentralen Instanz abhängig zu sein. Das geläufigste DLT-Konzept ist die Blockchain, welche zum Beispiel durch die darauf aufbauende Kryptowährung Bitcoin bekannt wurde. Diese Technologie ermöglicht aber weitere Konzepte und Implementierungen, die jeweils inhärente Trade-offs in Bezug auf verschiedene Charakteristika aufweisen (zum Beispiel Privatsphäre der Daten, Transaktionsfinalität, Sicherheit gegen Attacken) [ 1].
Ein DLT-basiertes System im Gesundheitswesen kann beispielsweise dergestalt aussehen, dass Patienten über eine Anwendung ihre Daten mittels eines im Hintergrund laufenden Distributed Ledgers verwalten. Insbesondere können die Patienten dabei weiteren Beteiligten Zugriff auf die Daten geben, beispielsweise einem weiteren Arzt zur Einholung einer ärztlichen Zweitmeinung oder auch einem Forscherteam. Die Patienten können steuern und jederzeit einsehen, wer wann auf welche Daten zugreifen darf bzw. zugegriffen hat, und womöglich auch, wozu diese Daten verwendet werden oder wurden. Technisch können die Daten entweder in verschlüsselter Form direkt auf dem Distributed Ledger gespeichert werden, oder – da praktikabler – außerhalb des Distributed Ledgers gespeichert werden mittels Verwaltung der Zugriffsrechte durch DLT.
Insbesondere kann ein solches System auch als Grundlage für ein DLT-basiertes föderiertes Lernen verwendet werden. Dabei trainieren verschiedene Einheiten KI-Modelle mit Daten lokal. Die trainierten KI-Modelle werden über den Distributed Ledger untereinander ausgetauscht und zu einem neuen Modell zusammengeführt. Das neue KI-Modell profitiert von den Daten aller Einheiten, wohingegen die einzelnen Einheiten lediglich KI-Modelle nach außen senden und nicht die privaten Trainingsdaten an sich. Über DLT-basierte Kryptowährungen können weiterhin Anreize z. B. dergestalt geschaffen werden, dass Beteiligte finanziell belohnt werden, sofern sie neue KI-Modelle teilen. Dies erhöht für Nutzer die Nachvollziehbarkeit, welche Daten in die Erstellung des KI-basierten Systems eingeflossen sind, und wie das KI-System darauf basierend Entscheidungen trifft. Durch ein solches System kann gleichermaßen die Verfügbarkeit von Daten für KI-Systeme wie auch die Vertrauenswürdigkeit von Nutzern in diese KI-Systeme gestärkt werden. Hinzu können durch einen transparenten Distributed Ledger, der Daten speichert, KI-Experten, Zertifizierungsexperten, sowie versierte Nutzer die Funktionsweise des Systems nachvollziehen, welches das Vertrauen aller Nutzer in das System stärken kann.
Die Anwendungsfälle für vertrauenswürdige KI sind vielfältig: Neben dem hier aufgeführten Beispiel im Gesundheitswesen können zum Beispiel in der Industrie 4.0 verschiedene Fabriken Daten sicher miteinander teilen oder autonome Fahrzeuge voneinander lernen, ohne dass die Hoheit über die Daten in die Hände einiger weniger fällt. Zusammenfassend lässt sich zum einen sagen, dass erst vertrauenswürdige KI die vollen Potenziale der KI entfalten kann. Zum anderen, dass DLT eine vielversprechende Technologie ist, diese notwendige Vertrauenswürdigkeit in KI-Systeme herzustellen. Dies aber erfordert noch weitere, interdisziplinäre Forschungsarbeit an der Schnittmenge von KI und DLT, welche vielversprechende Integrationsmöglichkeiten bietet [ 2].
Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Weitere Details zur Lizenz entnehmen Sie bitte der Lizenzinformation auf http://​creativecommons.​org/​licenses/​by/​4.​0/​deed.​de.

Unsere Produktempfehlungen

WIRTSCHAFTSINFORMATIK

WI – WIRTSCHAFTSINFORMATIK – ist das Kommunikations-, Präsentations- und Diskussionsforum für alle Wirtschaftsinformatiker im deutschsprachigen Raum. Über 30 Herausgeber garantieren das hohe redaktionelle Niveau und den praktischen Nutzen für den Leser.

Business & Information Systems Engineering

BISE (Business & Information Systems Engineering) is an international scholarly and double-blind peer-reviewed journal that publishes scientific research on the effective and efficient design and utilization of information systems by individuals, groups, enterprises, and society for the improvement of social welfare.

Wirtschaftsinformatik & Management

Texte auf dem Stand der wissenschaftlichen Forschung, für Praktiker verständlich aufbereitet. Diese Idee ist die Basis von „Wirtschaftsinformatik & Management“ kurz WuM. So soll der Wissenstransfer von Universität zu Unternehmen gefördert werden.

Literatur
Über diesen Artikel

Weitere Artikel der Ausgabe 2/2020

Wirtschaftsinformatik & Management 2/2020 Zur Ausgabe

Premium Partner

    Bildnachweise