Vertrauen in Künstliche Intelligenz

Das vorliegende Buch ‚Vertrauen in Künstliche Intelligenz – eine multi-perspektivische Betrachtung‘ wurde von der Forschungsprofessorin Dr. Sabrina Schork an der Technischen Hochschule Aschaffenburg initiiert. Zweiundzwanzig Expertinnen und Experten geben veränderungsmotivierten Menschen Handlungsempfehlungen und Praxisbeispiele an die Hand, wie sie KI-Systeme, die Mensch-Maschine-Beziehung und das institutionelle Umfeld aktiv gestalten können. Verschiedene experimentelle Studien zeigen enorme Produktivitätsgewinne und Leistungsschübe durch künstliche Intelligenz (KI) bei Menschen und in Organisationen auf. Die Potenziale für Staat, Unternehmen und Bildungssysteme werden zur Zeit sehr hoch eingeschätzt. Fünfzehn Beiträge beleuchten das Vertrauen in KI aus der wirtschafts-, sozial-, computer- und kulturwissenschaftlichen sowie interdisziplinären Perspektive. Leserinnen und Leser erhalten ein vielseitiges Bild über das Thema.

Künstliche Intelligenz (KI) hat sich zu einer transformativen Kraft entwickelt, die verschiedene Aspekte der täglichen Arbeit beeinflusst. Es stellt sich die Frage: Können Menschen freundschaftliche Beziehungen zu KI-Entscheidungsunterstützungssystemen aufbauen oder werden diese Systeme nur als Werkzeuge betrachtet? In diesem Kapitel werden die Dynamik, die Herausforderungen und die Möglichkeiten von Mensch-KI-Interaktionen (MKI) untersucht, wobei ein besonderer Fokus auf die entscheidende Rolle des Vertrauens in dieser Interaktion gelegt wird. Das Vertrauen in KI wird durch kognitive, emotionale und soziale Faktoren beeinflusst. Zu den kognitiven Faktoren gehören die Transparenz und Interpretierbarkeit von KI-Systemen, zu den emotionalen Faktoren gehören die emotionale Bindung und das Verhältnis zwischen Menschen und KI-Agenten und zu den sozialen Faktoren gehören gesellschaftliche Normen und kulturelle Einflüsse. Das Spannungsverhältnis zwischen Automatisierungs- und Algorithmusvermeidungstendenzen stellt eine komplexe Herausforderung für MKI dar. Automatisierungsbias bedeutet, sich unhinterfragt auf KI-Empfehlungen zu verlassen. Die Tendenz zur Algorithmusvermeidung beschreibt die Ablehnung oder das Übergehen von KI-Empfehlungen zugunsten eines menschlichen Urteils. Um dieses Spannungsfeld zu bewältigen, müssen transparente und erklärbare KI-Systeme entwickelt und eine effektive Zusammenarbeit zwischen Menschen und KI gefördert werden. Durch die Berücksichtigung dieser Faktoren und die Stärkung des Vertrauens kann MKI zu einer informierteren Entscheidungsfindung und einer effektiven Nutzung der KI-Funktionen führen.

Daten und Künstliche Intelligenz (KI) sind in einem Wertschöpfungszyklus zu einer synergetischen Beziehung verschmolzen. Das Vertrauen der Nutzenden ermöglicht diesen Kreislauf und treibt ihn an. Nutzende hegen allerdings ambivalente Gefühle gegenüber der Nutzung ihrer Daten. Der für einen nachhaltigen Erfolg der KI wichtige Zugang zu Daten steht auf dem Spiel. Dieser Beitrag diskutiert relevante KI-Vertrauensbeziehungen und deren emergente Komplexitätstreiber aus systemtheoretischer Sicht. Gestützt auf eine systematische Literaturanalyse werden fünf praktische Handlungsanweisungen und Design-Prinzipien formuliert. Damit entwickelt der Autor wertendes, festlegendes Wissen im Umgang mit KI.

Die Verfügbarkeit von KI-basierten Technologien wie ChatGPT führt im Kontext schulischer Bildung sowohl zu großen Hoffnungen als auch zu vielfältigen Befürchtungen. Der vorliegende Beitrag beschäftigt sich daher mit der Frage, unter welchen Bedingungen KI-basierte Systeme zukünftig eine Bereicherung für das schulische Lehren und Lernen darstellen können. Hierbei trifft KI auf ein ‚träges‘ und durch Digitalisierung stark gefordertes Schulsystem, das sich vielen Herausforderungen, wie einer zunehmenden Heterogenität der Schülerinnen und Schüler, einem Mangel an qualifizierten pädagogischen Fachkräften und einer Belastung der Lehrkräfte durch eine Vielzahl an Aufgaben und Anforderungen stellen muss. Unklar ist, ob KI-basierte Systeme im schulischen Kontext diese insgesamt herausfordernde Situation abmildern können oder ob neue KI-Anwendungen eine zusätzliche Belastung für Lehrkräfte darstellen, auf die sie sich nur unzureichend vorbereitet fühlen. Um diese Frage zu beantworten, werden die Ergebnisse einer empirischen Untersuchung mit N = 141 Lehrkräften vorgestellt. Die Befunde zeigen, dass Lehrkräfte der Nutzung von KI gegenüber zwar positiv eingestellt sind, bei expliziter Nachfrage jedoch auch vielfältige Sorgen und Bedenken äußern. Um diese Bedenken zu adressieren und KI-Anwendungen als nützliches Werkzeug im schulischen Kontext und Möglichkeit zur Entlastung zu verstehen, ist die Entwicklung von Fort- und Weiterbildungsangeboten für Lehrkräfte zum Einsatz von KI-basierten Systemen im schulischen Kontext unerlässlich. Entsprechende Angebote werden im vorliegenden Beitrag daher ebenfalls thematisiert.

Sprachliche Handlungen, die sonst nur in Begleitung anderer Menschen möglich waren, sind nun zu einer Funktionsweise der digitalen Technologie geworden. Künstliche Intelligenz (KI) lädt zur sozialen Interaktion ein. Verschiebungen können auf verschiedenen Ebenen wahrgenommen werden, sodass entscheidende Unterschiede zwischen Mensch und Technik benannt werden können: Denn nur das Lebendige kann Verantwortung für sich und andere übernehmen. Es bleibt daher umstritten, welche Einflussmöglichkeiten und welche Entscheidungen und ergo wie viel Entscheidungsmacht an eine KI (z. B. in Chatbots) übertragen werden. Dieser Beitrag betrachtet diese Fragen im Kontext verschiedener Beziehungssphären und Wissensinstitutionen. Wie in jeder Beziehung und Institution werden unreflektierte Aspekte der Praxis und Strukturen einer normierenden Macht schädlich. Um dieser Macht entgegenwirken zu können, bleibt die Fähigkeit, Verantwortung für Entscheidungen zu übernehmen, wesentlich.

In diesem Kapitel werden einige der soziologischen und philosophischen Bedenken diskutiert, die dem derzeitigen Einsatz von KI (oder Quasi-KI) im Bildungsbereich zugrunde liegen. Zunächst werden Begriffe definiert und Überschneidungsbereiche identifiziert. Anschließend werden ethische Aspekte des Einsatzes von KI in diesem Zusammenhang erörtert, einschließlich Datenqualität, Fairness, Rechenschaftspflicht, Datenschutz, Erklärbarkeit, Vertrauen und Transparenz sowie Verzerrung durch Algorithmen, die sich allesamt bei der Entwicklung internationaler Rechtsvorschriften zum Datenschutz im Zusammenhang mit KI widerspiegeln. Anschließend wird der epistemologische Wandel in der Hochschulbildung analysiert. Dies verdient besondere Aufmerksamkeit, da Universitäten zunehmend durch neue Methoden des Wissenserwerbs, der Klassifizierung des Wissens, der Darstellung dessen Inhalts und der Sicherstellung dessen Gültigkeit herausgefordert werden und diese neuen Methoden von den traditionellen Ansätzen der Wissenserstellung und -verbreitung abweichen. Im Anschluss daran werden zentrale Fragen zu KI, Privatsphäre und Identität erörtert, darunter die Rolle der Überwachung und die Auswirkungen auf die Identitätsbildung in der akademischen Welt. Schließlich werden in diesem Kapitel verschiedene Möglichkeiten für die Entwicklung von datenschutzfreundlichen Rahmenbedingungen für wissenschaftliche Aktivitäten innerhalb der KI-gestützten Universität aufgezeigt.

Dieser Beitrag betrachtet die Verwendung von Bayes’schen Netzen als Methode zur Implementierung von transparenter, erklärbarer und vertrauenswürdiger Künstlicher Intelligenz (KI). Er beginnt mit einer Darstellung und Diskussion von Schlüsselkonzepten im Zusammenhang mit der Verwendung von Methoden der Künstlichen Intelligenz und der Implementierung von erklärbarer und vertrauenswürdiger KI. Der Beitrag diskutiert mehrere Konzepte aus dem Bereich der Bayes’schen Netze, die für die praktische Anwendung dieser Modelle in Systemen mit KI relevant sind. Zu den betrachteten Konzepten gehören unter anderem der Bayes-Faktor, die wahrscheinlichste Erklärung und die relevanteste Erklärung. Der Beitrag endet mit einem Fallbeispiel aus dem Bereich des automatisierten Fahrens, das veranschaulicht, wie transparente und erklärbare KI mithilfe von Bayes’schen Netzen umgesetzt werden kann, um eine vertrauenswürdige Lösung zu schaffen.

Je mehr KI-gestützte Entscheidungen das Leben von Menschen betreffen, desto wichtiger ist die Fairness solcher Entscheidungen. Dieser Beitrag gibt eine Einführung in die Forschung zu Fairness in KI-Systemen, erklärt die wesentlichen Fairness-Definitionen und Strategien zur Erreichung von Fairness anhand konkreter Beispiele und ordnet die Fairness-Forschung in den europäischen Kontext ein. Weder in der europäischen Gesetzgebung noch in der KI-Forschung kommt es dabei zu einem Konsens, wie Fairness zu definieren und zu erreichen ist. Stattdessen muss für jedes System eine differenzierte und kontextabhängige Betrachtung von möglichen unfairen Ergebnissen und deren Konsequenzen erfolgen. Dieser Beitrag kann dabei unterstützen und richtet sich an ein interdisziplinäres Publikum, indem auf mathematische Formulierungen verzichtet wird und stattdessen Visualisierungen und Beispiele genutzt werden.

Die Vertrauenswürdigkeit von ChatGPT als Unterstützung für Forschende, Lehrende und Lernende in der Physik wird in Bezug auf die Einhaltung wissenschaftlicher Leitlinien und den Einsatz in der Lehre untersucht. Dabei wird festgestellt, dass ChatGPT den Definitionen für vertrauenswürdige KI per Konstruktion nicht genügen kann. Die Frage der Vertrauenswürdigkeit verschiebt sich somit auf die Forschenden und Lehrenden, die ChatGPT anwenden. Hierbei ergeben sich Herausforderungen in Bezug auf den Datenschutz und die Qualitätssicherung. In der Lehre zeigen bestimmte Ansätze wie Gamification und virtuelle Diskussionspartner positive Auswirkungen auf die Studienleistungen. ChatGPT selbst verneint die eigene Vertrauenswürdigkeit aufgrund mangelnder Erklärbarkeit und der nicht öffentlichen Trainingsdaten. Letztendlich hängt auch die Vertrauenswürdigkeit von ChatGPT stark vom Einsatzkontext und der Verantwortung der Forschenden ab.

Im folgenden Beitrag werden die Fragen „Wie werden KI-Anwendungen in der (Hochschul-)Bildung eingesetzt?“ und „Wie kann (berechtigtes) Vertrauen in bestehende KI-Anwendungen aufgebaut werden?“ mit Hilfe einer Literaturanalyse bestehender angewandter Forschung beantwortet. Über Elicit, Google Scholar und ScienceDirect werden ab dem Jahr 2014 begutachtete englischsprachige Fachartikel recherchiert und anhand des Titels und des Abstracts ex- bzw. inkludiert. Der Fokus liegt auf den fünf Schlüsselwörtern Vertrauen, Künstliche Intelligenz, Lernen, Nutzungsrate und Bildung. Siebzehn Artikel werden ausgewählt und zusammenfassend qualitativ analysiert. Das Extrakt zeigt, dass KI-Anwendungen in der Bildung vor allem zur Analyse von Studierendendaten und zur Optimierung von Entscheidungsprozessen entlang des Lernprozesses eingesetzt werden. Im Mittelpunkt steht dabei die Individualisierung der Lehre auf Basis der Bedürfnisse der Lernenden. Der Einsatz von KI-Systemen kann die Qualität des Lernens und Lehrens verbessern. Aktuell wird eher die Lehrenden-Lernenden-Beziehung und weniger die Peer-Beziehung fokussiert. Das Vertrauen in KI-Systeme wird von der Reife der Maschinellen Intelligenz und der KI-Repräsentation bestimmt. Kognitive Faktoren wiegen schwerer als emotionale Faktoren. Empfohlen werden interdisziplinäre, langfristige und datenintensive Forschungsprojekte, die sich z. B. auf die Kalibrierung von Vertrauen konzentrieren.

Der Beitrag untersucht den Diskurskomplex ‚Vertrauen in KI‘ aus einer kulturwissenschaftlich medialen Perspektive. Zunächst erfolgt ein Überblick über die kulturwissenschaftlichen Zugänge. Die Besonderheiten des Vertrauens als zwischenmenschliche Beziehung werden im Kontext von Künstlicher Intelligenz (KI) erörtert. Anschließend dreht sich die Forschungsfrage um die mediale Repräsentation von KI in der deutschsprachigen Presse, um einen Einblick in den gesellschaftlichen Diskurs über ‚Vertrauen in KI‘ zu geben. Es wird exemplarisch aufgezeigt, wie ‚Vertrauen in KI‘ medial vermittelt wird und welche wiederkehrenden Muster, Einstellungen und kulturellen Praktiken vorliegen. Der Beitrag gewährt damit Einblicke in einen Mediendiskurs, der Vorstellungen und Einstellungen über KI und Vertrauen (de-)konstruiert und vermittelt.

In diesem Kapitel wird die Entwicklung und Gestaltung Menschzentrierter Künstlicher Intelligenz (KI) aus einer interdisziplinärer Perspektive betrachtet. Ein besonderer Fokus liegt dabei auf der Schaffung nachvollziehbarer Systeme mithilfe Erklärbarer KI. Hierfür werden die Konzepte Vertrauen und Mentale Modelle als Messgrößen für die Wirkung von KI vorgestellt. Auf Basis von Forschungsarbeiten in drei exemplarischen Anwendungsszenarien (Bildung, Industrie und Medizin) wird gezeigt, wie Erklärbare KI auf Nutzerinnen und Nutzern wirkt. Damit leistet dieses Kapitel einen Einblick in die aktuelle Forschung der nachvollziehbaren und menschzentrierten KI-Entwicklung.

Die Trainingswissenschaft ist aus der Trainingslehre sowie aus Handlungsanleitungen erfolgreicher Trainer entstanden. Die zentralen Gegenstandsbereiche adressieren auf das motorische Training, die Leistungsfähigkeit, den Wettkampf sowie die Leistungsdiagnostik. Die Adressatengruppen reichen vom Freizeit-, Breiten-, Spitzensport bis zum Gesundheitssport und decken die Klientel vom Kinder-, Jugend-, Aktiven Sport bis Sportangebote mit älteren Altersgruppen ab. Neue Technologien, digitale Anwendung und Künstliche Intelligenz (KI) als gesellschaftliche Megathemen, beeinflussen den Sport und insbesondere die Trainingswissenschaft auf fundamentale Weise und können im Positiven wie im Negativen als potenzieller Gamechanger (Spielveränderer) angesehen werden. Vertrauen, Wissen und ein kritischer reflektierter Blick auf die jeweilige Technologie, die digitale Anwendung sowie auf die Modelle der KI sind dabei wesentliche Voraussetzung, damit die Chancen der KI für den Sport und in die Trainingswissenschaft erkannt werden und Nutzenpotenziale zur Anwendung gelangen. Nationale und internationale datenschutzrechtliche, ethische und gesellschaftliche sowie fachinterne Diskussionen sind in diesem Kontext zu berücksichtigen und für die Scientific Community der Trainingswissenschaft anzustoßen. Wissen zu KI, Vertrauenswürdigkeit und erklärbare Modelle sind zu fokussieren.

Dieser Beitrag trägt dreifach zur Debatte über Vertrauen in KI-Systeme bei: Erstens, indem sie technische und aus Rahmenbedingungen resultierende Herausforderungen aus den Ergebnissen einer Evaluierung einer KI-gesteuerten Bildungsressourcen-Empfehlungsfunktion eines digitalen Studienassistenzsystems (DSA) ableitet. Zweitens extrapoliert dieser Beitrag Strategien, um die genannten Herausforderungen zu umgehen oder erfolgreich in deutsche Hochschulen zu integrieren. Schließlich argumentiert der Beitrag, dass vertrauenswürdige DSA-Systeme nur durch gemeinsame Anstrengungen technischer, organisatorischer und nutzerbezogener Maßnahmen erreicht werden können.