Gesellschaftliche Perspektiven einer fachspezifischen KI für automatisierte Entscheidungen

Die SKI wird wahrscheinlich nicht die Emotionalität und das Gefühl der Ungerechtigkeit der Betroffenen aus den Debatten nehmen, da das zu tief im Menschen verwurzelt ist. Allerdings kann die SKI ihre Entscheidungen erklären, indem sie in Echtzeit ähnliche Entscheidungen aus der Vergangenheit präsentiert, mit denen sie trainiert wurde. Für solche kritischen Entscheidungen wie Handspiel im Strafraum, grobe Fouls oder gefährliches Spiel wird es viele Präzedenzfällen geben, bei denen auch auf subtile Unterschiede in den Situationen eingegangen wird (z. B. bei Handspiel, ob sich der Arm etwas zum Ball hinbewegt hat oder eng am Körper angelegt war). Diese werden von einem Expertengremium von (menschlichen) Schiedsrichtern diskutiert und entschieden, ggf. auch revidiert, woran sich die KI orientiert und ggf. nachtrainiert wird, sodass die KI sich ständig weiterentwickelt und aus möglichen Fehlern lernt. Weitere Vorteile der SKI sind, dass sie ohne Videoassistenten immer in Echtzeit entscheidet, dass keine Debatten oder Einschüchterungsversuche möglich sind, und dass sie standardisiert und unemotional Entscheidungen trifft: Es ist schwer, ihr glaubwürdig eine Voreingenommenheit oder Parteilichkeit zu unterstellen. Wenn das Regelwerk im Fußball geändert wird, müssten Annotationen vergangener Spielsituationen überprüft und adaptiert werden, damit die SKI aktuell bleibt; diese Funktion könnte man auch dafür nutzen, vor Regeländerungen ihre Auswirkungen zu überprüfen (so wurde z. B. die Handspielregel mehrfach geändert). Trotzdem wird die SKI gelegentlich zweifelhaft entscheiden, insbesondere in seltenen Spielkonstellationen, bei denen (noch) zu wenig Trainingsmaterial vorliegt. Diese lassen sich leicht publizistisch als Unfähigkeit der KI darstellen, selbst wenn die SKI aus ihren Fehlern lernen wird. Ein inhärenter Nachteil der SKI ergibt sich unmittelbar aus den Vorteilen: Sie reduziert die emotionale und unberechenbare Komponente, die vielleicht einen wesentlichen Reiz von Fußballspielen ausmacht. Für viele gehört dazu, dass nicht immer die bessere Mannschaft gewinnt, sondern die schlechtere Mannschaft auch eine Chance hat, und dazu trägt die partielle Unberechenbarkeit der Schiedsrichterin durchaus bei. Eine Zusammenfassung der Vor- und Nachteile der SKI findet sich in Abbildung 1.

Unser Szenario für eine medKI setzt gut ausgestattete Untersuchungszentren voraus, in denen Patienten von medizinischem Personal befragt und untersucht werden (einschließlich Bedienung und Einsatz technischer Geräte). Das Besondere im Szenario ist, dass die medKI autonom medizinische Entscheidungen zur Durchführung weiterer Untersuchungen sowie zur Diagnose und Therapie trifft und diese von keiner Ärztin mehr überprüft und ggf. revidiert werden (aber durchaus Präferenzen der Patienten bei alternativen Therapieoptionen berücksichtigen). Die medKI wird in Kompetenzzentren unter Kontrolle von Medizinern entwickelt und weiterentwickelt. Im Gegensatz zur SKI umfasst die medKI nicht nur Training mit neuronalen Netzen (insbesondere für die Interpretation der bildgebenden Verfahren), sondern auch Zugriff und Analyse auf die medizinische Literatur einschließlich Lehrbüchern, Fachartikeln und Ergebnissen von medizinischen Studien (dazu wird eine ausreichende Fähigkeit des Verstehens der medizinischen Fachsprache angenommen) sowie auf die Daten und Behandlungserfolge oder -misserfolge aller (anonymisierten) Patientenfälle. Die Kompetenzzentren sind auch notwendig, damit die medKI schwierige Fälle an sie überweisen kann. Wir unterstellen für die Diskussion, dass solche KI-gestützten Untersuchungszentren in Studien gezeigt haben, dass sie gleiche oder bessere Entscheidungen treffen wie durchschnittliche Allgemein- oder Fachärzte und dass sie dann eine vergleichbare Zulassung bekommen, sodass Patienten sich aussuchen können, ob sie sich konventionell oder durch die neuartigen Untersuchungszentren behandeln lassen. Für Kliniken gilt die gleiche Konstruktion – die pflegerische Betreuung und spezielle Behandlungen, wie z. B. chirurgische Eingriffe, werden nach wie vor von medizinischem Personal durchgeführt, aber alle Entscheidungen trifft die medKI, wobei Patienten Wahlfreiheit haben. Dadurch ändert sich das Berufsbild vieler Ärzte grundlegend (außer für Spezialisten für Notfälle, chirurgische Eingriffe und andere komplexe Interventionen): Die Schwerpunkte liegen in der Kommunikation mit den Patienten und nicht mehr darin, auf dem aktuellen Stand des medizinischen Fachwissens zu sein, um medizinische Entscheidungen treffen zu können.

Die Vorteile der medKI-gestützten Untersuchungszentren aus Sicht der Patienten sind eine hohe medizinische Entscheidungsqualität auf dem aktuellen Stand des medizinischen Wissens, die zudem standardisiert und reproduzierbar ist, viel Zeit für eine ausführliche Kommunikation, und trotzdem eine kostengünstigere Alternative, die dazu genutzt werden könnte, solche Untersuchungszentren auch in strukturschwachen Gegenden anzubieten. Im Folgenden werden wir verschiedene kritische Punkte diskutieren:

Die hypothetische Einführung einer medKI in Untersuchungszentren, die ähnlich wie Ärzte zertifiziert wäre, hängt daher zunächst von den juristischen Rahmenbedingungen ab. Wenn diese gegeben sein sollten, müsste sie sich im Wettbewerb um Patienten gegenüber der weiterhin existierenden konventionellen Medizin bewähren. Dies wird entscheidend von Studienergebnissen abhängen, die wiederum eine hohe Transparenz bezüglich der Ergebnisse medizinischer Entscheidungen erfordern, da Vertrauen in ihre Korrektheit essenziell ist. Eine Zusammenfassung der Vor- und Nachteile der medKI findet sich in Abbildung 2.

Während es bei dem Szenario für die medizinische Entscheidungsfindung um das Wohl jeder einzelnen Patientin geht, die Wahlfreiheit bezüglich der medKI in Untersuchungszentren oder konventionelle Behandlung hat, betrifft die juristische Entscheidungsfindung eine Norm, die der Staat festlegt, indem er nicht nur Gesetze erlässt, sondern letztlich auch die Richter ernennt, die sie interpretieren. Wenn richterliche Entscheidungen durch eine jurKI getroffen werden, betrifft dies potenziell alle Bürger. Derzeit müssen richterliche Entscheidungen in Deutschland von Menschen getroffen werden, insofern bedarf die Anwendung einer jurKI einer grundlegenden Gesetzesänderung. Wir gehen daher hier von einem doppelt hypothetischen Szenario aus: Zum einen muss die jurKI mindestens so gut wie Richter sein, zum anderen muss die Gesetzeslage geändert werden.

Ähnlich wie bei der medKI muss bei der jurKI zwischen Datenerhebung und Entscheidung auf Basis der Gesetze unterschieden werden. Weiterhin differenzieren wir zwischen strafrechtlichen und zivilrechtlichen Prozessen. Bei letzteren streiten in der Regel 2 Parteien gegeneinander, bei ersteren muss ein Strafmaß festgelegt werden, das vielfältige, teils widersprüchliche Kriterien berücksichtigen muss. Die Datenerhebung ist oft schwierig, da die Betroffenen gewöhnlich das Recht haben, sich nicht selbst beschuldigen zu müssen. Bei zivilrechtlichen Prozessen steht oft Aussage gegen Aussage und die Richter müssen deren Glaubwürdigkeit überprüfen. Häufig wird aufgrund von Zeugenaussagen oder Gutachten von Sachverständigen entschieden, wobei diese sich auch widersprechen können. Eine KI zur Wahrheitsfindung von Fakten ist unter diesen Umständen ungleich schwieriger als eine KI, die lediglich Gesetze auf Basis von als wahrangenommenen Fakten interpretiert. Wir beschränken daher unser Szenario auf letzteres. Damit ist auch klar, dass eine jurKI Richter nicht ersetzen kann, die immer noch zur Feststellung der Fakten erforderlich bleiben. Weiterhin beschränken wir die jurKI auf zivilrechtliche Prozesse, da die Festlegung eines Strafmaßes Aspekte wie Gerechtigkeitsempfinden und Resozialisierungschancen usw. beinhaltet, die schwer algorithmisch zu fassen sind, zumal sie auf die individuellen Besonderheiten des Falls eingehen muss. Schließlich würde die jurKI Fälle, die sie nicht beurteilen kann, an Richter delegieren, aber aus deren Entscheidungen für zukünftige, ähnliche Fälle lernen.

Was wären die Vor- und Nachteile einer jurKI für Entscheidungen in zivilrechtlichen Fällen bei bekannter Datenlage? Der Hauptvorteil wäre eine größere Transparenz und Standardisierung: Bürger müssten keine für sie häufig unverständlichen und komplizierten Gesetzestexte studieren oder teure Rechtsanwälte konsultieren, sondern bräuchten nur die von ihnen als wahr unterstellten Fakten eines Streitfalls eingeben (ggf. in mehreren Varianten) und bekämen das Ergebnis sowie ähnliche Urteile angezeigt. Die Entscheidungen hingen nicht von den Einstellungen und Befindlichkeiten der Richter ab, sondern würden unter gleichen Bedingungen vorhersagbar die gleichen Ergebnisse produzieren. Dies ist jedoch auch ihr Hauptnachteil, da von subtilen Besonderheiten jedes einzelnen Falls abstrahiert werden muss, da abstrakte Begriffe in einem Regelwerk mit Ausnahmen zwar iterativ immer weiter konkretisiert und verfeinert werden können (z. B. anhand von konkreten Urteilen), aber nicht alle Konstellationen vorhergesehen werden können. Daher müsste man auch gegen eine jurKI eine Berufung einer höheren Instanz zulassen, die dann nicht von der gleichen jurKI entschieden werden dürfte (da würde bei gleichen Fakten das gleiche Ergebnis herauskommen), sondern von menschlichen Richtern. Die Erfolgsquote der jurKI bestände darin, wie wenig in der Berufung revidiert würde, was man mit der Anzahl der Revisionen bei konventionellen Prozessen vergleichen könnte. Dabei sollte sie aus jeder Revision lernen. Die Transparenz einer jurKI durch Eingabe verschiedener Fallkonstellationen könnte sogar dazu führen, dass viele zivilrechtliche Fälle gar nicht mehr vor Gericht kommen, da die Parteien schon im Vorfeld ihre Chancen zuverlässig einschätzen können. Eine Zusammenfassung der Vor- und Nachteile der jurKI findet sich in Abbildung 3.

Eine KI zur politischen Entscheidungsfindung (polKI) erscheint auf den ersten Blick absurd: zum einen wegen ihren inhärenten Komplexität, zum anderen weil sie eine Diktatur der Maschinen impliziert. Der Autor ist sich ersteren Problems bewusst, letzteres ist nicht intendiert. Die Bürger würden weiterhin wählen, nur wählen sie nicht mehr Parteien oder Personen, sondern politische Präferenzen: wie wichtig sind verschiedene Ziele, was sich letztlich auch darin äußert, wie viel Geld für welche Zwecke und konkreten Projekte ausgegeben und wie die Rahmenbedingungen der Wirtschaft und des gesellschaftlichen Lebens geändert werden sollen. Die konkrete Umsetzung der Ziele und ggf. notwendige Kompromisse würde dann die polKI übernehmen. Ihr Kern wäre ein komplexes Simulationsprogramm, dass die Auswirkungen dieser Präferenzen kurz-, mittel- und langfristig unter verschiedenen Annahmen (innere Stabilität, technologischer Fortschritt, Natur- und andere Katastrophen, Klimawandel, außenpolitische Spannungen usw.) herleiten würde, sodass die Bürger sich besser der Konsequenzen ihrer Entscheidungen bewusst wären. Da aber diese Annahmen über die Zukunft inhärent unsicher sind (wie man schon an vergleichsweise einfachen Simulationen zur Coronapandemie gesehen hat), sind im besten Fall Wahrscheinlichkeitsintervalle für konkrete Vorhersagen zu erwarten.

Ein zweites Problem ist, dass die Simulationsmodelle auf natur- und wirtschaftswissenschaftlichen Regeln über die Welt beruhen müssen, die in den westlichen Demokratien von immer mehr Menschen infrage gestellt werden. Immerhin könnte man die Vorhersagen kontinuierlich mit der Wirklichkeit vergleichen und dadurch die Plausibilität der Simulationsmodelle abschätzen. Man sollte auch die zunehmende Rechenleistung moderner Computersysteme nicht unterschätzen, die Simulationen auf der Basis von lokalen Entscheidungen individueller Akteure (z. B. einzelner Haushalte oder kleiner Firmen) ermöglichen und aggregieren könnten. Die Vorteile einer solchen extrem hypothetischen polKI in Demokratien wären, dass Wähler mutmaßlich in höherem Maße das bekämen, was sie mehrheitlich wählen. Weiterhin würde in Demokratien die Verführung durch Macht und Machtmissbrauch der Politiker weitgehend entfallen. Andererseits ließe sich eine polKI in Diktaturen sehr leicht missbrauchen, wenn die Ziele und Werte von einer kleinen Minderheit von Menschen festgelegt und dann optimal von der polKI umgesetzt würden. In außenpolitischen Kontroversen, die im Extremfall zu Kriegen führen können, kann Vorhersagbarkeit die eigene Verhandlungsposition beträchtlich schwächen. Man könnte deswegen die Vorhersagbarkeit durch eine bedingte Zufallsfunktion bewusst vermeiden. Der Autor ist sich nicht sicher, ob eine polKI, die keine Maschinenherrschaft, sondern nur eine optimale Umsetzung der von Menschen vorgegebenen Ziele impliziert, ein Fluch oder ein Segen für die Menschheit wäre. Im Gegensatz zu den anderen besprochenen Entscheidungs-KIs ist die polKI allerdings auch noch nicht technisch absehbar.

Die verschiedenen Szenarien für eine Entscheidungs-KI zeigen die überragende Bedeutung der Datenakquisition: Während bei der SKI die Daten vollständig beobachtbar und mit Kameras erfassbar sind, sodass ein voll autonomes Entscheidungssystem möglich erscheint, erfordern die medKI und die jurKI nach wie vor Menschen zur Dateneingabe: Während bei der medKI zumindest ein Teil der Daten (insbesondere von bildgebende Untersuchungen) autonom verarbeitet werden kann und sich die Sicherheit der Entscheidungen mit zunehmender Datenverfügbarkeit verbessert, ist bei der jurKI die Feststellung der Datenlage bei oft widersprüchlichen Aussagen bereits das Hauptproblem, während die daraus abgeleiteten Schlussfolgerungen weit leichter formalisierbar sind.

Wenn eine rationale, standardisierte, reproduzierbare und möglichst gute Entscheidungsfindung das oberste Ziel ist, spricht viel für den Einsatz von einer Entscheidungs-KI, die von Kompetenzzentren unter Leitung von Fachexperten kontinuierlich weiterentwickelt wird und durch menschliche Kommunikation insbesondere zur korrekten Datenerfassung unterstützt wird.

Aus technischer Sicht erscheint eine KI, die sich auf fachliches Entscheidungswissen konzentriert und die heterogenere Welt der Datenakquisition, sofern diese nicht objektiv erfassbar sind, weiterhin den Menschen überlässt, nach Meinung des Autors in absehbarer Zeit umsetzbar und die Zeit wäre reif für entsprechende Großprojekte. Bei der SKI könnte z. B. der Deutsche Fußballbund die Rechte an den Kameraaufnahmen aller von ihm organisierten Spiele wahrnehmen und damit die SKI trainieren, zumal ja die Schiedsrichterentscheidungen in den Kameraaufnahmen bereits enthalten sind. Bei der jurKI gehören alle Urteile dem Volk, d. h. wenn der Staat deren standardmäßige Anonymisierung finanzieren würde, ständen sie für Trainingszwecke zur Verfügung³. In der Medizin gehören die Patientendaten den Patienten und sind nur mit deren Einwilligung in anonymisierter Form weiterverwendbar. Wenn die komplette Patientenakte in die elektronische Gesundheitsakte vollständig übertragen würde (siehe Fußnote 2) und ausreichend viele Patienten den Aufbau einer medKI unterstützen würden, wäre auch hier die Voraussetzungen für entsprechende Forschungsprojekte günstig. Allerdings müssten zur Qualitätssicherung bei allen Behandlungen deren Effekte dokumentiert werden, z. B. in Folgeuntersuchungen, wie sie bei medizinischen Studien üblich sind, die hier von den Patienten veranlasst werden müssten. Alle 3 Szenarien könnten inkrementell entwickelt werden, zunächst nur für Teilbereiche der Entscheidungsfindung und in einer Übergangsphase mit Überprüfung durch menschliche Fachexperten, um das Vertrauen der Nutzer zu erhöhen und den Einstieg und Umstieg zu erleichtern. In der polKI könnte man mittels Multiagentensimulationen Entscheidungsunterstützungssysteme entwickeln (z. B. für Auswirkungen verschiedener Handlungsszenarien zum Klimawandel im Weltmaßstab und auf nationaler Ebene, die u. a. Auswirkungen auf die Wirtschaft und Anpassungsreaktionen aller Akteure von Organisationen bis zu Einzelpersonen modelliert). Allerdings gehen wie angedeutet in solche Simulationssysteme sehr viele Annahmen ein, und es gibt kaum Möglichkeiten zur Validierung, sodass eine polKI aus derzeitiger Sicht keine Entscheidungen treffen, sondern „nur“ zu einer partiellen Versachlichung von politischen Diskussionen beitragen kann.

Zumindest für die ersten 3 Szenarien (und ähnliche Entscheidungs-KIs in anderen abgrenzbaren Bereichen) ist eine Diskussion, ob solche Systeme gesellschaftlich erwünscht sind, zum jetzigen Zeitpunkt angebracht. Die polKI eignet sich eventuell für einen Science-Fiction-Roman. Kommentare zum Artikel sind willkommen.