Chancen und Hürden von Entscheidungsunterstützungssystemen und künstlicher Intelligenz bei der Rechtsanwendung

Der Grad, in dem heutzutage KI einzelne Nutzer unterstützen kann, variiert je nach Komplexität der Aufgaben und der Leistungsfähigkeit der Algorithmen. In Anlehnung an das bekannte Modell des autonomen Fahrens der amerikanischen Society of Automotive Engineers (SAE International) hat der deutsche Branchenverband Bitkom ein Modell mit sechs Stufen vorgeschlagen, um ein gemeinsames Verständnis für die differenzierten Einsatzmöglichkeiten von KI in der Praxis zu schaffen (im Folgenden: Bitkom-Stufenmodell [2]). Ausgehend von der Stufe 0 (keine Automation), beschreibt das Modell in fünf weiteren Stufen das bei der Durchführung einer Aufgabe erreichte Automatisierungsniveau sowie die Aufgaben- und Kompetenzverteilung zwischen Nutzer und IT-System. Auch in der Rechtswissenschaft wurde es bereits herangezogen, um den Einsatz von KI in der Gerichtsbarkeit zu beschreiben [3]. Wir verwenden das Modell, um den Status quo IT-basierter Entscheidungsunterstützung in der Rechtsanwendung transparenter zu machen.

Die Stufe 0, auf der Menschen ohne Unterstützung von Systemen Entscheidungen treffen und alle Entscheidungsprozesse, einschließlich der Kommunikation, manuell ablaufen, war in der Rechtspraxis bis Mitte der Siebzigerjahre des vorigen Jahrhunderts der Standard, bevor erste Tabellenkalkulationsprogramme auf den Markt kamen. Hierdurch wurde die Stufe 1 („assistiertes Entscheiden“) erreicht, auf der Nutzer bei Rechen‑, Lese- oder Schreiboperationen durch technologische Werkzeuge unterstützt werden, sodass einzelne kognitive Prozesse an die IT delegiert werden können (wie z. B. die Visualisierung von Daten und ihre Einordnung unter benutzerdefinierte Parameter). Die fehlerfreie Nutzung der Systeme hängt hier sehr stark von der Qualifikation der Nutzer ab, da keine prozessgeleitete Begleitung durch die Aufgabe erfolgt.

Auf Stufe 2 („teilweises Entscheiden“) haben Systeme insoweit einen breiteren Handlungsspielraum, als sie den Nutzern bestimmte Entscheidungen abnehmen. Solche Systeme sind in der Lage, eine von verschiedenen möglichen Lösungen für ein spezifisches Problem anzubieten, vorausgesetzt, dass die Nutzer ihre Präferenzen zuvor geäußert haben. Die Prioritätenreihenfolge, in der eine oder mehrere vorgeschlagene Lösungen dargestellt werden, wird jedoch nach bestimmten Algorithmen definiert, die für die Nutzer nicht unbedingt transparent sind [4]. Auch viele der in jüngerer Zeit entwickelten Legal-Tech-Applikationen sind auf dieser Stufe angesiedelt. Ein Beispiel dafür sind Entscheidungsunterstützungssysteme, die in einigen Bundesstaaten der USA genutzt werden, um anhand von Charakteristika aus dem sozialen Umfeld des Täters (z. B. Vorstrafen des Täters und naher Verwandter, Schulden, häufige Wohnortwechsel etc.) die Wahrscheinlichkeit zu bestimmen, dass ein Angeklagter zu einem Rückfalltäter wird. Aus rechtlicher Sicht geht es bei diesen Systemen zunächst um die Ermittlung des Sachverhalts, auf dessen Grundlage dann der Mensch anhand der rechtlichen Maßstäbe eine Entscheidung treffen kann. Allerdings können solche Technologien einen Einfluss auf die Rechtsanwendung i. e. S. haben, sobald Algorithmen entsprechende Profile nach dem Grad der Gefährlichkeit einordnen würden und der Mensch bei seiner Entscheidung den Umfang der rechtlichen Maßnahme (z. B. die Lockerung des Strafvollzugs) von dem jeweiligen Grad abhängig machen würde. Zur Stufe 2 gehören ebenfalls Applikationen, die anhand formaler regulatorischer Vorgaben kontextuelle Paramater abfragen, um daraus rechtliche Schlüsse zu ziehen und Unternehmen im Bereich der Regulatory Compliance die Arbeit zu erleichtern.

Auf Stufe 3 („geprüftes Entscheiden“) stehen Systeme, welche nicht nur konkrete Lösungen auf ein spezifisches, von den Nutzern dargelegtes Problem anbieten, sondern auch proaktiv auf den Nutzer zugehen, indem sie Vorschläge zur Lösungsfindung unterbreiten. Hier sind moderne juristische Suchmaschinen zu verorten, soweit sie die Suche nach Rechtsprechung, gesetzlichen Bestimmungen, Literatur etc. nicht nur durch den Vergleich von Schlagworten ermöglichen, sondern die Rechtsquellen automatisch indexieren und während der Eingabe Vorschläge machen, welche die Suchanfrage in einen gewissen juristischen Kontext setzen. Es bleibt allerdings den Nutzern überlassen, diese Empfehlungen bei der Suche anzunehmen, abzulehnen oder die Suche zu wiederholen. Aus rechtlicher Sicht entfalten solche Systeme ihre Wirkung vor allem als eine Hilfe für die durch den Menschen erfolgende „Rechtsfindung“ und „Rechtsanwendung i. e. S.“.

Auf Stufe 4 („delegiertes Entscheiden“) überlassen die Nutzer dem System die Kontrolle über eine vorab definierte Situation. Basierend auf den Informationen, die über den Anwendungskontext und die Präferenz der Nutzer zur Verfügung stehen, wird das System eine bestimmte Entscheidung treffen und umsetzen. Das System funktioniert nicht immer gänzlich unabhängig vom Nutzer und kann in spezifischen (Sonder-)situationen, etwa der Abweichung von regulären Rahmenparametern, eine Warnung präsentieren, damit Nutzer die Entscheidung noch widerrufen können. Reagieren Nutzer nicht darauf, führt das Programm die Entscheidung jedoch weiterhin aus. Die höchste Stufe 5 geht noch einen Schritt weiter und beschreibt das „autonome Entscheiden“. Hier sind Systeme so konzipiert, dass sie dauerhaft und zuverlässig ohne menschliches Eingreifen funktionieren können. Die Nutzer können allerdings auf ihren Wunsch jederzeit die Kontrolle über das autonom arbeitende System übernehmen.

Derzeit dürfte es in der Rechtspraxis nur wenige Systeme geben, die die Stufen 4 oder 5 der Autonomie erreicht haben. Ein Beispiel wären automatische Verkehrsüberwachungssysteme, die anhand einer per Radar erfassten Geschwindigkeitsübertretung überwiegend automatisiert einen Bußgeldbescheid erstellen und dabei bereits verschiedene rechtliche Vorgaben prüfen, wie etwa die Abhängigkeit der Bußgeldhöhe von der Art des Verkehrsverstoßes. Ein anderes Beispiel sind die sog. Smart Contracts, die bei Eintritt bestimmter Ereignisse automatisch Maßnahmen auslösen, welche die Vertragsparteien vorher entsprechend vereinbart bzw. programmiert haben (wie z. B. die Ausführung einer Strafzahlung oder die Blockade einer auf Kredit gekauften Sache, wenn eine Ratenzahlung ausbleibt) [5]. In Idealform sehen Smart Contracts das voll automatisierte, autonome Entscheiden ohne Eingriff des Anwenders vor und wären daher auf Stufe 5 zu verorten. Stand heute ist die Anwendung solcher Smart Contracts aus technischer Sicht jedoch häufig auf verhältnismäßig kleine Anwendungsbereiche beschränkt. Mitunter sind sie auf gelegentliche Eingaben des Nutzers, primär bei der Spezifikation der Rahmenparameter, angewiesen, was eher den Charakteristika von Stufe 4 (delegiertes Entscheiden) entspricht. Aus einem juristischen Blickwinkel erscheint selbst diese Einstufung aber etwas hoch gegriffen, wie im Folgenden deutlich wird.

Während die zuvor genannten juristischen Suchmaschinen lediglich digitale Unterstützung bei der Rechtsanwendung durch Juristen leisten, wird in Bezug auf andere Applikationen bereits der Eindruck erweckt, dass Entscheidungssysteme oder KI bzw. „Legal Tech“ bereits vollständig juristische Aufgaben übernehmen könnten. Dieser Eindruck soll im Folgenden relativiert werden. Dies ist einerseits wichtig, da er Befürchtungen wecken würde, dass mit der algorithmisch gesteuerten Rechtsanwendung eine „Begriffsjurisprudenz“ Einkehr erhält, wie sie dem Gedanken des Rechts widersprechen würde. Andererseits ist es wichtig, um die Herausforderungen für eine digitale Unterstützung juristischer Arbeit deutlich zu machen und Potenziale zu heben. Dass Smart Contracts als digitale Rechtsanwendung angesehen werden, liegt daran, dass sie bei Eintritt eines gewissen Ereignisses vertraglich aufgestellte Regeln ausführen und diese Regeln damit auf diesen Sachverhalt anwenden. Gleiches gilt für Applikationen im Compliance-Bereich, die Eingaben des Nutzers mit regulatorischen Vorgaben abgleichen und ihre Empfehlungen ebenfalls erstellen, weil sie diese rechtlichen Regeln anwenden. Automatische Verkehrsüberwachungssysteme wenden ebenfalls Vorschriften an, weil sie den Sachverhalt ermitteln und ihn mit Tatbeständen des Straßenverkehrsrechts abgleichen. Aus technischer Sicht kann also ohne Weiteres konstatiert werden, dass es dem Algorithmus in diesen Fällen gelingt, bezogen auf einzelne rechtliche Vorschriften Rechtsanwendung i. w. S. zu betreiben. Aus der Perspektive des juristischen Berufsträgers, der eine verbindliche rechtliche Einschätzung zu geben hat, fällt es hingegen schwer, hier von „Rechtsanwendung“ zu sprechen, weil sich die Prüfung auf einzelne rechtliche Vorgaben beschränkt und Vorschriften auf ein „Wenn-Dann-Schema“ reduziert werden. Damit trifft das häufig technisch und ökonomisch motivierte Vorhaben, die Anwendung rechtlicher Vorschriften zu automatisieren, auf eine gegensätzliche juristische Wirklichkeit. Danach ist das Recht so komplex, dass sich seine Anwendung nicht in der Subsumtion weniger Vorschriften erschöpft, sondern immer das Gesamtgefüge einer Rechtsordnung berücksichtigt, was je nach Einzelfall eine andere Dimension hat. Außerdem ist Recht niemals schematisch, sondern hat immer den Einzelfall im Blick, um zu vermeiden, dass Vorgaben in mathematischer Logik wörtlich, formalistisch und blind gegenüber den konkreten Umständen vollzogen werden (sog. „Begriffsjurisprudenz“). Auch wenn es in den hier genannten Anwendungsbeispielen technisch bereits gelungen ist, die Anwendung von rechtlichen Regeln zu automatisieren, liefert der Algorithmus dennoch keine juristisch belastbare Antwort, weil er weder den Einzelfall noch die Gesamtrechtsordnung beachtet. Das zeigt sich an den „Smart“ Contracts, die alles andere als intelligent sind. Sie berücksichtigen nicht, ob die automatisch angewendete Regel im konkreten Kontext rechtmäßig vereinbart wurde. Zudem sind sie gegenüber jedem Sachverhalt, den man bei Programmierung des Systems nicht antizipiert hatte, „blind“, selbst wenn die Rechtsordnung ihm eine Bedeutung beimessen würde. Wenn im oben genannten Beispiel der automatischen Blockade einer Sache die für ihre Abzahlung geschuldete Rate nicht ausgeblieben ist, weil sie in bar gezahlt oder in einem persönlichen Gespräch mit einem Prokuristen verrechnet wurde, löst der Smart Contract die Sanktion aus, obwohl sie rechtlich nicht veranlasst wäre. Ihm fehlt die der Rechtsanwendung eigene, wertende Sicht für den konkreten Einzelfall vor dem Hintergrund der gesamten Rechtsordnung. Zudem finden Smart Contracts ihre Grenzen, wenn Vorgaben nicht eindeutig formuliert werden können, obwohl das Recht gerade auf unbestimmte Begriffe angewiesen ist, um nicht vorhergesehene Sachverhalte zu erfassen. Solange das System diese Dimensionen außer Acht lässt, schafft es Fakten, nicht Recht. Ähnliche Grenzen zeigen Compliance-Applikationen auf, wenn sie anhand formaler Eingaben (z. B. ein Registerauszug oder eine Adresse) die Anwendung konkreter Regelwerke bestimmen, welche an den Sitz oder die Staatsangehörigkeit einer Person anknüpfen. Der Wohnsitz kann juristisch nicht formal geprüft werden, wenn z. B. auffallend geringe Stromrechnungen am registrierten Wohnsitz und ein mehrmonatiger Aufenthalt in einem Ferienhaus Zweifel daran säen, wo eine Partei ihren „rechtlichen Wohnsitz“ hat, der mit dem „registrierten Wohnsitz“ nicht identisch ist. Wenn eine Person nicht eine, sondern zwei Staatsangehörigkeiten hat und das Recht vorgibt, dass diejenige entscheidend ist, mit der die Person tatsächlich am meisten verbunden ist, kann ein Algorithmus nicht überprüfen, welche Staatsangehörigkeit im Einzelfall effektiv gelebt wurde.

Diese Beispiele sollen die Grenzen IT-basierter Entscheidungsunterstützung in der Rechtsanwendung veranschaulichen: Diese ist komplex, weil schon die Auswahl des zu berücksichtigenden Sachverhaltselements, geschweige denn seine Bewertung, die Anwendung des Rechts beeinflussen und verfälschen kann [6]. Weil Recht den Einzelfall aus dem Blickwinkel der gesamten Rechtsordnung betrachtet, muss es auf Basis der Annahme angewandt werden, dass kein Fall wie der andere ist. Genau das widerspricht dem grundsätzlichen Konzept des Algorithmus, der auf eindeutige Entscheidbarkeit und das Identifizieren, Modellieren und Handeln aufgrund von Mustern ausgelegt ist. Muster zeichnet aus, dass viele Erscheinungen gleich sind und deshalb gleich behandelt werden können. Das steht im Kontrast zum Anspruch juristischer Arbeit. Aus Sicht von Juristen kann von voll automatisierter „Rechtsanwendung“ nicht die Rede sein, weil solche Applikationen keinen verlässlichen rechtlichen Schluss ziehen können. Der Einsatz des Algorithmus auf dem Gebiet juristischer Arbeit kann also nur in der Unterstützung des Rechtsanwenders liegen. So gesehen leisten die bestehenden Applikationen einen Beitrag bei der Ermittlung des Sachverhalts oder generieren allenfalls einen (noch grundlegend zu überprüfenden) Vorschlag für die Rechtsanwendung i. e. S. Ein automatisch generierter Bußgeldbescheid ist immerhin ein Vorschlag für eine Rechtsanwendungsentscheidung durch den Adressaten oder ein Gericht. Der beschriebene Gegensatz von Rechtsanwendung und Algorithmus soll aber nicht den Eindruck erwecken, als hätte ein Algorithmus im Umgang mit der Gesamtrechtsordnung gar keinen Platz. Um das zu illustrieren, wollen wir im Folgenden den Fokus auf die Ebene richten, die wir in Abb. 1 mit „Rechtsfindung“ überschrieben haben.

Der Anwendung von Recht auf die Tatsachen eines Einzelfalls geht eine Ermittlung der maßgeblichen Rechtsvorschriften voraus. Juristen müssen den richtigen Rechtssatz finden, da die richtige Anwendung des falschen Rechts genauso falsche Ergebnisse produziert. Unseres Erachtens liegt in der „Rechtsfindung“ Potenzial für IT-basierte Entscheidungsunterstützung. Hier kommt die Auswertung der einleitend beschriebenen, stetig wachsenden Rechtsquellen ins Spiel, deren Gesamtheit eine Rechtsordnung ausmacht. Ein digitales Rechtsanwendungstool könnte den Nutzer, indem es die richtigen Fragen stellt, zu der im Kontext in Betracht kommenden Spezialvorschrift samt dazugehöriger rechtlicher Information führen, damit der Rechtsanwender diese dann prüfen kann. Aus Sicht der IT handelt es sich bei der Gesamtheit der Rechtsquellen um ein immenses „Datenvolumen“. Dieses will der Rechtsanwender, der jetzt zum „Nutzer“ wird, so aufbereitet wissen, dass er in schneller Zeit die richtige Vorschrift findet und sogleich mit ihr umzugehen weiß. Zur Bewerkstelligung der Rechtsfindung verlassen sich Juristen heutzutage auf die juristische Aus- und Fortbildung, ihre Praxiserfahrung und jede Menge Bücher und damit auf die gängigen Verfahren des letzten Jahrhunderts, die bislang durch den Einsatz von Hyperlinks, Content in digitaler Form oder eine intelligentere Schlagwortsuche beschleunigt wurden. Dennoch kommt es häufig vor, dass manch ein Jurist nicht auf dem Stand des aktuellen Rechts ist oder das alte Recht nicht mehr kennt, welches in einem Rechtstreit anzuwenden ist; dass methodisch einfache Rechtsfragen an Spezialisten abgegeben werden, weil die Einarbeitung zu lange dauert; oder dass das Recht allein durch die Anzahl zu prüfender Normen unverständlich oder so komplex wird, dass seine Prüfung einen ökonomisch nicht vertretbaren Aufwand produziert. Bei diesen Defiziten kann ein Algorithmus ansetzen. Er kann Rechtsanwender durch die kontextorientierte Abfrage und Bereitstellung von Informationen auf dem Weg zur einschlägigen Rechtsgrundlage begleiten, ohne ihnen die (nicht ersetzbare) Aufgabe menschlicher Wertung abzunehmen. Das Ziel IT-basierter Rechtsfindung darf es nicht sein, eine Rechtsfrage mit „Ja“ oder „Nein“ zu beantworten oder ermessensgeleitete Wertungen vorzunehmen (also Recht anzuwenden), sondern Rechtswissen verlässlicher zugänglich zu machen und rechtliche Informationen einzelfallgerechter bereitzustellen (also bei der Rechtsfindung zu unterstützen). IT-basierte Entscheidungsunterstützung und KI können Rechtsanwender bei der Abfrage von Parametern im „Dschungel des Rechts“ unterstützen und sie somit zur richtigen Vorschrift führen. Indem sie den zeitlichen Aufwand sowie die Qualität und die Verlässlichkeit der rechtlichen Prüfung erhöhen, können sie auch im Kernbereich juristischer Arbeit einen Anwendungsbereich erlangen. Dabei gilt es ebenfalls auszuloten, was der Mensch und was die Maschine macht und wie beide zusammenarbeiten und voneinander lernen können. Weil der Datenbestand „Rechtsordnung“ außerordentlich komplex ist, liegt der Einsatz der Entscheidungsunterstützung in der Rechtspraxis hinter anderen Anwendungskontexten außerhalb der juristischen Welt allerdings deutlich zurück. Im Folgenden sollen die technischen Herausforderungen illustriert werden, die es auf dem Weg zur IT-basierten Rechtsfindung zu meistern gilt.

Der Beitrag hat die Grenzen und Herausforderungen des Einsatzes von IT-basierter Entscheidungsunterstützung in der Kerndomäne der Juristerei, der Rechtsanwendung, beschrieben. Den Fokus auf die voll automatisierte Beantwortung von Rechtsfragen zu legen, wird der Idee des Rechts nicht gerecht und liegt angesichts des derzeit erreichten Grades der Automatisierung juristischer „Prozesse“ ohnehin in weiter Ferne. Ein Fokus sollte auf die digital unterstützte Rechtsfindung gerichtet werden, die sich nicht zum Ziel setzt, eine Rechtsfrage zu beantworten, sondern bei ihrer schnellen und verlässlichen Beantwortung Unterstützung zu leisten. Die digital unterstützte Rechtsfindung hat das Potenzial, den herkömmlichen Weg zu verändern, wie Recht heutzutage aufbereitet, bekannt und zugänglich gemacht wird. Wenn Wege gefunden werden, wie die stetig anwachsenden Inhalte von Recht durch einen Algorithmus zugänglich gemacht werden können, wird Recht nicht nur für Rechtsanwender ge- bzw. beschrieben, sondern adressiert im gleichen Zuge den Rechtsanwender als Nutzer von IT-Systemen.