Der Beitrag untersucht die rechtlichen und praktischen Implikationen des Einsatzes von KI-Systemen in der öffentlichen Verwaltung. Zunächst wird die Frage nach den Zielen und Potenzialen von KI-Systemen in der Verwaltung gestellt, wobei die grundlegenden Aspekte und Chancen ausführlich beleuchtet werden. Es wird deutlich, dass KI-Systeme in der Verwaltung eine Vielzahl von Aufgaben übernehmen können, von der Entlastung bei Routinearbeiten bis hin zur Unterstützung bei komplexen Entscheidungsprozessen. Besonders interessant ist die Differenzierung zwischen verschiedenen Handlungsdimensionen der Verwaltung, wie dem verwaltungsinternen Handeln, dem schlichten Verwaltungshandeln, dem fiskalischen und privatrechtlichen Verwaltungshandeln sowie den Verwaltungsentscheidungen. Jede dieser Dimensionen wird detailliert analysiert, um die spezifischen Herausforderungen und Möglichkeiten des KI-Einsatzes zu verdeutlichen. Beispielsweise wird die Posteingangsbearbeitung in der Stadt Bergheim als Beispiel für den Einsatz von KI-Systemen im verwaltungsinternen Handeln genannt, während KI-basierte Chatbots im schlichten Verwaltungshandeln zur Entlastung der Bürgertelefone beitragen. Auch die rechtlichen Rahmenbedingungen und die Einordnung der KI-Systeme in die verschiedenen Handlungsdimensionen werden umfassend behandelt. Der Beitrag zeigt auf, dass der Einsatz von KI-Systemen in der Verwaltung nicht nur zu einer Effizienzsteigerung, sondern auch zu einer höheren Rechtssicherheit und Gerechtigkeit führen kann. Durch die Automatisierung von Routineaufgaben und die Standardisierung von Entscheidungsprozessen wird die Verwaltung von der Willkür menschlicher Beurteilungen befreit, was das Vertrauen der Bürger in die Verwaltung stärkt. Zudem wird die Möglichkeit diskutiert, dass KI-Systeme in Zukunft zunehmend als entscheidende Systeme mit einem hohen Grad an Autonomie und Finalität eingesetzt werden könnten. Dies könnte zu einer flächendeckenden, barrierefreien und effizienten Verwaltung führen, die den Bürgern einen einfachen Zugang zu den Dienstleistungen der Verwaltung bietet. Der Beitrag schließt mit einem Ausblick auf die zukünftigen Entwicklungen und die potenziellen Vorteile des KI-Einsatzes in der Verwaltung, wobei die rechtlichen und ethischen Herausforderungen nicht außer Acht gelassen werden.
KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
Zusammenfassung
Um die rechtlichen Fragestellungen bearbeiten zu können, ist der konkrete Einsatz von KI-Systemen in der Verwaltung - sei es geplant oder bereits umgesetzt - zu betrachten. Hierfür wird eine exemplarische Bestandsaufnahme für die avisierte oder bereits umgesetzte Nutzung von KI-Systemen in Reflexion der verschiedenen Handlungsformen der Verwaltung vorgenommen.
Um die rechtlichen Fragestellungen bearbeiten zu können, ist nach der Betrachtung der KI-Systeme der Fokus auf die Verwaltung zu legen. Hier ist zunächst die Frage, welche Ziele mit dem Einsatz von KI-Systemen in der Verwaltung verfolgt werden. Die grundlegenden Aspekte und Erwägungen lassen sich aus den in Abschnitt 2.3 ermittelten Potenzialen und Chancen von KI-Systemen ableiten. Diese begründen im Wesentlichen die Etablierung von KI-Systemen in Verwaltungsprozessen. Daneben können die im Schrifttum benannten Positiveffekte des übergeordneten Themenbereichs – das E-Government – herangezogen werden. Diese werden unter dem Terminus public value1 zusammengefasst. Unter public value werden verschiedene Zielbereiche verstanden wie eine verbesserte Verwaltungsdienstleistung, erhöhte Effizienz, Open Government-Ermöglichung, verbessertes ethisches Verhalten und Professionalität, verbessertes Vertrauen in die Regierung sowie ein verbesserter sozialer Wert und Wohlbefinden.2 Die mit dem E-Government verbundenen Erwartungen sind ebenso auf die Etablierung von KI-Systemen in der Verwaltung übertragbar.3 Inwieweit KI-Systeme in die praktische Anwendung in Hinblick auf das Verwaltungshandeln gebracht werden sollen, ist insbesondere für die Charakterisierung des Einsatzes von Relevanz. Anhaltspunkte können bereits in der Verwaltung eingesetzte KI-Systeme und Planungen liefern.4 Diese sind hinsichtlich des konkreten Einsatzes zu systematisieren. Die Systematisierung und Charakterisierung kann einerseits danach ausgerichtet werden, in welchem Bereich der Verwaltung die KI-Systeme eingesetzt werden und anderseits welche Auswirkungen sie auf Verwaltungsentscheidungen haben.
3.1 Bestandsaufnahme aus der Praxis und avisierte Nutzungen
Die konkreten Einsatzfelder von KI-Systemen in der Verwaltung sind divers – ebenso wie die dazugehörige Transparenz. Zunächst ist festzustellen, dass bislang einzig Schleswig-Holstein einen Rechtsrahmen für KI-Systeme in der Verwaltung gesetzt hat und demnach auch eine gesetzliche Definition des Begriffs vorhält. In den anderen Ländern ist die Beurteilung, ob es sich bei einer konkreten Anwendung um ein KI-System nach der in der vorliegenden Arbeit verwendeten Definition handelt, diffizil. Nichtsdestotrotz sind exemplarisch die Einsatzgebiete zu betrachten und zu systematisieren.
Anzeige
Das Verwaltungshandeln wird regelmäßig in drei Dimensionen eingeteilt – das fiskalische und privatrechtliche Verwaltungshandeln, das schlichte Verwaltungshandeln sowie die öffentlich-rechtlichen Verwaltungsentscheidungen in ihren unterschiedlichen Ausprägungen.5 Hierbei ist zu konstatieren, dass keine verfassungsrechtliche Determination der Handlungsformen existiert.6 Vorliegend ist eine weitere Dimension hinzuzufügen, die in der klassischen Betrachtung eine untergeordnete Rolle einnimmt – das bloße interne Verwaltungshandeln. Hiernach wird die Verwaltung nicht in ihrem Handeln nach außen beschrieben, sondern das Verwaltungsinternum fokussiert. Die grundlegenden Fragen sind dabei nicht, welche Rechtsqualität eine nach außen gerichtete Handlung hat oder auf welchem Rechtsgebiet eine nach außen gerichtete Handlung der öffentlichen Verwaltung basiert.7 Es werden vielmehr diejenigen Prozesse, die keine unmittelbare Außenwirkung haben und primär nach innen gerichtet sind, adressiert. Demnach kann das Verwaltungshandeln in Hinblick auf den Einsatz von KI-Systemen in vier Kategorien eingeteilt werden:
verwaltungsinternes Handeln,
fiskalisches und privatrechtliches Verwaltungshandeln,
schlichtes Verwaltungshandeln und
Verwaltungsentscheidungen.
Die vier Kategorien haben gemein, dass sie mehr oder weniger final und unmittelbar der Aufgabenwahrnehmung der Verwaltung dienen. Dabei erreicht die höchste Finalität und Unmittelbarkeit der Bereich der Verwaltungsentscheidungen, unter dem die wesentlichen Rechtsakte der Verwaltung wie der Verwaltungsakt zu subsumieren sind. Neben der Funktion der Aufgabenwahrnehmung dienen die anderen Kategorien teilweise der Entscheidungsfindung zur Vorbereitung von Verwaltungsentscheidung.8 Der intern-administrative Prozess der Vorbereitung einer Entscheidung kann signifikant divers und abhängig von der Organisation sein. Jedoch können die Bereiche verwaltungsinternes, fiskalisches und privatrechtliches sowie schlichtes Verwaltungshandeln Verwaltungsentscheidungen maßgeblich determinieren.
3.1.1 Verwaltungsinternes Handeln
Das ausschließlich verwaltungsinterne Handeln ist nicht nach außen gerichtet. Es ist alleinig nach innen gerichtet und soll demnach keine mittelbare oder unmittelbare Wirkung nach außen entfalten. Es dient internen Entscheidungs- und Handlungsprozessen oder anderen rein internen Zwecken. Aus der verwaltungsrechtlichen Perspektive wird es regelmäßig unter die Kategorie schlichtes Verwaltungshandeln gefasst.9 Kennzeichnend für das schlichte Verwaltungshandeln ist, dass ein faktischer und kein rechtlicher Erfolg mit der Verwaltungshandlung angestrebt wird.10 Es liegt demnach kein Rechtsakt der Verwaltung vor.11 Ebenso ist ein Rechtssatz als Grundlage der konkreten Handlung regelmäßig nicht erforderlich.12 Zusammenfassend wird unter den Begrifflichkeiten schlichtes Verwaltungshandeln oder Realakt eine faktische Maßnahme ohne Rechtserfolg im Außenverhältnis subsumiert – ohne hierbei explizit interne Handlungen abzugrenzen.13 Vorliegend ist jedoch eine weitere Differenzierung des Begriffs schlichtes Verwaltungshandeln dienlich, da der Einsatz von KI-Systemen in den Bereichen des verwaltungsinternen oder nach außen gerichteten Verwaltungshandeln unterschiedliche Wirkungen entfalten kann. Die Rechtsqualität des Verwaltungshandeln ist bei dieser Differenzierung nicht maßgeblich, sondern die Ausrichtung der Handlung und infolgedessen der Kreis der Betroffenheit, respektive die Adressaten. Losgelöst von der klassischen verwaltungsrechtlichen Perspektive dienen die verwaltungsinternen Handlungen nicht primär der Vorbereitung von Entscheidungen wie es bei verwaltungsinternen Vorschriften beispielsweise durch Dienstanweisungen regelmäßig gegeben ist.14 Es sind vielmehr die internen Prozesse und Abläufe zu subsumieren, die weder einen verwaltungsrechtlichen Charakter aufweisen noch nach außen gerichtet sind. Verwaltungsinterne Handlungen können zwar mittelbare Auswirkungen auf das externe Handeln oder konkrete Verwaltungsentscheidungen haben, sie avisieren sie jedoch nicht.
Unter Berücksichtigung des Ansatzes der Lehre der Rechtsformen haben rein interne Verwaltungshandlungen keine rechtlich determinierte Folge. Im Sinne der juristischen Folgenzentriertheit haben sie somit auch keine Relevanz. Dieses Charakteristikum könnte eine elementare verwaltungsrechtliche Erkenntnis sein, die zu einer Differenzierung gegenüber dem schlichten (nach außen wirkenden) Verwaltungshandeln gebietet. Denn wenn der Einsatz von KI-Systemen beim internen Handeln keine rechtlichen Implikationen aufweist, so wäre die rechtliche Schwelle für den Einsatz eines solchen Systems für verwaltungsinterne (Geschäfts-)Prozesse deutlich geringer.15 Zwar sind auch bei einer faktischen Verwaltungshandlung im Außenbereich keine unmittelbaren verwaltungsprozessualen Folgen – mangels rechtlicher Möglichkeiten – zu erwarten, jedoch können insbesondere verfassungsrechtliche Aspekte bei einer nach außen gerichteten Verwaltungshandlung impliziert sein.16 Dies hätte eine praktische Bedeutsamkeit, da beispielsweise die Implementierung und Etablierung eines solchen Systems mit einer niedrigeren Hemmschwelle für die jeweilige Verwaltung verbunden wäre.17
Anzeige
Ein relevanter Teil der Anwendungen, die unter diese Kategorie gefasst werden können, werden solche Systeme sein, die im praktischen Alltag der Verwaltung zu einer Entlastung von Routinearbeiten führen und vorwiegend den internen Dienstbetrieb betreffen. So kann beispielsweise die Posteingangsbearbeitung und -zuweisung KI-basiert und autonom vorgenommen werden.18 Die Stadt Bergheim setzt ein Postverteilungssystem ein, das zunächst mit statischen Algorithmen die Zuständigkeiten für eingehende Vorgänge zuweist. Kommt es hierbei zu Zuweisungsfehlern sollen diese mithilfe selbstlernender Algorithmen korrigiert werden.19 Ein weiteres Anwendungsbeispiel, das sich gegenwärtig in der Entwicklung befindet, ist ein KI-basiertes System, das im Rahmen des Haushaltsaufstellungsverfahrens in der öffentlichen Verwaltung eingesetzt werden könnte. Die Anwendung soll im Haushaltsaufstellungsprozess die Transparenz fördern und damit den verwaltungsinternen Entscheidungsprozess im Haushaltsaufstellungsverfahren optimieren.20
Einen allgemeinen Ansatz zur Unterstützung von Verwaltungsbeschäftigten verfolgt das Land Baden-Württemberg, das einen Text-Assistenten namens F13 testet. Hierbei handelt es sich um ein Sprachmodell – ähnlich wie das generative KI-Modell ChatGPT. Dieses KI-System soll die Verwaltungsbeschäftigten bei der täglichen textbasierten Arbeit entlasten. Konkret sind vier Funktionsbereiche vorgesehen: das Zusammenfassen von Texten, die Überführung von Kabinettvorlagen in einen Vermerk, die Unterstützung bei Recherchetätigkeiten und die Erstellung von Vermerken.21 Das Land Schleswig-Holstein zieht hingegen den Einsatz von ChatGPT in Betracht respektive schließt den Einsatz für einzelne Behörden nicht wegen einer grundsätzlichen Unzulässigkeit aus.22 Der Bund beschreibt in seiner Datenstrategie, dass es ein Beratungszentrum für Künstliche Intelligenz in der öffentlichen Verwaltung (BeKI) gründen möchte. Dieses soll mit den weiteren Akteuren im Bund die Nutzbarmachung von generativen Sprachmodellen in der Bundesverwaltung prüfen und unterstützen.23
Neben den vorwiegend klassischen Verwaltungsprozessen können KI-basierte Anwendungen auch in Arbeitsbereichen eingesetzt werden, bei denen Verwaltungsbeschäftigte eine Unterstützung mangels eigener Kompetenzen benötigen. So könnten KI-basierte Übersetzungsmodelle innerhalb der Verwaltung Eingang finden.24 Die Verwaltungsbeschäftigten werden mit diesen unterstützenden Systemen flexibler und unabhängig von den persönlichen Sprachkompetenzen einsetzbar. Insbesondere die KI-basierten, leicht zugänglichen und leistungsfähigen Übersetzungsprogramme könnten sowohl einen Nutzen für die Verwaltung als auch für Antragssteller bringen. Letztere haben möglicherweise gegenwärtig aufgrund von sprachlichen Barrieren keinen ungehinderten Zugang zur Verwaltung.
Losgelöst von einzelnen Prozessen ist der Einsatz von KI-Systemen im Bereich des Data-Driven-Governments denkbar, wobei es hier zu Abgrenzungsproblemen zum nach außen gerichteten Handeln kommen kann.25 Datengetriebene Ansätze könnten dem Grunde nach die Entscheidungsprozesse innerhalb der Verwaltung optimieren – dahinstehend, ob es sich um Entscheidungsprozesse zu inneren Angelegenheiten der Verwaltung oder zu originären Verwaltungsentscheidungen handelt.26 Der Ansatz des datengetriebenen Handelns wird aus einer Aufstellung der Bundesregierung deutlich, bei der der Einsatz von KI-Systemen aufgezeigt wird. Insbesondere bei den Ressortforschungseinrichtungen wie dem Robert Koch-Institut, der Bundesanstalt für Geowissenschaften und Rohstoffe oder dem Thünen-Institut wird deutlich, dass diverse Verfahren der Künstlichen Intelligenz zur Analyse, Mustererkennung, Bewertung, Prognose oder Entscheidungsvorbereitung eingesetzt werden.27 Das Bundesamt für Migration und Flüchtlinge entwickelt ein KI-System zur frühzeitigen Erkennung von Migrationsentwicklungen und -strömungen.28 Auch dies ist dem datengetriebenen Regierungshandeln zuzuordnen, da die Verwaltung Daten nutzt, um belastbare Prognosen zu erstellen, das eigene Handeln daran auszurichten und Entscheidungen im Lichte dieser Erkenntnisse zu treffen.
Zwar nicht unmittelbar dem Data-Driven-Government zuzuordnen, aber jedenfalls den Bereich des Informationswesens betreffend setzt die Deutsche Rentenversicherung Nord Ost West Informationstechnik GmbH ein Programm ein, um verwaltungsintern die Beschäftigten in ihrer täglichen Arbeit zu unterstützen und zu entlasten.29 Mit dem KI-basierten System iFinder können die Beschäftigten aus verschiedenen Fachsystemen Informationen finden und zusammenstellen lassen.30 Damit werden zum einen die Informationen zugänglich gemacht und zum anderen die Beschäftigten von möglicherweise aufwändigen Suchtätigkeiten entlastet. Diese Art der KI-basierten Unterstützung ist ein erhebliches Effizienzpotenzial zuzuschreiben. Falls es gelingt, in den Verwaltungen Strukturen zu etablieren, die sowohl bestehende Daten und Informationen identifizieren und aggregieren als auch nachfolgende Aufgaben bewältigen können, könnte dies einen effektiven und entlastenden Beitrag zur täglichen Arbeit der Verwaltungsmitarbeiter leisten.
Daneben können KI-Systeme auch zur Verbesserung der Sicherheitsarchitektur und Leistungsfähigkeit der Kommunikations- und Informationssysteme der öffentlichen Verwaltung31 oder zur Effizienzsteigerung vorhandener übriger Technik eingesetzt werden.32
Gemein haben die beispielhaft genannten Bereiche, in denen KI-Anwendungen eingesetzt werden oder der Einsatz avisiert ist, dass sie vorrangig internen Zwecken dienen und nicht nach außen wirken.
3.1.2 Schlichtes Verwaltungshandeln
Neben dem bloßen internen Verwaltungshandeln ist das schlichte Verwaltungshandeln – der Realakt oder auch das faktische Verwaltungshandeln – als weitere Kategorie festzustellen.33
Der Realakt richtet sich in Abgrenzung zum internen Verwaltungshandeln nach außen. Es handelt sich nicht nur um ein Verwaltungsinternum, sondern die Handlung hat einen Bezug zum Außenverhältnis.34 In Abgrenzung zu den Kategorien fiskalisches und privatrechtliches Handeln sowie zum Komplex Verwaltungsentscheidungen zielt der Realakt nicht auf einen Rechtserfolg, sondern vielmehr auf die tatsächliche Handlung ab.35 Dahinstehend, ob ein Rechtserfolg oder ein faktischer Erfolg avisiert wird, sind dennoch alle maßgeblichen gesetzlichen Regelungen zu beachten.36 Für die Entscheidung der Handlungsform – also soll mithilfe eines Verwaltungsakts oder eines Realakts gehandelt werden – ist unter anderem die Frage der zur Verfügung stehenden rechtlichen Mittel und die Zweckmäßigkeit der Handlungsform von der Verwaltung zu beleuchten.37 Die Abgrenzung zum bloßen internen Verwaltungshandeln könnte für die rechtliche Beurteilung über den Einsatz eines KI-Systems von Bedeutung sein, da es in diesem Bereich zum direkten und unmittelbaren Kontakt im Außenverhältnis kommen kann und damit diverse gesetzliche und verfassungsmäßige Regelungen maßgeblich sein könnten.
Die Anwendungsfelder für KI-Systeme im Bereich des schlichten Verwaltungshandelns sind breit gefasst. Eine besondere praktische Relevanz nehmen gegenwärtig KI-basierte Dialogsysteme ein. Das Land Berlin setzt beispielsweise einen lernenden Chatbot als virtuelle Ansprechstelle für die Bürger ein. Das Ziel ist die Entlastung des allgemeinen Behördentelefons 115 und ein durchgängig erreichbares Serviceangebot in unterschiedlichen Sprachen.38 Einen ähnlichen Ansatz verfolgt der öffentliche IT-Dienstleister Dataport mit den selbstlernenden Chatbots Cabo und Ina.39 Das Bundesministerium des Innern und für Heimat entwickelt ebenfalls Chatbots mit verschiedenen Ausprägungen zur Informationsvermittlung durch die Bundesregierung.40 Daneben – und bereits in der Kategorie internes Verwaltungshandeln benannt – befinden sich KI-basierte Übersetzungssysteme. In Abgrenzung zum internen Verwaltungshandeln könnten diese in der vorliegenden Kategorie der internationalen, behördenübergreifenden Kommunikation oder der unmittelbaren Kommunikation mit Menschen außerhalb der Verwaltung dienen.41
Darüber hinaus sind KI-basierte Systeme im Rahmen des schlichten Verwaltungshandelns in weiteren Bereichen der Verwaltung etabliert oder vorstellbar. So können mithilfe KI-basierter Systeme gänzlich neue Prozesse zur Effizienzsteigerung der Verwaltung erschlossen werden. Beispielsweise stattet der Zweckverband Ostholstein seine Müllentsorgungsfahrzeuge mit einem Smartphone an der Windschutzscheibe aus. Mit dem Smartphone wird während der Entsorgungsfahrten die Straße fotografiert. Das dazugehörige KI-basierte System erfasst sodann den Straßenzustand und wertet diesen aus, was bislang händisch durch Verwaltungsbeschäftigte erledigt werden musste.42 In der Hamburger Verwaltung wird ebenfalls eine lernende Bilderkennungssoftware eingesetzt. Diese ist in der Sauber-App der Hamburger Stadtreinigung implementiert. Mit der App können Bürger Müll fotografieren und an die Stadtreinigung melden, wobei innerhalb der App der Müll klassifiziert und einer Müllart zugeordnet wird.43 Solch vermeintlich schlicht klingende Anwendungen, können aus einer prozessualen Perspektive wirksame Vorteile bringen.
Der Deutsche Wetterdienst forscht in Kooperation mit dem Jülich Supercomputing Centre (JSC) am Forschungszentrum Jülich, den Universitäten Osnabrück und Bonn sowie der Jacobs University in Bremen an einem KI-System, um die Niederschlagsprognosen in Deutschland in puncto Zuverlässigkeit und Mengenbestimmung zu verbessern.44
Ein ebenfalls auf Bilderkennung und -analyse, respektive Objekterkennung, beruhendes IBM-Projekt zielt auf eine Verbesserung im Katasterwesen ab. Mithilfe von bestehenden Luftbildern sollen Katasterämter in die Lage versetzt werden, bei bestehenden Bauten Planabweichungen zu erkennen.45 Sofern das Ergebnis als Onlinedienst zur Verfügung gestellt wird, könnten die Personen selbst, die einen Bau planen oder über ein bestehendes Objekt verfügen, gegenwärtige Abweichungen erkennen, anzeigen und korrigieren. Aber auch andere Behörden wie beispielsweise Feuerwehr oder Technisches Hilfswerk könnten im Rahmen besonderer Lagen auf die Analysen zurückgreifen.46
Nordrhein-Westfalen pilotierte ein KI-basiertes System in Justizvollzugsanstalten. Ziel war es, mithilfe von intelligenter Videoüberwachung Suizide zu verhindern.47 Das KI-System sollte sowohl gefährliche Gegenstände als auch auffälliges Verhalten erkennen. Die Justizbeschäftigten sollten somit in die Lage versetzt werden, bei suizidalen Handlungen rechtzeitig reagieren zu können und diese in ihrer Finalität zu verhindern.48
Insbesondere an den vorgenannten Beispielen lässt sich das Erfordernis der Differenzierung zwischen rein internen Verwaltungshandlungen ohne einen Berührungspunkt nach außen und dem schlichten Verwaltungshandeln, das hingegen regelmäßig nach außen gerichtet ist, erkennen. Durch die Bildaufnahmen und die weitere Verarbeitung der Daten ist die Betroffenheit von verschiedenen Grundrechten denkbar wie das Recht auf informationelle Selbstbestimmung nach Art. 2 Abs 1 i.V.m. Art. 1 Abs. 1 GG. Die qualitativen Anforderungen an solche Systeme dürften durch die Grundrechtsrelevanz weitaus höher zu fassen sein, als in einem rein internen Verfahren, in dem keine unmittelbaren oder mittelbaren Auswirkungen auf Rechte Dritter zu erwarten sind.
3.1.3 Fiskalisches und privatrechtliches Verwaltungshandeln
Außerhalb des Anwendungsbereichs des Verwaltungsrechts befindet sich die fiskalische und privatrechtliche Betätigung der Verwaltung.49 Auch wenn beide Bereiche nicht dem originären Verwaltungsrecht zuzurechnen sind, so sind sie jedenfalls der Verwaltungstätigkeit zuzuordnen.50 Das fiskalische Handeln dient der Verwaltung zur eigenen Versorgung mit Sach-, Personal- oder Finanzmitteln.51 Das privatrechtliche Handeln der Verwaltung kann sich zudem auf die Wahrnehmung öffentlicher Aufgaben in privatrechtlicher Form erstrecken – das Verwaltungsprivatrecht.52
Die unmittelbare Bindung an die Grundrechte und andere verfassungsrechtliche Vorgaben bleiben auch im Bereich des fiskalischen und privatrechtlichen Verwaltungshandeln bestehen.53 Das Bundesverfassungsgericht konstatiert ausdrücklich die Grundrechtsbindung des Staates unabhängig von der gewählten Handlungs- und Rechtsform.54 Daher ist auch dieser Teilbereich des Verwaltungshandeln von Bedeutung. Folglich sind KI-Systeme, die im fiskalischen Verwaltungshandeln oder im Bereich des Verwaltungsprivatrechts eingesetzt werden, den verfassungsrechtlichen Anforderungen unterworfen und stellen gerade keinen Ausnahmebereich dar. In Abgrenzung zu Verwaltungsentscheidungen, die auf öffentlich-rechtlicher Grundlage und als Rechtsakt erfolgen, sind die verwaltungsprozessualen Bestimmungen wie die des Verwaltungsverfahrensgesetzes regelmäßig nicht anzuwenden.55
Dem Grunde nach sind auch in dem Bereich des fiskalischen und privatrechtlichen Verwaltungshandeln KI-Systeme in den unterschiedlichen Bereichen einsetzbar. Ein bedeutsamer Bereich könnte das Personalwesen darstellen. So sind innerhalb des Personalwesens diverse Einsatzbereiche denkbar, die zum einen notwendige Prozesse unterstützen und zum anderen neue Steuerungsmöglichkeiten eröffnen.56
Im Beschaffungsbereich stellt das Kompetenzzentrum innovative Beschaffung des Bundesministeriums für Wirtschaft und Klimaschutz dar, dass KI-Systeme sowohl in den operativen Bestellprozessen als auch beim originären Beschaffungsvorgang an sich wie der Angebotssichtung und -aufbereitung oder der Vertragsanalyse eingesetzt werden könnten.57 Das Institut für angewandte Forschung Berlin forscht mit verschiedenen unternehmerischen Projektpartnern – unter anderem der Berliner Verkehrsbetriebe AöR – an einem KI-basierten Controllingsystem namens ReComMeND, mit dem sowohl das betriebliche Controlling als auch die Qualität von Planungsannahmen verbessert werden sollen.58 So sollen mithilfe des Systems genauere Prognosen zu zukünftigen Erträgen aus Fahrscheinverkäufen und der Auslastung des öffentlichen Personennahverkehrs erstellt werden.
3.1.4 Verwaltungsentscheidungen
Die letzte Kategorie umfasst das nach außen gerichtete Handeln, welches mittel- oder unmittelbar auf einen Rechtserfolg gerichtet ist.59 Dem Grunde nach können die nach außen gerichteten Handlungsformen der Verwaltung in verschiedene Arten eingeteilt werden wie Verwaltungsakt, Allgemeinverfügung oder öffentlich-rechtlicher Vertrag. Für den Einsatz von KI-Systemen im Verwaltungsverfahren wird regelmäßig das einseitige, finale und nach außen gerichtete Handeln der Verwaltung relevant sein, was sich in den meisten Fällen auf den Verwaltungsakt erstrecken wird. Ausgeschlossen ist der Einsatz von KI-Systemen in den übrigen Handlungsformen dieser Kategorie nicht, jedoch soll vorliegend der Verwaltungsakt – aufgrund seiner Bedeutung – fokussiert werden. Denn der Verwaltungsakt ist die zentrale und herausragende Handlungsform der Verwaltung.60
Die Handlungsformen Verwaltungsakt, Allgemeinverfügung oder öffentlich-rechtlicher Vertrag sind auf einen unmittelbaren Rechtserfolg gerichtet. Der Vollständigkeit halber sei ein weiterer wichtiger Handlungsbereich der Exekutiven genannt, der zwar schlussendlich ebenfalls auf einen Rechtserfolg gerichtet ist, sich jedoch nicht auf einen konkreten Adressaten bezieht – die Rechtsverordnung und Satzung. Diese Handlungsformen zeichnen sich insbesondere aufgrund des abstrakt-generellen Charakters aus.61
Als weitere Differenzierung ist das Maß der Entscheidung des Systems zu betrachten. So könnten KI-Systeme zur Entscheidungsvorbereitung genutzt werden, konkrete Entscheidungen vorschlagen oder Entscheidungen autonom treffen.
Die Entscheidungsvorbereitung ist davon gekennzeichnet, dass sie in Hinblick auf das Ergebnis eines Verwaltungsverfahrens einen Beitrag leistet. Dieser Beitrag wird regelmäßig in einem frühen Stadium angesiedelt sein. Dem Grunde nach könnten Anwendungen, die unter den Data-Driven-Government Ansatz gefasst werden, potenziell als Systeme zur Entscheidungsvorbereitung angesehen werden, da sie die Daten- und Informationsgrundlage für die Verwaltungsentscheidung bereitstellen oder prägen. Bedeutsam ist in dieser Unterkategorie daher die Repräsentation von Wissen, Information und Daten.
Das Bundesamt für Migration und Flüchtlinge nutzt neben anderen Assistenzsystemen ein sprachbiometrisches Modell62 zur Unterstützung der Dialekterkennung von Antragsstellern.63 Das Assistenzsystem ist der Entscheidungsvorbereitung zuzuordnen, da es ein Baustein im Asylverfahren ist und damit einen Teilbeitrag zur Entscheidungsfindung leistet. Dennoch ist der Beitrag des Assistenzsystems nicht zu unterschätzen, da er im konkreten Asylverfahren maßgeblich sein könnte und somit eine erhebliche Strahlkraft entfalten dürfte.
Der Online-Dienst „Kinderleicht zum Kindergeld“ wurde in Kooperation zwischen der Hamburger Senatskanzlei, Fraunhofer FOKUS und Fraunhofer IDMT entwickelt und implementiert.64 Das System bietet die Möglichkeit, internetbasiert über eigene Geräte oder feste Stationen in Klinken die Behördengänge zu vereinfachen, die durch eine Niederkunft erforderlich werden – wie beispielsweise die Beurkundung der Geburt beim Standesamt oder das Beantragen des Kindergeldes. Dabei werden zum einen die teilweise parallelen Verfahren zusammengefasst, der Verwaltung bereits vorliegende Daten eigenständig ausgetauscht und die Kommunikation zwischen den Behörden ermöglicht. Zum anderen wurde eine internetbasierte Antragsoberfläche geschaffen, die auf einem KI-System basiert. Verwendet werden Spracherkennungs- und -synthesekomponenten.65
Die Bundesagentur für Arbeit nutzt eine Anwendung, die die Bearbeitungsreife eines Antrags prüft und diesen erst dann an die Verwaltungsbeschäftigten zur Bearbeitung weiterleitet, wenn der Antrag die Bearbeitungsreife erreicht hat.66 Daneben projektiert die Bundesagentur für Arbeit eine Prozessoptimierung im Bereich der DALEB-Überschneidungsmitteilungen67.68 Das System prüft, ob eine Teilautomatisierung bei einem Antrag möglich ist. Falls diese Prüfung positiv ausfällt, wird automatisiert ein Anhörungsbogen versendet und interne Verfügungen vorgenommen. Zudem kann vom System in bestimmten Konstellationen die Zahlung an den Adressaten automatisiert eingestellt werden.69 Das dritte Beispielsystem von der Bundesagentur für Arbeit betrifft die Anwendung KIWI70. Diese Fachanwendung wurde fortentwickelt, sodass eingehende Anträge mithilfe einer Texterkennung und eines analytischen Modells bewertet und klassifiziert werden können, um anschließend der Sachbearbeitung eine konkrete Entscheidung vorzuschlagen.71
Eine wesentliche Anwendungsgruppe sind Predictive Policing-Systeme oder andere Systeme zur Identifizierung eines Risikos oder staatlichen Handlungsbedarfs.72 Neben Predictive Policing-Systemen werden umfassende KI-basierte Analysesysteme von den Polizeibehörden eingesetzt wie das System hessenDATA, dessen Stärke insbesondere in der Zusammenführung von Daten und Informationen liegt.73
Ein weiteres Beispiel für ein entscheidungsunterstützendes System ist der AMS-Algorithmus, der in der österreichischen Verwaltung zur Prognose der Integrationschancen von Arbeitssuchenden eingesetzt wird.74 Die Anwendung soll den Verwaltungsbeschäftigten eine Prognose zur Verfügung stellen, die als Entscheidungsgrundlage für das weitere Verfahren und einzuleitende Maßnahmen dient. Es soll jedoch keine konkrete Entscheidung vorbestimmen. Diese soll von den Verwaltungsbeschäftigten im Zusammenwirken mit den Arbeitssuchenden getroffen werden.75 Kritikpunkte bei dem System sind fehlende System- und Datentransparenz, Nachvollziehbarkeit der Prognose und der relevanten Einflussfaktoren bei individuellen Entscheidungen sowie mangelnde Kompetenzen bei den Verwaltungsbeschäftigten hinsichtlich der neuen Technologie und im Besonderen bezogen auf den Risikokomplex Korrelation und Kausalität.76
Das Unternehmen PARKLAB bietet im Rahmen einer „Smart-City“ an, Parkplätze mit intelligenten Bodensensoren auszurüsten. Die dort generierten Daten sollen sodann für Verkehrs- und Stadtplanungszwecke einsetzbar sein. Zudem könnten die Daten für KI-basierte Verkehrsauslastungsprognosen genutzt und sowohl der Stadt als auch den Bürgern zur Verfügung gestellt werden. Darüber hinaus sei auch eine Nutzung der Daten für die Überwachung des ruhenden Verkehrs denkbar.77 Letzterer Aspekt würde sich dem Grunde nach für eine automatisierte, KI-basierte Entscheidung eignen. Ordnungswidrigkeiten im Rahmen des ruhenden Verkehrs könnten demnach ohne Zutun eines Verwaltungsbeschäftigten verfolgt werden.
Darüber hinaus sind Systeme vorhanden, bei denen die Zuordnung diffiziler ist, ob sie eher als entscheidungsvorbereitend im Sinne eines Teilbeitrags im Verwaltungsverfahren wirken oder vielmehr eine konkrete Entscheidung indizieren. Dies kann sowohl die Tatbestandsseite als auch die Rechtsfolgenseite betreffen.78 Hier ist beispielsweise das KI-basierte System ZAC-AIRA (AI enabled Rapid Assessment) von der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen zu nennen.79 Das System unterstützt bei der Analyse kinder- und jugendpornografischen Materials, in dem es dieses erkennt und für die Ermittlungsbehörden kategorisiert.
Die Generalzolldirektion entwickelt ein auf Bilderkennung basierendes KI-System, das die Zollbeamten auf auffällige Sachverhalte hinweisen soll.80
Die Universität Oldenburg forscht in Kooperation mit dem Landesamt für Steuern Niedersachsen im Rahmen des Projekts Tax Defence Analytics (TaDeA) an einem Programm, das mithilfe von Datenanalysen Umsatzsteuerbetrugsfälle und Steuervermeidungen für die Verwaltungsbeschäftigten erkennt und aufbereitet, respektive sie darauf aufmerksam macht.81 Ein ähnliches Ziel verfolgt die Steuerverwaltung mit dem seit 2011 eingesetzten System NEPOMUK 2.1, das zur Identifizierung von Umsatzsteuer-Karussellgeschäften verwendet wird und auf einem künstlichen neuronalen Netz basiert.82 Ebenso gibt das Bundeszentralamt für Steuern an, einen KI-basierten Webcrawler im Bereich der Umsatzsteuerbetrugsbekämpfung zu nutzen.83 Daneben entwickelt die Data Intelligence Unit der Bundesanstalt für Finanzdienstleistungsaufsicht eine Anwendung, die automatisiert mittels Web-Crawlings auf Basis künstlicher Intelligenz Auffälligkeiten in Hinblick auf unterlauteres Verhalten feststellen soll.84 Bei den sechs vorgenannten Systemen ist die Frage der Klassifizierung des Systems als entscheidungsvorbereitend im weiteren Sinne oder als Vorschlag einer konkreten Entscheidung insofern schwierig, als das mit der Repräsentation und Aufbereitung der Informationen eine bestimmte Entscheidung impliziert ist. Zu denken ist hier an die faktische Einschränkung der Opportunität im Verfahren, da eine bestimmte Ausübung des Entschließungsermessen indiziert ist oder eine Verpflichtung im Rahmen des Legalitätsprinzips greift.
Die Bundesanstalt für Landwirtschaft und Ernährung setzt mit FIKON II ein teilweise automatisiertes Verfahren ein, das im Rahmen der Überwachung der Einfuhr von Fischereierzeugnisse sowohl als entscheidungsunterstützendes als auch als entscheidendes KI-System durch die Bundesregierung klassifiziert wird.85
Ein prominentes Beispiel für ein entscheidungsindizierendes System bezogen auf das Entschließungsermessen einer Behörde ist das Projekt „Sicherheitsbahnhof“, das von der Bundespolizei in Kooperation mit der Deutsche Bahn AG am Berliner Bahnhof Südkreuz durchgeführt wird. Hier dürfte die Entscheidung der Behörde erheblich und konkret durch das System vorgegeben sein. Dieses Projekt zum Einsatz von intelligenter Videoüberwachung ist in zwei Phasen eingeteilt. Das erste, abgeschlossene Teilprojekt fokussiert die biometrische Gesichtserkennung mithilfe von drei Systemen, die auf neuronalen Netzen basieren.86 Die Bewertung des ersten Teilprojekts divergierte in einem erheblichen Ausmaß.87 Seit 2019 wird das zweite Teilprojekt durchgeführt. Hierbei wird eine intelligente Videoanalyse wie das Erkennen von Verhaltensmustern oder von herrenlosen Gepäckstücken erprobt.88 In Hinblick auf den behördlichen Entscheidungsprozess unterstützt die intelligente Videoüberwachung bei der Frage, ob die Behörde tätig werden soll oder nicht. Identifiziert das System eine gesuchte Person oder ein Verhaltensmuster, das auf eine Straftat hindeutet, so lautet der Entscheidungsvorschlag des Systems bezogen auf das Entschließungsermessen – sofern vorhanden, dass die Behörde tätig werden soll. Dies bedeutet, dass das System der Verwaltung unmittelbar zur Konkretisierung der Rechtsfolge im Rahmen des Ermessens dient.89
Vollends entscheidende KI-basierte Systeme sind in der Verwaltung bislang nicht anzutreffen, wobei hierfür beispielsweise in der schleswig-holsteinischen Verwaltung bereits normative Regelungen geschaffen wurden.90 Im Übrigen ist die Frage nach dem Einsatz entscheidender KI-basierter Systeme in der Verwaltung abhängig von den konkreten technischen Ausgestaltungen. So existieren neben den grundsätzlichen Regelungen wie § 35a VwVfG, der einen automatisierten Erlass eines Verwaltungsaktes zulässt, oder Anwendungen im Sinne des ITEG SH ebenso fachgesetzliche Normen wie § 3a BRKG, wonach der automatisierte Erlass von Bescheiden über die Reisekostenvergütung geregelt wird.
Der Berliner Senat lässt in der Beantwortung einer parlamentarischen Anfrage erkennen, dass Interesse besteht, bestimmte Verwaltungsleistungen von einem KI-System erbringen zu lassen. Als Beispiel verweist der Berliner Senat auf die schwedische Stadt Trelleborg, die Sozialleistungen automatisiert und teilweise ohne menschliches Zutun bearbeitet und auszahlt.91
3.2 Entscheidende und entscheidungsunterstützende Systeme
Aus den vorgenannten Nutzungsszenarien ist ersichtlich, dass ein kennzeichnender Unterschied innerhalb von KI-Systemen in der Verwaltung der Grad der Finalität der Entscheidung sein könnte. So wird im Hinblick auf das Außenverhältnis der Verwaltung zu unterscheiden sein, ob ein KI-System entscheidungsunterstützend wirkt oder selbst – autonom – entscheidet.92 Bezogen auf intelligente Systeme wird dieser Aspekt auch unter dem Terminus Automatisierungsgrad oder -stufen eines Systems erfasst.93
Die grundlegende Klassifizierung von Automatisierungsstufen dürfte die Industrienorm J3016 zum automatisierten Fahren geprägt haben, die sechs Stufen unterscheidet – angefangen bei keiner Automatisierung bis hin zur Vollautomatisierung.94
Bezogen auf den Grad der Entscheidungsautonomie von KI-Systemen im Allgemeinen wird ein abgeleitetes Modell verwendet.95 Maßgeblich bei diesen Klassifizierungsansätzen ist die Frage, inwieweit der Mensch bei den Entscheidungen noch tätig werden muss oder einbezogen wird.96 Die zentralen Fragen sind, ob ein System autonom entscheidet und falls nicht, welche Rolle der Mensch bei der Entscheidung einnimmt (Tabelle 3.1).
Tabelle 3.1
Grad der Entscheidungsautomation nach DFKI/Bitkom und Kreutzer/Sirrenberg
Stufe
Grad der Entscheidungsautomation
Stufe 0
Mensch entscheidet
Stufe 1
assistiertes Entscheiden
Stufe 2
teilweise Entscheiden
Stufe 3
geprüftes Entscheiden
Stufe 4
delegiertes Entscheiden
Stufe 5
autonomes Entscheiden
In Hinblick auf Verwaltungsverfahren würden Systeme der Stufe 4 eine Verwaltungsleistung autonom erbringen. Dies könnten beispielsweise Verwaltungsakte sein, die autonom und ohne menschliches Zutun erlassen werden – sei es aufgrund eines Antrags oder von Amts wegen.
Die Datenethikkommission der Bundesregierung nimmt eine Dreiteilung in der Systematisierung vor. Sie unterscheidet zwischen algorithmenbasierte, -getriebene und -determinierte Entscheidungen. Algorithmenbasierte Entscheidungen sind menschliche Entscheidungen, die sich auf algorithmisch berechnete (Teil-)Informationen stützen.97 Hierbei ist es möglich, dass den Anwendern nicht stets bewusst sein muss, dass die Entscheidung durch das System beeinflusst wurde. Dennoch prägt es die Entscheidung nicht derart stark, dass andere Entscheidungsmöglichkeiten dem Grunde nach ausscheiden.98
Die algorithmengetriebenen Entscheidungen sind menschliche Entscheidungen, die durch die Ergebnisse algorithmischer Systeme in einer Weise geprägt werden, dass der tatsächliche Entscheidungsspielraum und damit die Selbstbestimmung des Menschen eingeschränkt werden, insbesondere, weil sich die Entscheidung nur in algorithmisch ermittelten und vorgegebenen Bahnen bewegen kann.99 Der Entscheidungsrahmen für die menschliche Entscheidung wird folglich erheblich eingeschränkt.
Algorithmendeterminierte Entscheidungen sind vom System autonom getroffene Entscheidungen, bei denen kein menschliches Zutun erfolgt.100
Lucke/Etscheid systematisieren den Automatisierungsgrad in drei Klassen: Entscheidungsunterstützung, Entscheidungsautomatisierung und Echtzeit-Entscheidungs-automatisierung.101 Die Klasse der Entscheidungsunterstützung ist mit den algorithmengetriebenen Entscheidungen gleichzusetzen. Unter Entscheidungsautomatisierung verstehen Lucke/Etscheid vollautomatisierte Verwaltungsentscheidungen, die sich gegenwärtig auf gebundene Entscheidungen ohne Beurteilungsspielraum beziehen. Die Echtzeit-Entscheidungsautomatisierung unterscheidet sich zur vorgenannten Entscheidungsautomatisierung, als dass hierunter Sachverhalte subsumiert werden, in denen KI-Systeme autonom agieren könnten und die über die Kategorie der gebundenen Verwaltungsentscheidungen ohne Beurteilungsspielraum hinaus gehen. Dies könnten insbesondere Fälle im Rahmen des schlichten Verwaltungshandelns oder des staatlichen Informationswesens sein.102
Der schleswig-holsteinische Gesetzgeber hat nach § 3 Abs. 2 ITEG SH ebenfalls eine dreigliedrige Systematisierung von KI-Systemen in der Verwaltung vorgenommen. Hiernach sind der Stufe 1 Assistenzsysteme, der Stufe 2 auf KI-Systeme delegierte Entscheidungen und der Stufe 3 von KI-Systemen getroffene, autonome Entscheidungen zugeordnet.103 Schleswig-Holstein orientiert sich dabei an der oben genannten Industrienorm J3016 zum autonomen Fahren sowie an dem Risikopotenzial der KI-Systeme.104 Eine vergleichbare Einteilung nimmt auch Maamar vor, der zunächst in computergestützte, -assistierte und -generierte Schöpfungen einteilt,105 wobei letztere Kategorie wiederum in teilautonomen (Stufe 1), hochautonome (Stufe 2) und vollautonome (Stufe 3) KI-Systeme systematisiert werden kann.106
Schlussendlich bilden die unterschiedlichen Kategorisierungsansätze ab, von wem eine Aufgabe erledigt wird und welche Rolle der Mensch bei einer Entscheidung hat. Für die vorliegende Untersuchung ist es zunächst zweckdienlich zwischen entscheidenden und entscheidungsunterstützenden Systemen zu differenzieren (Abbildung 3.1).107 Entscheidende KI-Systeme agieren autonom. Ein menschliches Zutun ist bei einzelnen Entscheidungen nicht erforderlich. Bei entscheidungsunterstützenden KI-Systemen hingegen nimmt der Mensch weiterhin eine zentrale Rolle ein. Er muss zumindest in der letzten Phase des Entscheidungsprozesses tätig werden. Bezogen auf das Modell nach Kreutzer/Sirrenberg sind die Stufen 1 bis 3 der Entscheidungsunterstützung zuzuordnen und die Stufen 4 und 5 dem entscheidenden System. Denn die Stufe 4 – delegiertes Entscheiden – sieht vor, dass Aufgaben vom Menschen auf KI-Systeme verlagert werden und diese sodann eigenständig entscheiden.108
Jedoch sollte innerhalb der entscheidungsunterstützenden KI-Systemen weiter differenziert werden. Denn es dürfte einen bedeutenden Unterschied machen, inwieweit eine Verwaltungsentscheidung von einem entscheidungsunterstützenden System geprägt oder gar vorgegeben wird.109 Bei der Betrachtung der oben genannten Beispielanwendungen fällt auf, dass die Entscheidungsindizierung unterschiedlich stark ausgeprägt sein kann. Zu bemerken ist an dieser Stelle, dass die Indizierung einer Entscheidung und demnach auch die Frage, ob ein System tatsächlich lediglich entscheidungsunterstützend wirkt, in der Verwaltungspraxis diffizil sein dürfte. Dies ist darauf zurückzuführen, dass unterschiedliche Aspekte die Entscheidungen von Verwaltungsbeschäftigten beeinflussen können.110 Zum Beispiel ist daran zu denken, inwieweit sich ein Verwaltungsbeschäftigter an eine vorgeschlagene Entscheidung gebunden fühlt, inwieweit ein Verwaltungsbeschäftigter seine Kompetenzen einschätzt oder vor allem, ob sich ein Verwaltungsbeschäftigter über die Schwächen von KI-Systemen bewusst und mit der Funktionsweise vertraut ist.111 Selbst wenn dies gegeben ist, kann bei den Verwaltungsbeschäftigten ein fehlerhafter Bindungseffekt an den KI-generierten Entscheidungsvorschlägen vorliegen.112 Tischbirek spricht von einer schlichten Zertifizierung der KI-generierten Empfehlung, wobei die menschliche Zertifizierung durch verschiedene Faktoren konterkariert werden kann.113 Bezogen auf die vorgenannte Definition von Kreutzer/Sirrenberg zu Systemen der Stufe 4 ist das Wort „eigenständig“ zu reflektieren. So könnte es entscheidungsunterstützende Systeme geben, die jedoch so weit die Entscheidung vorgeben oder prägen, dass sie letztendlich auch als quasi-entscheidende Systeme eingeordnet werden können. Dies könnte dazu führen, dass gerade keine eigenständige Entscheidung eines Menschen vorliegt.114 Dieses Abgrenzungsproblem könnte daneben ebenso bei Systemen der Stufe 1 – Assistenzsysteme – gemäß § 3 Abs. 2 Nr. 1 ITEG SH auftreten. Ob ein Verwaltungsbeschäftigter einen Verwaltungsakt erlässt – ohne dabei die inhaltliche Regelung zu entwerfen oder kritisch zu überprüfen – oder der Verwaltungsakt direkt von einem KI-System erlassen wird, dürfte qualitativ nur einen unwesentlichen Unterschied machen.
Zusammengefasst ist festzustellen, dass insbesondere entscheidungsunterstützende Systeme einer näheren Überprüfung und Einordnung ausgehend sowohl von der prozessualen Einbindung als auch von der praktischen Verwendung unterzogen werden müssen. Im Zweifel könnten entscheidungsunterstützende Systeme, die wie entscheidende Systeme wirken, mit entscheidenden Systemen rechtlich gleichzusetzen sein.
3.3 Zukunftsszenario für KI-Einsatz
Im Rahmen der Entwicklungsfortschritte und der gegenwärtigen medialen Omnipräsenz von KI-Systemen ist anzunehmen, dass KI-Systeme über die vorgenannten Beispiele hinaus Einzug in die Verwaltung erhalten. So dürften sie zunehmend als entscheidende Systeme mit einem hohen Grad an Autonomie und Finalität in der Sache eingesetzt werden. Aus der rechtlichen Perspektive heraus ist dies insbesondere im Bereich der Verwaltungsentscheidungen von Interesse. Daneben dürfte jedoch auch ein autonomer Einsatz in den anderen oben beschriebenen Handlungsdimensionen stattfinden – zu denken ist an das schlichte Verwaltungshandeln. Bei den Verwaltungsentscheidungen ist es vorstellbar, dass hier in Bälde Verfahren etabliert werden (sollen), in denen kein menschliches Zutun oder menschliche Eingriffe erforderlich sind.
Die juristische Betrachtung an dieser Stelle außer Betracht lassend, kann ein solcher Einsatz die in Abschnitt 2.3 herausgearbeiteten Potenziale und Chancen maßgeblich fördern und verwirklichen. Für die Verwaltung eröffnen KI-Systeme eine Vielzahl von Möglichkeiten. Als Expertensysteme können sie auf umfangreiche Daten und Informationen zurückgreifen, um komplexe Fragestellungen effektiv und effizient zu bearbeiten. Dies ermöglicht eine schnellere und genauere Beurteilung von Sachverhalten. Ebenso ist es denkbar, dass Verwaltungsentscheidungen gleichförmiger werden und nicht von der individuellen Konstitution eines Bearbeiters abhängig sind, was zu einer höheren Rechtssicherheit und Gerechtigkeit führen kann. Entscheidungsprozesse werden standardisiert und transparent, was die Verwaltung von der Willkür menschlicher Beurteilungen befreit und das Vertrauen der Bürger in die Verwaltung stärkt. Durch die Automatisierung von Routineaufgaben wird zudem die Effizienz gesteigert, wodurch die Verwaltung mehr Zeit und Ressourcen für anspruchsvollere Aufgaben hat. Dies führt zu einer verbesserten Ressourcenschonung und einer effektiveren Nutzung des Verwaltungsapparats.
Für die Bürger und sonstigen Adressaten können sich ebenfalls erhebliche Vorteile durch den Einsatz von entscheidenden und autonom agierenden KI-Systemen im Bereich der Verwaltungsentscheidungen ergeben. Durch den Zugang zu KI-gestützten Verwaltungsdienstleistungen können Bürger effizient und unkompliziert Anträge stellen, Informationen erhalten und mit der Verwaltung interagieren. Mit Blick auf den Abschnitt 2.2 ist es vorstellbar, dass die Verwaltung wieder vermehrt in der Fläche präsent sein könnte. Zwar nicht durch menschliche Bearbeiter und klassische Verwaltungsstandorte, aber beispielsweise durch humanoide Roboter, die als Anlaufstelle fungieren könnten. So bräuchte es nicht die verschiedenen fachlich zuständigen Ämter mit ihren Beschäftigten in jedem Bereich ihrer örtlichen Zuständigkeit – was bereits heute nicht mehr gegeben und finanziell sowie personell leistbar ist. Diese Rolle könnte ein humanoider Verwaltungsroboter übernehmen, der in einer Allzuständigkeit in jedem Ortsteil für die Bürger zur Verfügung stehen könnte. Dadurch wird jede Verwaltungsdienstleistung flächendeckend, barrierefrei und mit einer geringen Hemmschwelle angeboten, da jeder Bürger einen einfachen Zugang zu den Dienstleistungen der Verwaltung erhält – unabhängig von Wohnort, Mobilität oder Berührungsängsten zum Verwaltungsapparat. Die Bearbeitungszeiten von Anträgen werden verkürzt, wodurch sich für die Bürger eine höhere Servicequalität und eine schnellere Reaktion auf ihre Anliegen ergibt. Die KI-Systeme können zudem die Verwaltungsdienstleistungen individualisieren und auf die Bedürfnisse jedes Einzelnen zuschneiden, was zu einer höheren (Kunden-)Zufriedenheit führen kann.
Open Access Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Die genannten public value-Faktoren entstammen einer Übersichtsarbeit zum Thema public value; siehe Twizeyimana/Andersson, Government Information Quarterly 36 (2019), 167 (170 ff); Die Tendenz der Werte wird durch eine Befragung bezogen auf die deutsche Verwaltung bestätigt. Hier geben die Befragten an, dass mit neuen Technologien, unter denen Künstliche Intelligenz subsumiert wird, eine Steigerung der Effizienz der Leistungserbringung, eine Reduzierung von Kosten für Verwaltungsdienstleistungen und eine Steigerung der Qualität der Leistungserbringung einhergeht. Bei einzelnen Aspekten wie beispielsweise dem Wohlbefinden ergibt sich aus der Befragung kein signifikanter Wert; siehe Fischer/Willems/van Bergh, VM 2021, 59 (62).
Zu konstatieren ist, dass gegenwärtig nur eine begrenzte Anzahl an KI-Systemen, die unter die Definition der vorliegenden Arbeit fallen, in der Verwaltung eingesetzt wird. Häufig ist zwar der Terminus Künstliche Intelligenz in Verbindung mit Digitalisierungsvorhaben in der Verwaltung anzutreffen, oftmals handelt es sich jedoch um deterministische Systeme, die folglich nicht lernfähig sind. Siehe hierzu auch Wischmeyer in: Ebers/Heinze/Krügel/Steinrötter/Beck: Künstliche Intelligenz und Robotik, § 20 Rn. 4.
Maurer/Waldhoff: Allgemeines Verwaltungsrecht, 3. Teil; Schmidt: Allgemeines Verwaltungsrecht, Kap. 10 Rn. 345; Pautsch in: Pautsch/Hoffmann: VwVfG, § 1 VwVfG Rn. 24 ff; Raap: Leitfaden des öffentlichen Rechts, Kap. F Rn. 122; Bull/Mehde: Allgemeines Verwaltungsrecht mit Verwaltungslehre, § 7 Rn. 263; Ipsen: Allgemeines Verwaltungsrecht, Abschnitt 2 Rn. 285 ff m.w.N; Erbguth/Guckelberger: Allgemeines Verwaltungsrecht, § 11 Rn. 1 ff; Eine abstraktere Einteilung kann vorgenommen werden, wenn die unterschiedlichen Aspekte einer Handlung differenziert werden. So kann das Verwaltungshandeln insofern unterschieden werden, ob ein öffentlich-rechtliches oder privatrechtliches, rechtliches oder faktisches, imperatives oder kooperatives, formales oder informales, externes oder internes Handeln oder ob ein Einzelakt oder ein Rechtsetzungsakt vorliegt; siehe Schoch in: Schoch/Schneider: Verwaltungsrecht – VwVfG, § 1 Rn. 55; Remmert unterscheidet zwischen dem faktischen Handeln der Verwaltung und Verwaltungsentscheidungen, indem sie bei den Entscheidungen herausstellt, dass hier lediglich ein Entschluss vorliegt, der zunächst und unmittelbar nichts an der Wirklichkeit ändert; siehe Remmert in: Ehlers/Pünder: Allgemeines Verwaltungsrecht, § 17 Rn. 1.
Diese Herangehensweise impliziert eine Folgenzentriertheit des Verwaltungshandelns und ist verwaltungsrechtswissenschaftlich der Lehre von den Rechtsformen zuzuordnen; siehe Schulte: Schlichtes Verwaltungshandeln, S. 189 ff; Ipsen: Allgemeines Verwaltungsrecht, Abschnitt 2 Rn. 285.
Dies ist eine weite Betrachtung. Eine engere Perspektive vermittelt, dass lediglich das Verwaltungsverfahren der Vorbereitung einer Verwaltungsentscheidung im Sinne des VwVfG dient; siehe Schwarz in: Fehling/Kastner/Störmer: Verwaltungsrecht, § 9 VwVfG Rn. 42 ff. Diese Perspektive lässt jedoch außer Betracht, dass andere Verwaltungstätigkeiten wie schlichtes oder rein internes Verwaltungshandeln eine spätere Entscheidung maßgeblich determinieren können.
Das verwaltungsinterne Handeln bezieht sich vielmehr auf Entscheidungen, die vorwiegend die Ressourcen und Prozesse der Verwaltung selbst betreffen; siehe hierzu Bull/Mehde: Allgemeines Verwaltungsrecht mit Verwaltungslehre, § 13 Rn. 470; Hufen/Siegel: Fehler im Verwaltungsverfahren, Teil 3 Rn. 783; Schwarz in: Fehling/Kastner/Störmer: Verwaltungsrecht, § 35 VwVfG Rn. 105.
So wären zwar noch weitere rechtliche Rahmenbedingungen wie haushaltsrechtliche Erwägungen zu berücksichtigen, jedoch könnten andere – grundrechtsgetriebene – Aspekte nicht ausschlaggebend sein. Diese sind vielmehr im Außenverhältnis von Bedeutung. So befreit zum einen eine Handlungsform der Verwaltung, die keinen Rechtsakt darstellt, nicht von der unmittelbaren Wirkung der Grundrechte. Zum anderen sind insbesondere die Grundrechte und andere verfassungsmäßige Grundentscheidungen im Außenverhältnis relevant, weil hier aus der Natur der Sache heraus die Verwaltung mit den Bürgern in Berührung kommt. So dürfte beispielsweise der Gleichbehandlungsgrundsatz stets eine zentrale Rolle einnehmen; siehe Boysen in: Münch/Kunig: Grundgesetz, Art. 3 Rn. 45.
Andere Ansicht: Ipsen erscheint es nicht sinnvoll, das nichtförmliche Verwaltungshandeln nach der Außen- und Innenwirkung einzuteilen. Dies wird im Sinne des Ansatzes der Folgenzentriertheit begründet; siehe Ipsen: Allgemeines Verwaltungsrecht, § 13 Rn. 837.
In diesem Sinne nehmen Lucke und Etscheid eine Unterscheidung beim Einsatz von KI-Systemen in Front-Office und Back-Office vor, wobei das Back-Office die verwaltungsinternen Prozesse adressiert; siehe Lucke/Etscheid, HMD 2020, 60 (64 ff).
Das Land Baden-Württemberg projektiert den Einsatz KI-basierter Assistenzsysteme im Justizbereich, um insbesondere fremdsprachige Dokumente im Arbeitsalltag zu übersetzen; siehe Ministerium des Inneren, für Digitalisierung und Kommunen, https://www.digital-bw.de/-/intelligente-assistenzsysteme, zuletzt geprüft am 01.10.2021; Das Bundessprachenamt gibt ebenfalls an, ein KI-System als Übersetzungshilfe zu nutzen; siehe BT-Drucksache 20/430, S. 11.
IntraFind Software AG, https://intrafind.com/sites/default/files/2020-10/IntraFind_Kundenreferenz_NOW-IT-DE.pdf, zuletzt geprüft am 31.08.2023; Einen ähnlichen Ansatz verfolgt der Hamburger Senat. Dieser pilotiert ein KI-basiertes System zur Repräsentation von Informationen, die aus den elektronischen Akten generiert werden; siehe LT-HH-Drucksache 21/16288, S. 4 f; Das Bundesministerium für Arbeit und Soziales setzt ebenfalls eine KI-basierte Suche für interne Zwecke ein; siehe BT-Drucksache 20/430, S. 11.
iFinder basiert auf einem Natural-Language-Processing-Modell. Dabei können Daten und Informationen aus verschiedenen Programmen verwendet werden, die in unterschiedlichen Dateiformaten gesichert sind oder aber auch lediglich unstrukturiert vorliegen; siehe IntraFind Software AG, https://intrafind.com/de/ifinder, zuletzt geprüft am 07.11.2021.
Das Bundesamt für Sicherheit in der Informationstechnik setzt beispielsweise KI-Systeme zur Abwehr von Schadprogrammen und Gefahren für die Kommunikationstechnik des Bundes ein; siehe BT-Drucksache 20/430, S. 14.
Je nachdem wie das Eingreifen der Justizbeschäftigten im konkreten Einzelfall rechtlich zu qualifizieren ist – schlichtes Verwaltungshandeln oder Verwaltungsakt –, ist es der vorliegenden Kategorie oder der nachfolgenden Kategorie der Verwaltungsentscheidungen zuzuordnen.
Bewerbungsprozesse, Analysen von Bewerbern oder Beschäftigten oder Analysen bezogen auf die Organisation wie Fluktuationsprognosen oder -gründe könnten durch KI-Systeme abgebildet werden; siehe Huff/Götz, NZA 2019, 73 (73 ff); BT-Drucksache 19/23700, S. 330 ff; Lorse, NVwZ 2021, 1657 (1660 f); Freyler, NZA 2020, 284 (285); Knobloch/Hustedt, https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/SNV_Robo_Recruiting_final.pdf, S. 10 ff, zuletzt geprüft am 31.08.2023; Ebenso ist im Polizeibereich vorstellbar, dass Teile des Recruiting-Prozesses durch oder mithilfe von KI-Systeme durchgeführt werden; siehe Thomas in: Arzt/Hirschmann/Hunold/Lüders/Meißelbach/Schöne/Sticher: Perspektiven der Polizeiforschung – 1. Nachwuchstagung Empirische Polizeiforschung 4./5. März 2021, S. 275 ff; Eine empirische Untersuchung zum Einsatz im Polizeibereich siehe Abendschein, Thomas in: Ritsert/Vera: Change und Innovation in der Polizei, 132 ff; Zu den allgemeinen Einsatzmöglichkeiten im Recruitingprozess siehe Hoffmann, NZA 2022, 19 (20).
Eine Maßnahme, die unmittelbar auf einen Rechtserfolg gerichtet ist, ist der Verwaltungsakt. Die rechtssetzende Tätigkeit der Verwaltung – wie beispielsweise der Erlass einer Rechtsverordnung oder Satzung – wird hingegen als das mittelbare Abzielen auf einen Rechtserfolg in Hinblick auf die einzelne Maßnahme zu bezeichnen sein.
Bei dem sprachbiometrischen Assistenzsystem des Bundesamtes für Migration und Flüchtlinge ist aus den zur Verfügung stehenden Quellen nicht eindeutig, ob es sich um ein KI-System im Sinne der vorliegend verwendeten Definition handelt.
Bei den beiden vorgenannten Systemen der Bundesagentur für Arbeit ist nicht eindeutig, ob es sich um deterministische Systeme handelt oder ob sie unter KI-Systeme – nach der vorliegend verwendeten Definition – subsumiert werden.
Die baden-württembergische und bayerische Polizei pilotierten beispielsweise das Predictive Policing-System PRECOBS. Sowohl das Land Bayern als auch das Land Baden-Württemberg haben letztlich von einer Etablierung des Systems Abstand genommen. Bei einer genaueren Betrachtung des Systems PRECOBS ist daneben festzustellen, dass dieses nicht unter die KI-Definition fällt, die in der vorliegenden Arbeit verwendet wird. Grund dafür ist, dass es sich hierbei zwar um eine komplexe Anwendung handelt, die in Echtzeit große Datenmengen verarbeiten kann und Prognosen liefert, die das polizeiliche Handeln bestimmen, die Grundlage des Systems jedoch deterministische Algorithmen sind; siehe Gerstner: Predictive Policing als Instrument zur Prävention von Wohnungseinbruchdiebstahl, S. 19 f; Polizei Bayern, https://www.polizei.bayern.de/aktuelles/pressemitteilungen/018804/index.html, zuletzt geprüft am 01.11.2021; Ebenso basiert das in der Finanzverwaltung eingesetzte System RMS-Bp zur Identifizierung risikobehafteter Fälle auf deterministische Algorithmen und fällt somit nicht unter die vorliegend verwendete Definition; siehe Schmidt, BB, 1047 (1048); In der schleswig-holsteinischen Polizei wird neben dem Einsatz von KI-Systemen im Bereich der Kinderpornografie ebenfalls ein Einsatz im Rahmen von Predictive-Policing-Anwendungen avisiert; siehe Wulf, Lübecker Nachrichten 2021 (28.12.2021), S. 6.
Das System hessenDATA basiert auf dem KI-System Gotham; siehe LT-HE-Drucksache 19/6864, S. 17 ff; Aus einer Antwort des Berliner Senats auf eine parlamentarische Anfrage lässt sich schließen, dass auch das Land Berlin die Einführung eines funktional vergleichbaren Systems prüft oder avisiert; siehe LT-BE-Drucksache 18/18008, S. 2.
Das KI-basierte System soll auf einem Natural-Language-Processing-Modell basieren; siehe Carl von Ossietzky Universität Oldenburg, https://tadea-ol.de/, zuletzt geprüft am 07.11.2021; Carl von Ossietzky Universität Oldenburg, https://uol.de/vlba/projekte/tadea, zuletzt geprüft am 07.11.2021; Das Projekt scheint erfolgreich zu laufen. In einer Zwischeninformation wird dargestellt, dass an der Produktivsetzung für die gesamte Steuerverwaltung im Land Niedersachsen gearbeitet wird, siehe Carl von Ossietzky Universität Oldenburg, https://tadea-ol.de/2023/07/11/quartalsmeeting-12-04-2023-2/, zuletzt geprüft am 31.08.2023.
Diese Unterscheidung führt beispielsweise auch Werthmann in Bezug auf Legal Tech-Anwendungen an; siehe Werthmann in: Ebers/Heinze/Krügel/Steinrötter/Beck: Künstliche Intelligenz und Robotik, § 22 Rn. 104.
Kreutzer/Sirrenberg: Künstliche Intelligenz verstehen, S. 13; Auth, Jöhnk, Wiecha in: Barton/Müller: Künstliche Intelligenz in der Anwendung, S. 166; LT-SH-Drucksache 19/3267, S. 145.
So auch Martini/Ruschemeier/Hain, VerwArch 2021, 1 (13 ff); Ebenso zeigt eine Antwort der Bundesregierung auf eine Kleine Anfrage, dass eine Unterscheidung zwischen Entscheidungsunterstützung und entscheidende KI-Systeme praktisch relevant ist; siehe BT-Drucksache 20/430, S. 5 ff.
Systeme beziehungsweise Algorithmen können staatliche Prozesse steuern und Entscheidungen in eine bestimmte Richtung lenken – und zwar bevor der eigentliche – menschliche –Entscheidungsprozess beginnt. So beeinflussen bereits Auswahl und Aufbereitung von Daten die spätere Entscheidung; siehe hierzu auch Boehme-Neßler, GewArch 2019, 129 (129).
Beispielhaft ist hier ein Vorgang aus der Steuerverwaltung zu nennen. Vor Gericht wurde unter anderem die Frage behandelt, ob sich eine Sachbearbeitung bei einer Ermessensentscheidung, die durch ein automatisiertes Programm vorbereitet wird, an den Vorschlag des Programms gebunden fühlt. Dies fokussiert die Frage, ob Verwaltungsbeschäftigte automatisierte Entscheidungsvorschläge überhaupt hinterfragen – sei es, ob sie sich daran gebunden fühlen oder sich nicht in der Lage sehen, diese nachzuvollziehen; siehe beispielsweise FG Düsseldorf, Urt. v. 29.03.2000 – 2 K 407/98, DStRE 2001, 212, 213; Zum ungeprüften Übernehmen von Entscheidungsvorschlägen siehe auch Enders, JA 2018, 721 (723); Winkelmann, LTZ 2022, 163 (165).
Tischbirek nennt beispielsweise die unzureichende Personalausstattung, den erheblichen Ressourcenaufwand für das Nachvollziehen der KI-Empfehlung oder schlicht die menschliche Trägheit; siehe Tischbirek, ZfDR 2021, 307 (317).
