Künstliche Intelligenz (KI) ist eine Technologie, die immer mehr Anwendungsbereiche erobert und auch in der öffentlichen Verwaltung eingesetzt wird. Dabei stellt sich die Frage, wie KI-basierte Verwaltungsentscheidungen mit den Anforderungen des Verwaltungsrechts vereinbar sind. Diese Arbeit untersucht die rechtlichen Rahmenbedingungen und Herausforderungen für den Einsatz von KI in der Verwaltung aus verwaltungsrechtlicher Perspektive. Dabei werden folgende Aspekte beleuchtet: die Definition und Typologie von KI, die möglichen Einsatzfelder und Ziele von KI in der Verwaltung, die rechtlichen Grundlagen und Grenzen für den Einsatz von KI in der Verwaltung, die Rechtsschutzmöglichkeiten und -probleme bei KI-basierten Verwaltungsentscheidungen sowie die ethischen und gesellschaftlichen Implikationen von KI in der Verwaltung. Die Arbeit verfolgt das Ziel, einen Überblick über den aktuellen Stand und die Perspektiven der KI in der Verwaltung zu geben und einen Beitrag zur rechtswissenschaftlichen Diskussion über die Chancen und Risiken von KI für das Verwaltungsrecht zu leisten.1
1.1 Hintergrund und Forschungsfrage
Die vorgenannte KI-generierte Einleitung, die lediglich mit der Anweisung „Eine Einleitung für eine wissenschaftliche Arbeit zum Thema Einsatz von Künstlicher Intelligenz für Verwaltungsentscheidungen aus verwaltungsrechtlicher Perspektive“ erzeugt wurde, gibt einen Eindruck von der zu bearbeitenden Forschungsfrage. Gleichzeitig lässt dieses beliebige Beispiel erahnen, welche Möglichkeiten KI-Modelle bieten – auch wenn die generierte Einleitung nicht gänzlich passfähig zur vorliegenden Arbeit ist. Künstliche Intelligenz, Deep Learning, Neuronale Netze, maschinelles Lernen, Algorithmen und die daraus erwachsenen Möglichkeiten wie der Einsatz von KI-Systemen mit dem Ziel vollautomatisierter Verwaltungsentscheidungen oder zumindest einer Entscheidungsunterstützung in der öffentlichen Verwaltung werden gegenwärtig prominent in Gesellschaft, Politik, Verwaltung und Wissenschaft diskutiert und verhandelt. Generative KI-Modelle wie ChatGPT fördern nicht nur die mediale Sichtbarkeit2 und Wahrnehmung des Forschungsbereichs der Künstlichen Intelligenz, sondern führen mehr oder weniger zwangsläufig zu Fragen über den Einsatz solcher Systeme in verschiedenen Gesellschaftsbereichen – unter anderem der öffentlichen Verwaltung.
Anzeige
Die gesellschaftliche Relevanz und Wichtigkeit der Thematik dürfte beispielsweise durch die Stellungnahme des Deutschen Ethikrates zu den Herausforderungen aus dem Fortschritt der Künstlichen Intelligenz3 oder durch die Einsetzung der Enquete-Kommission „Künstliche Intelligenz“ des Deutschen Bundestags belegt sein. Aufgrund der Bedeutung für die öffentliche Verwaltung hat sich eine der sechs Projektgruppen der Enquete-Kommission mit dem Bereich „Künstliche Intelligenz und Staat“ (Projektgruppe 2) beschäftigt.4 Ebenso ist in der Exekutiven ein solcher Trend erkennbar – so richten die Bundes- und Landesregierungen vermehrt Organisationseinheiten für Künstliche Intelligenz ein5 und verfassen KI-Strategiepapiere, die unter anderem den Einsatz von KI in der Verwaltung betrachten oder konkrete Anwendungen entwickeln.
Dennoch ist zu konstatieren, dass das Thema der Verwaltungsautomatisation nicht gänzlich neu ist und durchaus auf eine lange Geschichte in der Bundesrepublik zurückblicken kann. So beschäftigten sich verschiedene gesellschaftliche Akteure – insbesondere auch die Rechts- und Verwaltungswissenschaften – bereits in der Vergangenheit mit diesem Thema.6
Die Möglichkeiten und Fähigkeiten disruptiver Technologien regen die Diskussion um die Modernisierung der öffentlichen Verwaltung mithilfe von KI-Systemen immer mehr an. So wird auf die Potenziale und Chancen von Künstlicher Intelligenz verwiesen und die Vorteile aufgezeigt. Teilweise scheint der Einsatz Künstlicher Intelligenz die Lösung vieler Probleme und Herausforderungen der öffentlichen Verwaltung zu sein. Der Einsatz wird nicht nur bei Verwaltungsentscheidungen selbst gesehen, sondern auch bei schlichtem Verwaltungshandeln wie der Kommunikation mit den Bürgern oder beim bloßen verwaltungsinternen Handeln.
Wenngleich die rechtliche Betrachtung der Thematik ein äußerst relevanter Faktor für einen avisierten Einsatz in der öffentlichen Verwaltung ist, scheinen die rechtlichen Implikationen und Rahmenbedingungen für den Einsatz von entscheidenden KI-Systemen ein noch unterrepräsentiertes Feld in der wissenschaftlichen Bearbeitung zu sein. Insbesondere verwaltungswissenschaftliche Abhandlungen stellen primär auf die Potenziale und Chancen des Einsatzes von KI-Systemen in der Verwaltung ab, antizipieren die rechtlichen Rahmenbedingungen, Implikationen und Begrenzungen jedoch nicht umfassend. Die vorliegende Arbeit setzt an diesem Punkt an. Sie soll dabei nicht nur einen Beitrag zum juristischen Diskurs über den Einsatz von KI-Systemen in der Verwaltung leisten, sondern daneben eine Komplementierung und Hilfestellung für die verwaltungswissenschaftliche Forschung und die anwendungsorientierten Überlegungen sein. In der anzufertigenden Arbeit ist daher die Frage zu untersuchen, ob der Einsatz von entscheidenden Systemen auf Basis von Technologien der Künstlichen Intelligenz in der öffentlichen Verwaltung rechtlich möglich ist.
Anzeige
Ziel ist es, aus der Bearbeitung dieser Thematik – neben dem Fortgang des wissenschaftlichen Diskurses – einen Beitrag für die gesellschaftliche Diskussion und praktische Anwendung zu liefern. Der öffentlichen Verwaltung insgesamt und den Entscheidungsträgern im Besonderen, soll mit dieser Arbeit die Möglichkeit eröffnet werden, sich einen Überblick zu den rechtlichen Implikationen eines Einsatzes von KI-Systemen in der öffentlichen Verwaltung zu verschaffen.
Da bereits Regelungen wie § 35a VwVfG, § 31a SGB X oder § 155 Abs. 4 S. 1 AO bestehen,7 die explizit einen automatisierten Verwaltungsakt zulassen, ist fraglich, wo der konkrete Forschungsbedarf besteht. Die Forschungslücke für die vorliegende Arbeit orientiert sich an den oben genannten Regelungen. Denn die bestehenden Normen zielen auf Verwaltungsakte ab, bei denen weder Ermessen noch Beurteilungsspielräume eingeräumt sind und die explizit durch Rechtsvorschrift für einen automatisierten Erlass zugelassen sind. Ähnlich wie zu Zeiten von Polomski setzt dies einen eher geringen qualitativen Automatisierungscharakter voraus, der sich eher auf schlichte algorithmische Lösungen bezieht. Jedoch sind gegenwärtig selbstlernende KI-Systeme einsetzbar, die die Möglichkeit des Einsatzes von KI-Technologien über gebundene Entscheidungen hinaus faktisch möglich machen. Insofern wird sich das Bild von Automatisierung in der Verwaltung ändern. Bislang bezog sich Automatisierung in einem gewissen Grad auf Massenverfahren. Massenverfahren und automatisierte Entscheidungen sind und waren ein Gleichklang. Der Einsatz disruptiver Technik löst diesen Sachzusammenhang auf. Automatisierte Verwaltungsverfahren werden künftig nicht per se Massenverwaltungsverfahren sein, da KI-Modelle gerade in der Lage sind, komplexe und individuelle Fallkonstellationen zu bearbeiten.
Zwar wird aus den oben genannten Regelungen deutlich, dass ein final entscheidendes System die Ausnahme vom Regelfall darstellt, dem gesellschaftlichen und wissenschaftlichen Diskurs ist indessen zu entnehmen, dass der Einsatz von Künstlicher Intelligenz als Regelfall denkbar werden könnte. Bei den über die bestehenden Regelungen hinausgehenden Einsatzmöglichkeiten von KI-Systemen ist ein rechtswissenschaftlicher Forschungsbedarf festzustellen.
1.2 Gang der Untersuchung
Die Arbeit wird unter Verwendung von verschiedenen Rechtsquellen, der Rechtsprechung und der Literatur nach rechtswissenschaftlichen Methoden erstellt. Zunächst gilt es, im zweiten Kapitel den Terminus Künstliche Intelligenz zu untersuchen und einzuordnen. Künstliche Intelligenz wird in der Literatur vielfältig verwendet. Daher ist die Klärung des Begriffs für das Verständnis der anzufertigenden Arbeit und zur rechtlichen Würdigung elementar. Zunächst ist die technische Funktionsweise von KI-Systemen zu beleuchten – insbesondere der technische Aufbau von KI-Modellen und die einschlägigen Lernmethoden. Von besonderem Interesse wird sodann sein, wie die Begrifflichkeit Künstliche Intelligenz von den für die Forschungsfrage relevanten Akteuren – der Verwaltung, den Parlamenten und der Rechtswissenschaft – gegenwärtig definiert oder verstanden wird. Aus dieser übergreifenden Betrachtung ist ein Begriffsverständnis zu entwickeln, das der vorliegenden Arbeit zugrunde liegen wird.
Nach der technischen und begrifflichen Einordnung des Terminus Künstliche Intelligenz sind die damit verbundenen Potenziale und Chancen sowie die Risiken und Schwächen in den Blick zu nehmen. Insbesondere systemimmanente Risiken und Schwächen könnten für die rechtliche Bewertung von Relevanz sein.
Der konkrete Einsatz von KI-Systemen, sei es geplant oder bereits umgesetzt, ist im dritten Kapitel zu fokussieren. Hierbei ist eine exemplarische Bestandsaufnahme für die avisierte oder bereits vorliegende Nutzung von KI-Systemen in Reflexion der verschiedenen Handlungsformen der Verwaltung vorzunehmen. Dadurch kann ein Eindruck vermittelt werden, welche praktische Relevanz KI-Systeme haben und bekommen werden.
Das vierte Kapitel bildet den Kern der Arbeit. In diesem Kapitel ist zu untersuchen, ob der Einsatz von KI-Systemen in der öffentlichen Verwaltung rechtlich möglich ist und welche Implikationen damit verbunden sind. Es sind insbesondere der verwaltungsrechtliche Rahmen und die Entscheidungsarchitektur unter Berücksichtigung der verfassungsrechtlichen Grenzen für die Ausarbeitung von Bedeutung. Zur Klärung der Fragestellung bietet es sich an, zunächst die Struktur öffentlich-rechtlicher Normen in den Blick zu nehmen. Demnach ist zum einen die Rechtsfolgenseite und zum anderen die Tatbestandsseite zu betrachten. Auf der Rechtsfolgenseite wird es von Interesse sein, wie der Einsatz von KI-Systemen bezogen auf gebundene Entscheidungen und Ermessensentscheidungen rechtlich zu bewerten ist. Bei der Untersuchung der Tatbestandsseite ist zu klären, wie unbestimmte Rechtsbegriffe und Beurteilungsspielräume den Einsatz von KI-Systemen determinieren könnten.
Ferner sind im vierten Kapitel die maßgeblichen verfahrensrechtlichen Regelungen Gegenstand der Untersuchung. In Hinblick auf KI-Systeme ist zu prüfen, ob verwaltungsrechtliche Besonderheiten oder bestimmte verfahrensrechtliche Regelungen den Einsatz von KI-Systemen rechtlich verhindern. Hierbei ist insbesondere auf den verfassungsrechtlichen Hintergrund der jeweiligen Norm abzustellen und zu untersuchen, ob zum einen die Norm bei einem Einsatz von KI-Systemen anwendbar wäre und zum anderen, welche Auswirkung die jeweilige Norm auf den Einsatz von KI-Systemen hat. Zuletzt sind verwaltungsrechtliche Normen zu beleuchten, die explizit den Bereich der Verwaltungsautomatisation im weiteren Sinne regeln oder gegenwärtig in der Diskussion sind.
Eingekleidet wird die vorgenannte Untersuchung von den Grenzen, die das Verfassungsrecht setzt. Diese erstrecken sich im Wesentlichen auf grundrechtliche Erwägungen, den Funktionsvorbehalt und den Grundsatz der Gesetzmäßigkeit der Verwaltung.
Weitere und generelle Fragestellungen zur Künstlichen Intelligenz,8 wie beispielsweise die Haftung, sollen nicht Gegenstand der anzufertigenden Arbeit sein. Wenngleich die Haftung auch für die Verwaltung ein bedeutsames Thema in Hinblick auf Staatshaftung und KI-Systeme9 sein wird, ist dieser Bereich vorliegend nicht zu betrachten.
Open Access Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
