In Deutschland werden jedes Jahr Millionen Anträge auf Sozialleistungen gestellt. Anwendungen der Künstlichen Intelligenz bieten die Möglichkeit, die Mitarbeitenden in der Sozialverwaltung bei ihren Aufgaben zu unterstützen, die Prozessabläufe effizienter zu gestalten und die Bearbeitungszeiten zu verkürzen.
Die Stelle „Soziale Sicherung“ der kreisfreien niedersächsischen Stadt, die für die diesem Beitrag zugrunde liegende Bachelorarbeit betrachtet wurde, ist für die Bearbeitung und Gewährung der Grundsicherung im Alter und bei Erwerbsminderung sowie der Hilfe zum Lebensunterhalt nach Sozialgesetzbuch (SGB) XII zuständig. Der Ist-Prozess wurde in einem Interview mit der Leitung des Sachgebiets erfasst, das aus einer Infothek und mehreren Sachbearbeitenden besteht. Anschließend wurde ein Soll-Prozess unter Berücksichtigung von Technologien der Künstlichen Intelligenz (KI) entworfen, der im Folgenden vorgestellt wird.
Ein KI-Chatbot auf der Bürgerplattform der Stadt kann Hilfesuchenden die Möglichkeit bieten, zeit-, orts- und sprachunabhängig in natürlicher Sprache die grundlegenden Informationen zu den einzelnen Leistungen zu erhalten. Der Chatbot darf jedoch nicht als kompletter Beratungsersatz angesehen werden, denn es besteht eine Anfälligkeit für versteckte Eingaben mit manipulativer Absicht sowie die Gefahr, dass der Bot Inhalte erfindet.
Eine KI kann während der Beratung automatisch ein Gesprächsprotokoll erstellen und in Echtzeit übersetzen. Die Beratung würde dadurch effektiver, ihre Dauer würde sich verkürzen. Den Mitarbeitenden würden am Ende des Beratungsgesprächs die bereits automatisiert in die Fachanwendung eingetragenen und die fehlenden Informationen angezeigt, um sie zu überprüfen und gegebenenfalls zu ergänzen.
Anschließend könnte das KI-Entscheidungsunterstützungssystem den Sachverhalt anhand der Antragsunterlagen analysieren und die notwendigen Unterlagen, wie Rechtsprechungen oder interne Vorgaben, heraussuchen und aufbereiten. Die Sachbearbeitenden würden der KI mitteilen, zu welchem Ergebnis sie bei der Fallbearbeitung gekommen sind und welche Gesetze, Vorgaben und Rechtsprechungen dafür verwendet wurden. Auf Grundlage dieser Informationen könnte die Software den entsprechenden Text mit einer Rechtsbehelfsbelehrung generieren. Anschließend würde nach einer Prüfung durch die Sachbearbeitenden das Schreiben in Form eines Bescheids an die Antragstellenden zugesendet.
Wie sich die KI auf die Beteiligten auswirkt
Die Einführung des Chatbots würde die Besuchendenzahlen in der Infothek und die Anzahl der Anrufe im Sachgebiet senken. Die Mitarbeitenden hätten mehr Zeit für Beratungsgespräche über komplexe Sachverhalte, die mithilfe des Chatbots nicht beantwortet werden konnten.
Anzeige
Die Implementierung von KI könnte dazu führen, dass monotone Aufgaben entfallen und die Arbeitsqualität der Mitarbeitenden verbessert werden würde. Zugleich könnte dies zu einer Reduzierung der notwendigen Beschäftigten in der Infothek beitragen.
Die Mitarbeitenden müssten der KI vertrauen. Zu diesem Zweck könnte es sinnvoll sein, entsprechende Weiterbildungen anzubieten.
Durch Implementierung der KI würden die Aufgaben der Sachbearbeitenden auf Analyse und Entscheidungsfindung reduziert. Sie dürften sich jedoch nicht vollständig auf die von der KI bereitgestellten Informationen oder Texte verlassen, sondern müssten diese kritisch hinterfragen und gegebenenfalls korrigieren. Eine solche Überprüfung würde einen zusätzlichen komplexen Arbeitsaufwand bedeuten und könnte in der Folge zu einer Überforderung führen. Aus diesem Grund muss die Implementierung derart erfolgen, dass die Mitarbeitenden selbst entscheiden können, ob sie diesen Mehraufwand übernehmen oder die KI ausschalten möchten.
Welche gesetzlichen Einschränkungen es gibt
Neben der EU-KI-Verordnung, die sich hauptsächlich auf die Entwicklung der Technologie fokussiert, erfolgt die Regulierung von KI-Systemen durch einige nationale Gesetze und die Datenschutz-Grundverordnung (DSGVO). Bei der Verarbeitung von personenbezogenen Daten im Rahmen der Sozialleistungen muss auch das zweite Kapitel des SGB X berücksichtigt werden.
Das KI-Training muss möglichst große und vollständige Datenmengen enthalten, sodass das System effektiv lernen und sich weiterentwickeln kann. Es muss sichergestellt sein, dass die Informationen der unterschiedlichen Bevölkerungsgruppen der Antragsberechtigten in den Trainingsdaten berücksichtigt werden. Diese Maßnahme soll einer möglichen Diskriminierung der Antragstellenden während des späteren KI-Einsatzes vorbeugen. Außerdem muss die KI die Arbeit mit den entsprechenden Gesetzestexten und dem Fachvokabular erlernen.
Um die Daten der Antragstellenden für das Training der KI zu verwenden, müsste die Verwaltung gemäß Artikel 6 Abs. 1 lit. a DSGVO vor der Verarbeitung oder Anonymisierung der personenbezogenen Daten jede einzelne Person um Erlaubnis fragen. Da für das KI-Training große Datenmengen benötigt werden, ist das Einholen solcher Einwilligungen nicht praktikabel. Im Falle eines Antrags gemäß Artikel 17 Abs. 1 lit. b DSGVO müssten die Daten wieder gelöscht werden, dieser Vorgang könnte jedoch unter Umständen technisch unmöglich sein. Ein Ausweg könnte die Implementierung einzelner KI-Anwendungen sein, die keine besonderen Kenntnisse im Bereich des Sozialgesetzbuchs benötigen und auf Grundlage von Open-Source-Trainingsdaten angelernt werden könnten.
Eine weitere Einschränkung des KI-Einsatzes im Prozess der Antragstellung bildet § 31a SGB X. Eine vollständige automatische Erlassung des Verwaltungsakts wird nur in Fällen ohne Ermessen zugelassen, das im Rahmen der Bearbeitung des Erstantrags jedoch ausgeübt werden soll. Allerdings ist es erlaubt, dass die KI die Sachbearbeitenden bei der menschlichen Entscheidungsfindung unterstützt. Ein Nachvollziehen der KI-Handlungen ist aufgrund des „Blackbox“-Charakters von KI nicht möglich. So könnten sich die Sachbearbeitenden nur auf die von der KI bereitgestellten Informationen verlassen. Aus diesem Grund müsste die Einführung eines solchen Systems derart erfolgen, dass keine Personen diskriminiert werden und die Entscheidung stets nachvollziehbar und verzerrungsfrei ist (Glass Box).
Fazit
Als perspektivreich wird der Einsatz von Sprachverarbeitungsverfahren im Beratungsprozess von Hilfesuchenden angesehen. Die Einführung eines Chatbots auf dem Serviceportal der Stadt könnte bei sprachbasierten Auskünften in unterschiedlichen Sprachen für die Hilfesuchenden Barrieren abbauen und eine zeitunabhängige Informationsauskunft erlauben. Auch während des Beratungsgesprächs durch die Mitarbeitenden würden KI-Anwendungen zur Prozessverbesserung führen. Eine KI-Übersetzungssoftware könnte in Echtzeit das Gespräch übersetzen und damit die Kommunikation zwischen dem Bürger oder der Bürgerin und den Mitarbeitenden erleichtern.
Eine KI wäre zudem in der Lage, das Beratungsgespräch zu transkribieren und darauf basierend die notwendigen Informationen in die Datenbank einzutragen. Sie würde auch automatisch die eingereichten Antragsunterlagen überprüfen und die relevanten Informationen extrahieren. Außerdem könnte die KI die Mitarbeitenden beim Verfassen von Schreiben und E-Mails unterstützen. So könnte die KI die Mitarbeitenden des Sachgebietes entlasten und ihnen erlauben, sich auf die Fallbearbeitung zu konzentrieren.
Ein großes Hindernis für die KI-Einführung ist das Fehlen einer konkreten Gesetzesgrundlage. Aktuell wird der rechtliche Rahmen vor allem durch die DSGVO bestimmt.
Die Beiträge in dieser Serie sind Kurzfassungen von Bachelor- und Master-Thesen, die von der RK HöD als „Beste Abschlussarbeiten an den Hochschulen für den öffentlichen Dienst“ ausgezeichnet wurden. Infos unter: www.rkhoed.de
Literatur
Bundesamt für Sicherheit in der Informationstechnik (Hrsg.) (2023): Große KI-Sprachmodelle: Chancen und Risiken für Industrie und Behörden.
Djeffal, C./Horst, A. (2021): Übersetzung und Künstliche Intelligenz in der öffentlichen Verwaltung, in: Berichte des NEZG.
Etscheid, J. et al. (2020): Künstliche Intelligenz in der öffentlichen Verwaltung: Anwendungsfelder und Szenarien, in: Frauenhofer-Institut für Arbeitswirtschaft und Organisation IAO, https://sn.pub/ruso3o.
Houy, C. et. al. (2020): Potentiale Künstlicher Intelligenz zur Unterstützung von Sachbearbeitungsprozessen im Sozialwesen, in: Berichte des NEZG.
Wichmann, L. et al. (2022): Selbstverpflichtende Leitlinien für den KI-Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung, in: Bundesministerium für Arbeit und Soziales (Hrsg.): Denkfabrik Digitale Arbeitsgesellschaft.
