München kann KI

Mit MUCGPT ist eine über die Stadtgrenzen hinaus bekannte Lösung im KICC entstanden (siehe Abbildung Seite 14). Seit Februar 2024 können Mitarbeitende das stadtinterne ChatGPT nutzen. MUCGPT basiert auf einem Sprachmodell, das die Arbeit mit Texten vereinfacht. Texte können mittels natürlichsprachlicher Anweisungen erstellt, umformuliert, zusammengefasst oder übersetzt werden. Außerdem ermöglicht MUCGPT die Strukturierung von Ideen in Mindmaps. Das dahinterliegende Sprachmodell, zum Beispiel GPT-4o, berechnet Wortwahrscheinlichkeiten mithilfe eines neuronalen Netzes, um Antworten zu generieren, die natürlich und plausibel klingen. Diese Antworten sind nicht reproduzierbar. Das bedeutet, dass die gleiche Anfrage zu einem anderen Zeitpunkt unterschiedliche Ergebnisse liefern kann. Mit einigen Stichworten ist mit MUCGPT schnell ein Text, etwa für eine Präsentation, verfasst. Das Tool ist im Gegensatz zu ChatGPT von OpenAI oder ähnlichen Services durch den behördlichen Datenschutz freigegeben. Daher kann MUCGPT mit internen Daten der Landeshauptstadt München verwendet werden. Die Eingaben werden nicht gespeichert und nur in Europa verarbeitet.

Wer MUCGPT bittet, sich vorzustellen, erhält beispielsweise folgende Antwort: „Ich bin ein KI-gestützter virtueller Assistent, der von OpenAI entwickelt wurde, einem Unternehmen, das sich auf die Erforschung und Entwicklung künstlicher Intelligenz spezialisiert hat. Mein Hauptziel ist es, Menschen bei einer Vielzahl von Anliegen zu unterstützen, indem ich Informationen bereitstelle, Fragen beantworte und Hilfestellungen in unterschiedlichen Themenbereichen gebe.

Künstliche Intelligenz hat sich in den letzten Jahren rasant weiterentwickelt und findet in vielen Bereichen Anwendung - von der Automatisierung von Aufgaben über die Unterstützung im Kundenservice bis hin zur Bereitstellung intelligenter Lösungen in der Forschung und Bildung. Als KI-Modell bin ich darauf trainiert, große Mengen an Textdaten zu verarbeiten und zu verstehen, um kontextuell relevante und hilfreiche Antworten zu generieren.

Ich wurde darauf trainiert, in natürlichen Sprachmustern zu kommunizieren, was bedeutet, dass ich versuche, menschliche Konversationen nachzuahmen und dabei auf die Bedürfnisse und Anliegen der Nutzer einzugehen. Dies ermöglicht es mir, auf eine Vielzahl von Fragen und Themen zu reagieren, sei es in den Bereichen Wissenschaft, Technologie, Gesundheit, Bildung oder sogar alltägliche Lebensfragen.“

Häufig kommt die Frage auf, worin die Unterschiede von MUCGPT zu ChatGPT von OpenAI und dem angekündigten BayernGPT liegen. Mit BayernGPT möchten Forscherinnen und Forscher bayerischer Hochschulen ein neues, eigenständiges Sprachmodell unabhängig von großen US-amerikanischen Unternehmen entwickeln, während MUCGPT wie erwähnt auf bereits existierenden Sprachmodellen basiert. Der Unterschied von MUCGPT zu ChatGPT von OpenAI liegt darin, dass die von den Beschäftigten der Landeshauptstadt München eingegebenen Daten verschlüsselt an einen europäischen Server von Microsoft Azure nach Amsterdam geschickt werden und nicht in die USA abfließen. MUCGPT teilt sich in ein Backend und ein Frontend auf. Das Backend enthält die Geschäftslogik. Im Frontend wird die webbasierte Benutzeroberfläche dargestellt. Außerdem ist eine PostgreSQL-Datenbank für Statistiken eingebunden. Die Authentifizierung der Nutzenden erfolgt über einen Single-Sign-on-Provider.

Zudem ist es im Herbst 2024 gelungen, neue Funktionen in MUCGPT einzufügen. Die Mitarbeitenden haben seitdem die Möglichkeit, aus verschiedenen Sprachmodellen zu wählen. So kann GPT-4o verwendet werden, aber auch GPT-4o-mini und Mistral Large 2407 stehen den Nutzerinnen und Nutzern zur Verfügung. Weitere Funktionen sind das Speichern der getätigten Chats sowie die Übersetzung von Texten in Leichte Sprache. Auch können die Beschäftigten der Landeshauptstadt München eigene KI-Assistenten entwickeln, zum Beispiel Prompting- oder Mail-Assistenten.

MUCGPT steht als Open-Source-Software zur Verfügung. Das Open-Source-Prinzip ermöglicht es externen Entwickelnden, dabei zu helfen, MUCGPT voranzubringen. Zudem haben andere Kommunen auf diese Weise die Option, ein „eigenes MUCGPT“ entstehen zu lassen.

Neben MUCGPT kommt auch das Empfehlungstool „inspira_BIB“ der Münchner Stadtbibliothek aus dem KICC (siehe Abbildung Seite 15). Es dient dazu, künftig im Online-Katalog der Bibliothek zu gesuchten Medien ähnliche in einem Menüslide anzuzeigen. Das bedeutet: Unter jedem ausgewählten Treffer finden sich mehrere Cover von Medien, die dem Gesuchten ähnlich sind. Nutzende können sich davon inspirieren lassen. Sie sollen damit die Möglichkeit haben, den Bibliothekskatalog virtuell zu durchstöbern - wie sie es vor Ort in den Bibliotheken beim Gang durch die Regalreihen machen würden.

Mathematisch-technisch wurde inspira_BIB wie folgt umgesetzt: Das KI-gestützte System funktioniert wie ein großer digitaler Vektorraum beziehungsweise ein entsprechendes Koordinatensystem. In diesem Vektorraum gibt es viele kleine Punkte, die die Medien, zum Beispiel Print-Bücher, E-Books und weitere Angebote, darstellen. Das KI-System verteilt die Punkte im Vektorraum, indem es aus den Daten der Medien Ähnlichkeiten zwischen diesen berechnet und als Nähe im Vektorraum darstellt. Klickt nun der oder die Nutzende auf ein bestimmtes Medium, zeigt das System die Medien als Empfehlungen an, die dem ausgewählten Medium im Vektorraum am nächsten liegen. Die Folge ist eine Visualisierung der Empfehlungen in Form einer anklickbaren Reihe von Medien unter jedem Treffer im Online-Katalog der Bibliothek. Bis zu 50 Vorschläge, immer fünf auf einmal, werden von dem KI-System mit Cover, Titel, Autor oder Autorin sowie Beschreibungstext ausgegeben und können so den Nutzenden als Inspiration dienen.

Als technologisches Vorbild für inspira_BIB dienten sogenannte AI Recommender Systems, die ein verbreitetes Anwendungsfeld bereits produktiver KI-Anwendungen darstellen. Bekannte Beispiele für den Einsatz solcher Technologien sind E-Commerce-Plattformen wie Amazon und Social-Media-Apps wie YouTube. Die Kriterien, nach denen ähnliche Medien angezeigt werden, bestimmt die KI bei inspira_BIB auf Grundlage des Klappentextes oder der Beschreibungstexte der Medien. Je genauer diese Textbausteine zusammenpassen, desto eher wird ein Medium vorgeschlagen. Anders als bei YouTube und Amazon, verzichtet das System aber vollständig auf jegliche Personalisierung auf Basis von Nutzendendaten. Der Datenschutz als zentrale Grundhaltung sowie das Gebot der Datensparsamkeit aus der Datenschutz-Grundverordnung (DSGVO) gebieten es öffentlichen Einrichtungen wie der Münchner Stadtbibliothek, mit so wenig Daten wie möglich den hilfreichsten Vorschlag für die Nutzenden zu generieren. Die ersten Testergebnisse zeigen, dass sich mittels KI auch ohne Nutzendendaten, also nur mithilfe der Mediendaten, bereits hilfreiche und inspirierende Vorschläge erzeugen lassen.

Einen bedeutenden Anteil der Arbeit des KICC bildet auch die Entwicklung von KI-Systemen, die Sprachmodelle mit kontextspezifischen Informationen der Landeshauptstadt München verknüpfen. Dieser Ansatz wird als „Retrieval Augmented Generation“ (RAG) - zu Deutsch etwa „durch Abruf erweiterte Generierung“ - bezeichnet. Bevor eine Wissensdatenbank für Anfragen genutzt werden kann, müssen die darin enthaltenen Informationen in Embeddings umgewandelt werden. Dies passiert normalerweise außerhalb der Nutzungszeit oder bevor das System in Betrieb genommen wird. Bei einer Aktualisierung des jeweiligen Wissensartikels müssen die Embeddings ebenfalls neu berechnet werden. Der RAG-Ansatz bietet viele Vorteile. Zum einen können durch die Verknüpfung von Sprachmodell und Wissensdatenbank grundsätzlich präzisere und relevantere Antworten generiert werden. Zum anderen kann das RAG-System nahezu in Echtzeit auf geänderte Informationen zugreifen, sobald der Artikel und die Embeddings aktualisiert wurden. Die ersten Erfahrungen und den ersten Erfolg mit dem RAG-Ansatz feierte das KICC mit der Umsetzung eines prototypischen QA-Bots für die Tourismus-Website „Einfach München“ der Landeshauptstadt. Basierend auf den daraus gewonnenen Erkenntnissen, erarbeitete das Team im Jahr 2024 eine auf die IT-Landschaft der Landeshauptstadt München angepasste RAG-Architektur. Sie ermöglicht es, schnell und unkompliziert neue KI-Systeme von hoher Qualität zu entwickeln sowie während des Betriebs zu überwachen und zu pflegen. Die erste Ausprägung dieser Architektur ist der neue KI-basierte Dienstleistungsfinder (DLF) für den Webauftritt der Landeshauptstadt, www.​muenchen.​de. Der DLF hat Zugriff auf knapp 1.500 im dortigen Content Management System (CMS) hinterlegte Dienstleistungen und Services der Stadtverwaltung und kann schnell und präzise auf Anfragen von Bürgerinnen und Bürgern reagieren.

KI hat sich bei der Landeshauptstadt München als zukunftsweisende und zugleich praktisch handhabbare Technologie erwiesen. Dank der beschriebenen Projekte kann die Nutzendenerfahrung erheblich verbessert werden, und zwar extern und intern: Nicht nur die in München lebenden Menschen können von den Entwicklungen profitieren, auch für die Mitarbeitenden haben die neuen Technologien viele Vorteile.