"OSKI ist kein Randphänomen mehr"

Dr. Bernd Peper, Head of Sopra Steria Next, über Chancen und Herausforderungen von Open-Source-KI (OSKI) für die Verwaltung, den dazu notwendigen Kulturwandel sowie viel beachtete Beispiele in Deutschland und international.

Was sind die Kernergebnisse der gemeinsamen Studie "Open-Source-KI für die digitale Verwaltung" von Sopra Steria und Hertie School?

Unsere Studie macht deutlich: Open-Source-KI, kurz OSKI, ist ein entscheidender Baustein für digitale Souveränität, Transparenz und Innovationskraft in der Verwaltung. Die Vorteile von OSKI, wie weniger Abhängigkeiten, mehr Flexibilität und höhere Transparenz, sind bekannt. Open Source soll eine größere Rolle spielen, und doch ist die Relevanz von OSKI nicht dementsprechend ausgeprägt. Es zeigt sich: Open Source ist die Entwicklungsform, die am besten der digitalen Souveränität zugutekommt. Das sollte die Verwaltung dort nutzen, wo es sinnvoll ist.

Sowohl für Open Source als auch für Künstliche Intelligenz braucht es viel IT-Sachverstand. Für die Kombination der beiden Technologien, kurz OSKI, dürfte das umso mehr gelten. Warum sollte die öffentliche Verwaltung sich trotzdem mit OSKI beschäftigen?

Gerade weil es um mehr geht als reine Technologie. Open Source ist eine Haltung, gemeinsam Probleme mittels Technologie zu lösen. Betrachtet man OSKI, ist zu überlegen, was Open Source sein soll: das Modell, bestimmte Services oder die Applikation in ihrer Gänze? OSKI ist somit eine strategische Weichenstellung für Verwaltungen. Wer sich heute auf proprietäre Modelle verlässt, läuft Gefahr, in dauerhafte Abhängigkeiten zu geraten – sei es bei Kosten, Daten oder Weiterentwicklungen. Offene Modelle schaffen dagegen Gestaltungsfreiheit. Verwaltungen können nachvollziehen, wie ein Modell funktioniert, sie können es an spezifische Bedarfe anpassen und teilen. Genau das unterscheidet OSKI von proprietären Angeboten. Auch ist OSKI gerade bei spitzen Anwendungsfällen häufig geeigneter. Weitere Aspekte sind Vertrauensbildung und Innovationen.

Wie kann OSKI da helfen?

Bürgerinnen und Bürger erwarten, dass der Staat nachvollziehbar erklärt, wie Entscheidungen zustande kommen. Offener Quellcode macht diese Nachvollziehbarkeit möglich und stärkt die Legitimität. Zudem entsteht Innovation oft dort, wo Verwaltungen selbst Hand anlegen können, zeigt die Studie. Kleine "Skunkworks"-Teams, also autonome Einheiten mit viel Eigeninitiative, treiben häufig die spannendsten OSKI-Projekte voran. Das heißt: Auch Verwaltungen, die heute noch nicht über große KI-Abteilungen verfügen, können von OSKI profitieren, wenn sie solche Freiräume schaffen.

Gibt es auch Nachteile, die OSKI für öffentliche Organisationen mit sich bringt?

Ja, die gibt es. OSKI ist kein Selbstläufer. Viele Verwaltungen stehen vor technischen Hürden: fehlende GPU-Kapazitäten – sie sind notwendig dafür, grafikintensive und gleichzeitige Berechnungen durchführen, Eigenschaften, die beim KI-Einsatz besonders wichtig sind –, unzureichende Energieversorgung oder schlicht knappe IT-Ressourcen, insbesondere in kleineren Behörden. Deshalb greifen viele zunächst auf bekannte Cloud-Lösungen zurück – oft aus der Not heraus, nicht aus Überzeugung. Damit steigt die Umsetzungsgeschwindigkeit, aber wiederum auch die Abhängigkeit von Hyperscalern. Auch die Kostenperspektive ist komplexer, als oft angenommen wird. Zwar ist die Anschaffung von Open-Source-Lösungen meist günstiger, aber im Betrieb entstehen dauerhafte Aufwände für Wartung, Updates und Community-Beiträge. Ohne ein nachhaltiges Finanzierungsmodell drohen Projekte nach der Pilotphase zu versanden. Unsere Interviewpartnerinnen und -partner empfehlen, etwa zehn Prozent des Projektbudgets fest für Wartung und Weiterentwicklung zu reservieren.

Hinzu kommt die organisatorische Dimension: Manche Verwaltungen unterschätzen, wie wichtig ein Kulturwandel ist.

Neben der fehlenden Kultur des Teilens hält sich partiell die Skepsis gegenüber Open Source hartnäckig. Teilweise wird es belächelt als "das, was Studierende nach der Kneipe programmieren". Solche Vorurteile bremsen, obwohl es längst professionelle, sichere und skalierbare OSKI-Lösungen gibt.

Welche Praxisbeispiele für OSKI in der öffentlichen Verwaltung in Deutschland gibt es?

In Deutschland sind vor allem F13 in Baden-Württemberg und Genius in Nordrhein-Westfalen zu nennen – zwei Initiativen, die explizit Open-Source-Modelle für Verwaltungskontexte entwickeln. Schleswig-Holstein geht noch weiter und stellt seine gesamte IT-Landschaft von Microsoft auf Open-Source-Lösungen um – ein Kraftakt, der europaweit Beachtung findet.

Und international?

Auf EU-Ebene gibt es ambitionierte Programme: Mit OpenEuroLLM entsteht ein mehrsprachiges Basismodell für alle EU-Sprachen, getragen von Partnern wie Aleph Alpha, Fraunhofer und der Universität Tübingen. Frankreich investiert über eine AI Foundation 500 Millionen Euro in souveräne KI-Modelle, flankiert von massivem privatem Kapital. Schweden baut mit AI Sweden eine eigene KI-Cloud auf, während Finnland im LUMI-Supercluster mit neuen Trainingsumgebungen das Gleiche tut. Italien hat mit Modello Italia ein nationales Open-Source-Sprachmodell für Behörden vorgestellt, und in Großbritannien unterstützt der "Government Incubator for AI" mit Redbox die Verwaltung bei Dokumentenzusammenfassungen. Außerhalb Europas entwickelt Kanada zunehmend "kanadisierte" OSKI-Modelle, und Australien setzt in sicherheitsrelevanten Bereichen wie Gesundheit oder Finanzen verstärkt auf offene Alternativen. Diese Vielfalt zeigt: OSKI ist kein Randphänomen mehr, sondern ein globaler Trend, der Verwaltungen die Chance gibt, digitale Souveränität praktisch zu leben.