Künstliche Intelligenz braucht hybride IT-Strukturen

Zu den wichtigsten Entwicklungen auf dem Technologiesektor generativer KI gehören Agentic AI mit autonomen Agenten, Local AI zur Nutzung von Künstliche-Intelligenz-Modellen im eigenen Rechenzentrum oder auch direkt auf einem Device wie einer Fertigungsmaschine oder einem Handy sowie Multi-Agent AI zur Beherrschung komplexer Szenarien. Natürlich sind hier auch Verknüpfungen möglich, etwa in Form hierarchischer KI-Agenten. Ein weiterer Trend ist die Entwicklung multimodaler GenAI-Lösungen, die Texte, Bilder, Audio und Video kombinieren können. Diese Modelle verstehen und verarbeiten unterschiedliche Medientypen und erzeugen kontextrelevante Inhalte. Davon profitieren unter anderem Branchen wie Gesundheit, Finanzen und Produktion.

Wie alle GenAI-Anwendungen bauen sie auf Large Language Models (LLMs) als funktionalem Kern auf. Aktuell wird zudem intensiv an hoch spezialisierten Modellen mit Lösungskompetenz für spezifische Aufgaben und Problemfelder gearbeitet - und der Koordination der daraus entwickelten Multiagentensysteme per Work Orchestration. Die Leistungsfähigkeit und Praxistauglichkeit aller Modelle hängen dabei ganz wesentlich von den Daten ab, mit denen sie trainiert werden. Doch ausgerechnet hier gerät die KI-Entwicklung an die erste Grenze ihres Wachstums, denn Daten werden zum knappen Gut. Dadurch gerät die Qualität von KI-Modellen in Gefahr und synthetische Daten helfen nur bedingt weiter. Diese Entwicklung spielt jenen Unternehmen in die Hände, die laufend direkten Zugang zu frischen Kundendaten haben, wie etwa Apple oder Amazon.

Auch wenn GenAI längst in den Unternehmen angekommen ist, so ist teilweise immer noch nicht klar, wohin die KI-Reise gehen soll. In der erwähnten Studie gaben zwar 83 Prozent der befragten CEOs an, über eine GenAI-Strategie zu verfügen. Die Praxis zeigt jedoch, dass diese nicht immer schlüssig der Business-Logik folgt. Grundsätzlich kann generative Künstliche Intelligenz eingesetzt werden, um bereits Bekanntes schneller und günstiger zu machen, etwa durch stärkere Automatisierung. Das ist aber nur der erste Schritt. Viel wichtiger wird zukünftig ihr Einsatz zur Schaffung neuer Mehrwerte, etwa durch die Einbindung von kunden- und produktspezifischen Daten in Echtzeit, samt entsprechender Empfehlungen und Folgeaktionen. Gleichzeitig wird die Zukunft von GenAI stark aufgaben- und branchenspezifisch geprägt sein. Unternehmen entwickeln dafür spezialisierte Large Language Models, um die Technologie exakt an die individuellen Bedürfnisse anzupassen. Typisches Beispiel dafür ist das Thema „Hyperpersonalisierung“, mit der Unternehmen ihren Kunden maßgeschneiderte Angebote machen können.

Ohne eine entsprechend darauf ausgelegte Infrastruktur wird das allerdings nicht möglich sein. Und genau hier steht noch eine gewaltige Aufgabe an, denn 90 Prozent der Befragten sehen in ihrer IT-Landschaft ein Hindernis für die effektive Nutzung von GenAI. KI-Infrastruktur unterscheidet sich deutlich von klassischer Infrastruktur. Künstliche Intelligenz braucht keine Legacy-Systeme, sondern agile, hochskalierbare hybride IT-Strukturen mit flexiblen Kombinationen von On-Premises-, Colocation- und Cloud-Anteilen. Das Ressourcenthema ist mit der technischen Ebene allein aber noch nicht erschöpft. Es geht auch um das notwendige IT-Know-how, die Einstellung der Mitarbeiter zu KI und deren Motivation. Training, Weiterbildung und Change Management werden damit zur zentralen Aufgabe, um Bedenken und Widerstände bezüglich der KI-Technologien auszuräumen und sie zu einem wirtschaftlichen Erfolgsmodell zu machen.

Von der Sicherheit der IT-Infrastruktur hängen auch Data Privacy, Data Security und Data Residency ab. Darüber hinaus gestatten Technologien wie Differential Analytics die Anonymisierung von Daten, ohne deren Korrelationen zu verfälschen. Sie können damit weiterhin für das Training der Modelle genutzt werden. Das zunehmende Problem der Datenverfälschung durch Fake News und KI-induzierte Halluzinationen sowie deren Einfluss auf die Qualität der Modelle kann nur durch KI selbst eingedämmt werden. Ein LLM verifiziert sozusagen das andere. Die Modelle selbst werden aus Kontroll- und Compliance-Überlegungen heraus nicht mehr ausschließlich beim Hyperscaler gefahren, sondern lokal genutzt, Stichwort „Local AI“. Damit steigt wiederum der Bedarf an lokalen IT-Ressourcen. Der Kühlungsbedarf und Energieverbrauch von Rechenzentren sind aber unter Nachhaltigkeitsaspekten ein kritischer Faktor. Zur Erinnerung: Ein KI-Rack verbraucht rund das Zehnfache an Energie eines typischen SAP-Racks. KI selbst wird daher helfen (müssen), diesen immensen Ressourcenverbrauch zu minimieren.

Aus Compliance-Sicht steht das Risikomanagement, wie vom EU AI Act gefordert, an der Spitze der KI-Agenda. Dabei wird es künftig stärker darum gehen müssen, die spezifischen Risiken für das eigene Unternehmen im Vorfeld zu analysieren und zu minimieren. GenAI-Technologien werden in Zukunft so selbstverständlich und allgegenwärtig sein wie heute das Internet. Generative Künstliche Intelligenz wird nicht mehr als separates Werkzeug wahrgenommen, sondern nahtlos in bestehende Anwendungen integriert - wie etwa die virtuelle GenAI-Krankenschwester als individuell beratende erste Anlaufstelle bei Beschwerden. In ähnlicher Weise wird die Technologie zu einem selbstverständlichen Teil des Alltags werden und Interaktionen neu definieren.