7. IT-Infrastrukturen und deren Stromverbrauch

In einem Beitrag von Nicola Jones (2018) in Nature untersucht die Autorin die bereits damals riesigen Mengen an Energie, die von Rechenzentren verbraucht werden. Der Fokus liegt dabei auf Social-Media-Akteuren wie Facebook, der weltweit bekanntesten Suchmaschine Google und rechenintensiven Kryptowährungen wie Bitcoin. Wann immer Sie ein Foto auf Facebook hochladen, wann immer Sie eine Suche auf Google starten oder während Sie Bitcoin handeln, spielen diese Rechenzentren irgendwo im Hintergrund eine wichtige Rolle. Der geschätzte Stromverbrauch im Jahr 2018 lag bei 200 Terawattstunden (TWh) Strom pro Jahr und damit bei etwa 1 % des weltweiten Strombedarfs. Die gesamten Kohlenstoffemissionen von Rechenzentren wurden auf 0,3 % geschätzt, während die Informations- und Kommunikationstechnologien (IKT) für insgesamt mehr als 2 % der weltweiten Emissionen verantwortlich waren. Während diese Zahlen bereits beträchtlich sind, geht die Energieprognose im Artikel von Nicola Jones von einem raschen Anstieg von bis zu 20 % des für 2030 prognostizierten weltweiten Strombedarfs für IKT aus, wobei mehr als ein Drittel dieses Bedarfs auf Rechenzentren entfällt. Und das waren die Schätzungen vor dem Auftauchen der großen Sprachmodelle.

Dieser Artikel ist heute sechs Jahre alt, und die Zeiten haben sich grundlegend geändert. Die Covid-19-Pandemie hat die Art und Weise, wie wir leben und arbeiten, in vielerlei Hinsicht verändert. Neue Technologien haben sich schnell durchgesetzt, andere haben ein erhebliches Wachstum erfahren. Vor der Pandemie wurden Videokonferenzen nur mit speziellen Geräten in bestimmten Situationen durchgeführt, während sie heute zu den Standardkommunikationsmitteln im Berufs- und Privatleben gehören. Das Online-Shopping war schon vor Covid-19 auf dem Vormarsch, aber die Einschränkungen beim Kauf von Lebensmitteln des täglichen Bedarfs führten zu nie dagewesenen Wachstumsraten bei den Online-Lagerhäusern. Gerade als die Pandemie unter Kontrolle war, brachte OpenAI im November 2022 seinen Konversationsagenten ChatGPT auf den Markt. Laut OpenAI hat ChatGPT innerhalb von fünf Tagen 1 Mio. Nutzer gewonnen, während Instagram 2,5 Monate brauchte, um 1 Mio. zu erreichen und Netflix 3,5 Jahre. In einem Artikel von Agam Shah (2024) auf HPCwire schätzt ein Zitat des Halbleiterforschungsunternehmens TechInsights, dass bis 2029 1,5 % des weltweiten Stromverbrauchs auf KI-Beschleuniger entfallen. Ein ähnlicher Bericht von PR Newswire (The Conference Board, 2024) schätzt den auf KI zurückzuführenden weltweiten Energiebedarf in den kommenden Jahren auf 26–36 % jährlich. Wie auch immer der endgültige Anteil des Stromverbrauchs von Rechenzentren im Allgemeinen oder von KI im Besonderen aussehen mag – es ist unvermeidlich, die Situation anzugehen.

Ein erster Schritt zum Verständnis des Energieverbrauchs besteht darin, eine Grundlage für das Verständnis der Gesellschaft von Strom und Elektrizität zu finden. Die oben genannten Zahlen sind meist Indikatoren, die zu abstrakt und für die meisten Menschen schwer zu verstehen sind. Eine Wattstunde (Wh) ist für uns nicht greifbar, und selbst wenn wir sie auf unseren Stromrechnungen sehen, ist es meist schwierig, ihre Bedeutung zu verstehen oder ihren Wert einzuschätzen. Die allgemeine Definition, dass eine Wh eine Energieeinheit ist, die einem Watt Leistung in einer Stunde entspricht, ist in der Regel nicht hilfreich. Wir müssen also zunächst ein verständliches Maß finden. Eine Möglichkeit bietet der Haushaltsstrompreis, der die Höhe der Stromrechnung einer Person durch Multiplikation des Einheitspreises mit den verbrauchten Wattstunden bestimmt. Für Deutschland, das allgemein als eines der teuersten Länder in Bezug auf die Strompreise bekannt ist, wurde der durchschnittliche Strompreis im Dezember 2023 mit 0,402 € pro Kilowattstunde (kWh entspricht 1000 Wh) gemessen. (Beachten Sie, dass der Durchschnittspreis ohne Steuern in diesem Zeitraum laut derselben Webseite 0,2882 € pro kWh betrug). Natürlich wird der Strompreis von vielen Faktoren bestimmt, z. B. von der Verfügbarkeit von Energiequellen und Brennstoffen, den Brennstoffkosten und der Verfügbarkeit von Kraftwerken, so dass die Spotmarktpreise für Strom stark schwanken können. Außerdem besteht ein erheblicher Unterschied zwischen den Preisen für Haushalte und Großverbraucher, und Rechenzentren als Großverbraucher erhalten in der Regel einen günstigeren Preis als der Durchschnittsbürger. Zur Vereinfachung werden wir im weiteren Verlauf des Beitrags 0,30 € pro kWh als Einheit für die Strompreise verwenden.

Nachdem wir die Preise für die Einheiten festgelegt haben, können wir einen Blick auf unsere üblichen Geräte zuhause werfen, um ein Gefühl für den Stromverbrauch zu bekommen. Als erstes und allgemein verfügbares Beispiel sehen wir uns ein Smartphone an. Das meistverkaufte Smartphone ist heute das Apple iPhone 15, das laut Online-Quellen eine Batteriekapazität von 3349 mAh hat. Wenn wir dieses Smartphone einmal am Tag aufladen und dabei die oben erwähnten 0,30 € pro kWh zugrunde legen, benötigen wir etwa 0,005 € pro Tag oder 1,80 € pro Jahr. Das scheint annehmbar und erschwinglich, vor allem im Vergleich zum Preis des Smartphones selbst.

Ein weiteres Gerät, das in den meisten Haushalten vorhanden ist, ist ein Personal Computer. Wenn wir von einem heutigen Durchschnittsmodell und einer Nutzung von etwa 4 h pro Tag ausgehen, können wir den Stromverbrauch eines Personal Computers auf etwa 200 kWh pro Jahr schätzen, was etwa 60 € an Stromkosten entspricht. Dies liegt noch in einem Bereich, der für die meisten Haushalte akzeptabel erscheint.

Ein heute eher noch seltener genutztes Elektroauto kann hier aber als guter Vergleich dienen. Gehen wir von einem Standard-Tesla Model S 60 aus, der 18,1 kWh pro 100 km benötigen soll, können wir die Kosten für 100 km mit 5,43 € berechnen. Bei einer jährlichen Fahrleistung von beispielsweise 15.000 km mit diesem Auto belaufen sich die Stromkosten auf 814,50 € pro Jahr. Vergleicht man dies mit den Kosten für ein benzinbetriebenes Auto, ist es immer noch beachtlich günstiger.

Wenn wir auf diesem Wege weitergehen, können wir auch den durchschnittlichen Stromverbrauch pro Kopf und Haushalt schätzen. In Deutschland liegt der durchschnittliche Pro-Kopf-Stromverbrauch bei etwa 1,5 MWh (Megawattstunden = 1000 kWh) pro Jahr bzw. bei etwa 4 MWh pro Haushalt pro Jahr. Das macht nach unseren Schätzungen etwa 1200 € pro Jahr aus. Die Webseite Statista gibt detailliertere Einblicke in die Zahlen und Entwicklungen der letzten Jahre und schätzt die aktuelle Stromrechnung in Deutschland im Jahr 2024 auf 120,60 € pro Monat oder 1447,20 € pro Jahr für einen 3-Personen-Haushalt. (Der Vergleich dieser Zahl mit den Stromkosten für das Elektroauto offenbart ein interessantes Detail).

Mit einer Bevölkerung von 84,3 Mio. Menschen in Deutschland belief sich der Nettostromverbrauch im Jahr 2022 auf 507 TWh (Terawattstunden = 1000 GWh = 1.000.000 MWh = 1.000.000.000 kWh), während die Bruttostromerzeugung 577 TWh betrug. Im Wesentlichen wurde also mehr Energie erzeugt als verbraucht, aber natürlich schwanken sowohl der Verbrauch als auch die Erzeugung im Laufe der Zeit und sind möglicherweise nicht ausgeglichen, weshalb Strommärkte für den Handel benötigt werden.

Interessant ist auch die Herkunft des Stroms, von der Kernkraft bis zu den erneuerbaren Energien.

Nach den Informationen über Stromverbrauch und -erzeugung wollen wir uns nun den Stromverbrauch von Rechenzentren genauer ansehen. Laut DataCentre Magazine (Amber Jackson, 2024) ist das weltweit größte Rechenzentrumsunternehmen Amazon Web Services (AWS) von Amazon.com mit 32 Cloud-Regionen und 102 Availability Zones im Januar 2024, gefolgt von Microsoft Azure mit 62 Cloud-Regionen und 120 Availability Zones. Die AWS-Rechenzentren erstrecken sich über eine Fläche von 3,1 Mio. Quadratmetern. Auch wenn es schwierig ist, genaue Zahlen zum Energieverbrauch von Rechenzentren zu erhalten, scheint es für die Firmen unabdingbar zu sein zu verkünden, dass der gesamte Strom in naher Zukunft aus erneuerbaren Quellen stammt oder keine Kohlenstoffemissionen mehr verursacht. In einem Artikel von Mark Heschmeyer auf CoStar News vom 07. März 2024 wird erwähnt, dass AWS ein Rechenzentrum in Pennsylvania in der Nähe eines Kernkraftwerks gekauft hat. Allein der Stromverbrauch dieses Rechenzentrums wird auf bis zu 960 MW geschätzt. Der in dem Artikel genannte offizielle Preis beträgt 650 Mio. US-$. Bei anderen im Bau befindlichen Rechenzentren werden oft Preise von einer Milliarde oder sogar mehr nur für den Bau des Standorts genannt.

Da es schwierig ist, offizielle Zahlen von kommerziellen Anbietern zu erhalten, richten wir unseren Blick auf ein öffentliches Rechenzentrum für Wissenschaft und Forschung. Das Leibniz-Rechenzentrum (LRZ) der Bayerischen Akademie der Wissenschaften existiert seit 1962. Ursprünglich für den Betrieb von Großrechnern eingerichtet, hat es seine digitalen Dienste auf viele Bereiche ausgeweitet, darunter Kommunikationsnetze sowie Speicherung und Housing für alle Bereiche von Wissenschaft und Forschung. Heute ist es der IT-Dienstleister für die Münchner Universitäten und Hochschulen, bietet ausgewählte Dienste für alle bayerischen Forschungseinrichtungen an, ist eines der drei nationalen Höchstleistungsrechenzentren und einer der Standorte für einen europäischen Quantencomputer. Zu den Dienstleistungen des LRZ gehören das Münchner Wissenschaftsnetz, das mehr als 600 Gebäude verbindet, das Datenarchiv der Bayerischen Staatsbibliothek und der nationale Supercomputer SuperMUC-NG. Neben der Bereitstellung von Dienstleistungen forscht das LRZ zu verschiedenen Themen, darunter auch zum energieeffizienten Betrieb von Rechenzentren.

Derzeit kann die Gesamtkapazität des LRZ bis zu 10 MW betragen, wovon im Durchschnitt 6 MW für den Betrieb verwendet werden. Der durchschnittliche Verbrauch des Supercomputers liegt jedoch bei 2,6 MW, kann aber bei leistungshungrigen Anwendungen auf über 3,6 MW ansteigen. Mit Zunahme der Dienstleistungen für Wissenschaft und Forschung sowohl im Bereich des Supercomputings als auch der KI werden Pläne verfolgt, die Stromkapazität des LRZ auf 15 MW und später 40 MW zu erweitern. Die durchschnittlichen Stromkosten des LRZ pro Stunde belaufen sich auf 1500–2000 €. (Vergleichen Sie dies mit den durchschnittlichen Stromkosten eines Haushalts pro Jahr).

Etwa 70 % des Stroms, den das LRZ verbraucht, wird für den Betrieb seiner Supercomputer benötigt, und ein Teil der Stromkosten ist für die Ausfallsicherheit und Zuverlässigkeit des Betriebs erforderlich. Es ist naheliegend, dass der Supercomputer das erste Ziel jeglicher Energieoptimierung ist. Die Schlüsselfrage ist, wie man die maximale Rechenleistung bei minimalen Energiekosten erreichen kann. Die Leistung hängt jedoch immer von den jeweiligen Aufgaben ab, und unterschiedliche Supercomputer sind für unterschiedliche Anwendungen optimiert.

Die Weltrangliste der Supercomputer, die sogenannte Top500-Supercomputerliste (https://top500.org/), basiert auf dem sogenannten Linpack-Benchmark, einem numerischen Löser für lineare Gleichungen. Das System, das in diesem Benchmark die höchste Punktzahl erreicht, wird als das schnellste System in der Liste (und damit auf der Welt) bezeichnet, gefolgt von allen anderen Systemen, jeweils entsprechend ihrer Leistung im Linpack. Der derzeit schnellste Supercomputer auf der Liste (im Linpack-Benchmark) ist ein System namens Frontier (https://www.olcf.ornl.gov/frontier/), eine HPE Cray EX235a, die aus 8.699.904 AMD-Rechenkernen besteht und im Oakridge National Laboratory in den Vereinigten Staaten installiert ist. Durch den parallelen Einsatz all dieser Kerne zur Berechnung des Linpack-Benchmarks erreicht dieser Supercomputer ein Linpack-Ergebnis Rmax von 1206 Petaflop/s oder 1,2 Exaflop/s (d. h. 1,2 × 10¹⁸ oder 1.206.000.000.000.000.000 Gleitkommaoperationen pro Sekunde). Dies ist die Anzahl der Operationen, die bei der Lösung eines bestimmten Systems linearer Gleichungen durchgeführt werden. Würden theoretisch alle Rechenkerne ohne ein bestimmtes Ziel mit maximaler Geschwindigkeit rechnen, wäre das System in der Lage, einen Rpeak von 1714,81 Petaflop/s zu erreichen. Das bedeutet, dass das System für Linpack 70 % seiner Spitzenleistung nutzen kann. Folglich würde Frontier bis zu 70 % seiner Leistung bieten, wenn die Zielanwendungen einen Linpack-ähnlichen Algorithmus verwenden. Umgekehrt, wenn sich die Zielanwendung stark von Linpack unterscheidet, ist eine viel geringere Leistung zu erwarten. In vielen Fällen liegt die tatsächliche Leistung unter 10 % oder sogar unter 1 % der theoretischen Spitzenleistung.

Während die lange Tradition der Top500 (seit 1993) eine wertvolle Quelle für den Vergleich von Supercomputer-Entwicklungen darstellt, liefert die Messung eines Systems anhand seines Linpacks nur begrenzte Erkenntnisse für ein breites Spektrum von Anwendungen. Dies wurde von der wissenschaftlichen Gemeinschaft wiederholt angemerkt, was in der Folge zu einer Reihe von verschiedenen Benchmarks führte, um unterschiedliche Anwendungsmerkmale zu modellieren. Ein weiterer bekannter Benchmark ist HPCG (High Performance Conjugate Gradients), der einen völlig anderen Algorithmus zur Bestimmung der Systemleistung verwendet und seit 2017 Ergebnisse liefert. In der Folge ist das System auf Platz 1 der HPCG-Liste ein völlig anderes System als Frontier auf der Top500-Liste. Platz 1 der HPCG-Liste wird von Fugaku belegt; er besteht aus 7.630.848 A64FX ARM-Kernen und ist installiert im RIKEN Center for Computational Science in Kobe, Japan. Die resultierende Leistung von Fugaku in HPCG beträgt 16.004,50 TFlop/s (oder 16 × 10¹⁵ Gleitkommaoperationen pro Sekunde), was etwa 3,6 % seiner theoretischen Spitzenleistung entspricht. Die HPCG-Leistung von Frontier steht auf der HPCG-Liste an zweiter Stelle.

Eine weitere interessante Zahl für diese Supercomputer ist der Stromverbrauch, der für die Durchführung des Linpack-Benchmarks gemessen wird. Hier wird Frontier mit 22,768 MW angegeben, während Fugako mit 29,899 MW gelistet ist. Dies weist auf eine andere Rangliste hin, die die Leistung in Bezug auf die für die Berechnung verwendete Energie vergleicht, die sogenannte Green500-Liste. Das Maß für die Green500-Liste ist GFlop/Watt, d. h. wie viel Energie für die Bereitstellung des Linpack-Ergebnisses verwendet wurde. Auf Platz 1 der Green500-Liste steht derzeit JEDI – JUPITER Exascale Development Instrument, ein BullSequana XH3000-Rechner mit 19.584 Kernen in Jülich, Deutschland. Obwohl JEDI nur auf Platz 190 der Top500-Liste steht, erreichte es eine Energieeffizienz von 72,73 GFlop/Watt und einen Linpack-Wert von 4,5 PFlop/s. Die Entwicklungen auf der Green500-Liste bieten wertvolle Einblicke in die Entwicklung von Chips, wobei neuere Chips eindeutig energieeffizienter sind als ältere. Allerdings gibt es hier zwei Kritikpunkte: Erstens basiert Green500 wiederum auf den Linpack-Benchmarks und ist somit auf eine bestimmte Gruppe von Algorithmen beschränkt. Zweitens wird nur der Energieverbrauch des Systems gemessen, während alle anderen für den Betrieb des Systems erforderlichen Stromverbraucher vernachlässigt werden.

Die obigen Ausführungen zielen zwar auf High-Performance Computing (HPC) ab, jedoch ist die Situation bei KI-Supercomputern fast identisch. Der Hauptunterschied ergibt sich aus den Anwendungsmerkmalen, und daher müssen Supercomputer für KI mit KI-Benchmarks wie MLPerf gemessen werden. In vielerlei Hinsicht sind die Architekturen von KI-Supercomputern mit HPC-Systemen vergleichbar, aber die Eigenschaften der Verarbeitungselemente, der Speicheranbindung und des Verbindungsnetzes können sich unterscheiden. Tatsächlich wird der Supercomputer JUPITER auch Deutschlands leistungsstärkster Supercomputer für das Training von Large Language Models (LLMs) sein.

Vergleicht man die Anforderungen von KI mit HPC, so zeigt sich zuletzt ein starker Anstieg der Rechenleistung für KI-Training und -Inferenz. Die Top500-Liste der Supercomputer enthält derzeit 22 Systeme, das höchstplatzierte auf Position 10, des Herstellers NVIDIA, heutiger Weltmarktführer für KI-Chips. Darüber hinaus werden NVIDIA-Chips auch als Beschleuniger in vielen der heutigen HPC-Supercomputer eingesetzt. Die Einführung von KI in HPC führt zu Änderungen in den Architekturen, vor allem zur Reduzierung der 64-Bit-Funktionen, die für HPC unerlässlich sind, aber für KI nicht benötigt werden. Da mehr KI-Funktionen benötigt werden, wird der Platz auf den Chips vorzugsweise für KI-Funktionen und 64-Bit-Computing genutzt.

Die Fähigkeiten der KI können auch mit HPC verglichen werden, indem die Anforderungen von ChatGPT mit der Leistung von Frontier verglichen werden. Offizielle Zahlen werden zwar nicht genannt, aber Schätzungen für das Training von GPT-3 sprechen von 1064 MWh, während für die Inferenz 260 MWh pro Tag benötigt werden. Im Vergleich dazu benötigt Frontier etwa 545 MWh pro Tag. Es liegt auf der Hand, dass neuere Modelle von GPT noch mehr Energie benötigen, und die steigende Zahl der Benutzer erhöht den täglichen Bedarf. Eine Eingabeaufforderung in ChatGPT benötigt 6,79 Wh und die gleiche Anfrage in der Google-Suchmaschine 0,3 Wh. Es erfordert also von jedem von uns eine verantwortungsvolle Entscheidung, welches Tool für die Online-Recherche verwendet werden soll.

Bislang haben wir nur über den Energiebedarf der Verarbeitungselemente oder des gesamten Supercomputers gesprochen. Wenn wir uns den aktuellen Spitzenchip von NVIDIA, die sogenannte H100 GPU, genauer ansehen, sehen wir interessante Zahlen. (GPU steht für Graphics Processing Unit, was auf die ursprüngliche Verwendung dieser Chips hindeutet. Nachdem jedoch Algorithmen gefunden wurden, die diese Chips für KI nutzen können, haben sie dieses Marktsegment mit fliegenden Fahnen erobert.) Die NVIDIA H100 GPU ist mit 700 W spezifiziert. Geht man davon aus, dass der Chip zu 61 % ausgelastet ist, eine Zahl, die NVIDIA aus eigener Erfahrung angibt, beträgt der Energieverbrauch eines solchen Grafikprozessors 3741 kWh pro Jahr. Zum Vergleich: Ein deutscher Durchschnittshaushalt im Jahr 2020 benötigte 3200 kWh. Und das ist nur der Bedarf für eine GPU. NVIDIA schätzte den Absatz dieser GPUs für das Jahr 2024 auf 1,5–2 Mio. H100 Einheiten.

Der Stromverbrauch der einzelnen Rechenelemente oder sogar des Supercomputers ist nur ein Teil des gesamten Stromverbrauchs. In Rechenzentren beschreibt die Kennzahl Power Usage Effectiveness (PUE), manchmal auch als Stromverbrauchseffizienz bezeichnet, wie viel Energie im Vergleich zur übrigen Infrastruktur des Rechenzentrums einschließlich Kühlung und anderer Gemeinkosten von der Rechenanlage verbraucht wird. Die PUE berechnet sich aus der Gesamtenergiemenge, die dem Rechenzentrum zugeführt wird, im Verhältnis zur Energie, die für den Betrieb der Rechenanlagen verwendet wird. Für herkömmliche luftgekühlte Komponenten, z. B. die oben erwähnten H100-GPUs, werden die zusätzlichen Energiebedarfe auf mindestens 30 % für interne Lüfter und Ventilatoren und auf mindestens 30 % für externe Kühlung geschätzt. Das bedeutet, dass die oben erwähnten H100-GPUs mit einem PUE-Wert von 1,65 bis 1,80 berechnet werden, was auf einen Overhead von 65–80 % beim Energieverbrauch hinweist. Wenn die GPU 700 W benötigt, erfordert die Infrastruktur für den Betrieb dieser GPU zusätzliche 455–595 W oder insgesamt bis zu 1285 W pro GPU.

Für die realen Betriebsanforderungen von HPC- und KI-Supercomputern müssen wir den gesamten Stromverbrauch bewerten und daher mit der Gesamtenergie unter Verwendung der PUE berechnen. Umgekehrt müssen wir, um den Energieverbrauch von IT-Infrastrukturen zu reduzieren, viele verschiedene Aspekte potenzieller Energieverbraucher und deren Zusammenspiel untersuchen. Am LRZ wurde dafür das Vier-Säulen-Modell eingeführt, um eine ganzheitliche Optimierungsstrategie für die Energieeffizienz umzusetzen (Wilde et al., 2014). Diese vier Säulen sind jeweils:

Optimierungen von Rechenzentren sollten in jedem dieser Bereiche stattfinden. So können Verbesserungen des PUE-Wertes durch Optimierungen der Gebäudeinfrastruktur erreicht werden. Im LRZ erfolgt die Kühlung mit sogenannten Heißwasserkühlkreisläufen, die mit Wassertemperaturen von bis zu 45 Grad Celsius die Wärme aus den Rechenkomponenten abführen. Das Kühlwasser wird so nah wie möglich an die heißen Chips herangeführt, um die Wärme abtransportieren zu können. Wasser ist, wenn es zur Kühlung verwendet wird, in vielerlei Hinsicht besser als Luft, z. B. Wärmeleitfähigkeit 23x, Wärmekapazität 4x, volumetrische Wärmekapazität 3493x, thermische Trägheit 284x. Das in das Rechensystem eintretende Wasser wird aufgeheizt, und die entscheidende Frage ist, wie viel Energie benötigt wird, um das Wasser wieder unter die maximale Eintrittstemperatur zu bringen. Im LRZ ist bei 45 Grad Celsius Eintrittstemperatur und dem in Mitteleuropa derzeit üblichen Klima neben den normalen Außentemperaturen keine zusätzliche Kühlung erforderlich. Das bedeutet, dass der Aufwand für die Pumpen, die das Wasser antreiben, bei einem warmwassergekühlten System nur 2–3 % beträgt, was in einem PUE-Wert von 1,02–1,03 am LRZ resultiert und damit eine Energieeinsparung von 60–80 % im Vergleich zu den oben genannten luftgekühlten Systemen bedeutet. Das erste warmwassergekühlte System wurde 2012 im LRZ installiert, wobei im Laufe der Jahre zahlreiche Verbesserungen vorgenommen wurden. Die jüngste Verbesserung ist die Entfernung von Glykol aus den Heißwasserkreisläufen, da das warme Wasser im Freien nicht einfrieren kann, solange es fließt. Die Reduzierung des Glykols verbessert erneut die Kühlleistung des Wassers.

Ähnlich den Optimierungen in der Gebäudeinfrastruktur lassen sich auch andere Bereiche des Rechenzentrums auf Energieeffizienz optimieren. Im Bereich der Systemhardware kann der Stromverbrauch gesenkt werden, indem nur die zu einem bestimmten Zeitpunkt benötigten Komponenten mit Strom versorgt werden, oder es wird eine dynamische Taktfrequenzskalierung (Dynamic Clock Frequency Scaling) verwendet, um die Verarbeitungselemente mit der jeweils optimalen Taktfrequenz für eine bestimmte Anwendung zu betreiben. In der Systemsoftware-Säule können die Ressourcennutzung optimiert und die Ausführung von Anwendungen auf dem System abgestimmt werden. Im Bereich der Anwendungen lässt sich schließlich die Anwendungsleistung durch bessere Algorithmen oder eine bessere Anpassung des Codes an das zugrunde liegende System optimieren.

Algorithmen bieten angesichts ihrer zeitlichen und räumlichen Komplexität in der Regel das größte Optimierungspotential. So basieren beispielsweise heutige LLM-Systeme mit ihren Deep-Learning-Transformer-Ansätzen auf einer quadratischen Komplexität, wie im Originalpapier von Vaswani et al. (2017) angegeben. Dies ist die Hauptursache für die hohen Infrastrukturanforderungen heutiger KI-Systeme, da die Qualität des LLM mit mehr Daten zunimmt, während die Rechenleistung (und deren Energieverbrauch) mit der Datenzunahme quadratisch ansteigt. Sepp Hochreiter, einer der Autoren der ursprünglichen LSTM-Technologie (Long-Short Term Memory), die heute in vielen kommerziellen Geräten verwendet wird, schlägt xLSTM vor, eine Version, die schneller, effizienter und präziser sein soll. Die Berechnungen mit xLSTM bieten eine lineare Zunahme der Länge des verarbeiteten Textes und würden daher viel weniger Leistung und Energie verbrauchen als bestehende Ansätze. Andere Entwicklungen, z. B. von Stephan Günnemann et al., schlagen vor, sich auf die relevantesten Teile der neuronalen Netze zu konzentrieren und dadurch Modelle zu komprimieren, um sie kleiner und billiger zu machen. Björn Ommer, Erfinder der stabilen Diffusion, behauptet, er kämpfe gegen den Größenwahn der KI-Community.

Insgesamt sehen wir ein großes Potential bei der Optimierung des Energieverbrauchs von IT-Infrastrukturen, und eine ganzheitlichere Betrachtung aller Aspekte des Rechenzentrums und seines Stromverbrauchs erforderlich. Es gibt jedoch auch eine Perspektive der Energieversorgungsseite, die von der Rechenlast zum Ausgleich von Energienetzen profitieren kann, wie es im folgenden Abschnitt erläutert ist.

Wie bereits beschrieben, wird der erwartete Energieverbrauch neuer KI-Supercomputer in Nordamerika voraussichtlich 30 GW übersteigen und bis 2030 weltweit bei über 75 GW liegen. Das ist eine riesige Menge an Energie, insbesondere wenn sie von kohlenstofffreien bis -armen Generatoren geliefert werden soll. Wenn Europa und Deutschland im KI-Bereich wettbewerbsfähig bleiben und gleichzeitig ihre digitale Souveränität bewahren wollen, müssen sie aber auch ihre Hochleistungsrechen- und KI-Kapazitäten erheblich ausbauen und damit deutlich mehr Energie dafür zur Verfügung stellen.

In diesem Abschnitt betrachten wir die Stromnetze und Strommärkte etwas genauer, die die Energie im Gigawatt-Bereich für diese riesigen Rechenzentren bereitstellen werden. Wir beginnen mit einigen Hintergrundinformationen zu den Möglichkeiten des Energiemanagements in Rechenzentren, bevor wir uns den Stromnetzen, den Herausforderungen im Zusammenhang mit erneuerbarer Energie und den Strommärkten zuwenden. Insbesondere beleuchten wir die Volatilität der Strompreise und Emissionsfaktoren¹ im Tagesverlauf und zwischen den Jahreszeiten, die Notwendigkeit, die Stromnetze „auszugleichen“, sowie die Variabilitäts- und Übertragungsprobleme bei erneuerbaren Energien.

Anschließend diskutieren wir, wie diese Herausforderungen auf kostengünstige² Weise bewältigt werden können, insbesondere wenn Vorschriften und Marktstrukturen gutes Verhalten fördern, anstatt es zu behindern. Wenn Betreiber von Rechenzentren beispielsweise die Preisvolatilität ausnutzen, um die Energiekosten zu senken, können sie (i) energieintensivere Anwendungen planen, wenn Energie günstig ist, und energiearme Anwendungen planen, wenn Energie teuer ist, (ii) energieintensive Anwendungen an Standorten planen, an denen Energie derzeit weniger teuer ist, oder (iii) einfach abschalten (oder in einen Niedrigenergiezustand wechseln), wenn die Preise einen bestimmten Schwellenwert überschreiten. Mit derartig einfachen Minderungsstrategien lassen sich nicht nur die Energiekosten senken, sondern auch die CO₂-Emissionen durch den Betrieb der Rechenzentren verringern.

Umgekehrt können Rechenzentrumsbetreiber dem Stromnetz auch wichtige Funktionen zur Stabilität des Stromnetzes (sogenannte Nebendienstleistungen) bereitstellen. Die Bereitstellung von Nebendienstleistungen durch Rechenzentrumsbetreiber senkt sowohl ihre Stromkosten als auch die Notwendigkeit, große „Spitzenlast“-Stromerzeugungsanlagen³ (Peaker Plant) oder riesige Energiespeichersysteme (Batterien) zu bauen und einzusetzen.

Der Wachstumsfaktor von Rechenzentren, der größtenteils aus der Nachfrage nach KI resultiert, stellt eine Reihe von Herausforderungen für unsere Gesellschaft dar. Microsoft hat kürzlich das Projekt Stargate angekündigt, ein fünfstufiges Projekt zum Bau von KI-Rechenzentren. Das erste dieser neuen Rechenzentren wird 2026 gemeinsam mit Open AI in Mount Pleasant, Wisconsin, zu voraussichtlichen Kosten von 10 Mrd. US-$ eröffnet. Die Fertigstellung des Projekts ist für 2030 mit dem KI-Supercomputer Stargate zu Gesamtkosten von 115 Mrd. US-$ und einem Energieverbrauch von 5 GW geplant – 500-mal mehr als die Stromkapazität von LRZ. Die Konkurrenz von Microsoft arbeitet angeblich an ähnlichen Zielen.

Ob solche Ansätze nachhaltig sind, hängt von vielen verschiedenen Faktoren ab. Selbst wenn ein Unternehmen in der Lage ist, die erste Version eines solchen Rechenzentrums aufzubauen, fallen auch erhebliche Betriebs- und Wartungskosten an, einschließlich der Erneuerung der IT-Infrastruktur in regelmäßigen Zyklen, derzeit 5–7 Jahre.

Angesichts solcher Entwicklungen ist klar, dass Deutschland und Europa einen eigenen Fahrplan für zukünftige IT-Infrastrukturen benötigen. Der Deutsche Bundestag hat deshalb 2023 das Gesetz zur Steigerung der Energieeffizienz und zur Änderung des Energiedienstleistungsgesetzes (EnEfG) verabschiedet. Obwohl es erfreulich ist, dass die Politik dieses Ziel aufgreift, scheinen die Umweltziele im Gesetzesentwurf für das, was benötigt wird, zu wenig ehrgeizig zu sein.

Derzeit scheint es zumindest mit den aktuellen LLMs fast unmöglich, wettbewerbsfähige IT-Infrastrukturen in Deutschland oder Europa aufzubauen, angefangen von den Anforderungen an die Energieversorgung bis hin zur Verfügbarkeit der entsprechenden Hardware. Angesichts der Möglichkeit weltweiter politischer Veränderungen und um eine Bindung an bestimmte Anbieter zu verhindern, muss jedoch eine europäische Strategie für technologische oder digitale Souveränität entwickelt werden. Eine solche Strategie muss sich auf nachhaltige Aspekte von IT-Infrastrukturen konzentrieren, bei denen Europa heute sogar führend ist. Gleichzeitig ist jedoch möglicherweise die Zusammenarbeit mit internationalen Partnern zu prüfen.

Aus Platzgründen kann dieser Artikel nur einige Aspekte des Themas ansprechen. Einen detaillierteren Blick auf die Nachhaltigkeit von KI bietet Kate Crawford in ihrem Buch „Atlas of AI“ (2022). Neben der Energieproblematik benötigen Rechenzentren und IT-Infrastrukturen erhebliche Mengen Wasser für die Kühlung, seltene Erden für die Chips und viele andere Aspekte.