28. Gemeinsamer Aufbruch in eine neue Zeit

Nun sind wir am Ende dieses Fachbuches angelangt. Es ist uns als Herausgeber gelungen, exzellenten Fachverstand zu unterschiedlichen Aspekten des Themas Künstliche Intelligenz zu gewinnen. Dieses versammelte Wissen möchten wir auch in Zukunft bestmöglich in den wissenschaftlichen Diskurs und die gesellschaftliche Debatte einbringen, denn die gesellschaftliche Transformation, in der wir uns bereits befinden, wird historisch tiefgehen – und die resultierenden Auswirkungen sind ungewiss. Welches unserer Argumente wird gut altern und auch in 15 Jahren noch wesentlich sein? Welche Fragestellung wird mit ihrer Aktualität die kommenden Jahre nicht überleben? Welche wichtigen Entwicklungen haben wir nicht vorhergesehen und sie deshalb nicht in unserem Buch behandelt?

Wie schnell sich das Rad hier dreht, konnten wir an den vielen Schritten festmachen, die die KI-Entwicklung während der 18-monatigen Erstellungsdauer dieses Buches gemacht hat – beispielsweise Agentensysteme, Stargate, X-AI oder DeepSeek. Ein transdisziplinäres, wissenschaftliches Fachbuch kann nicht einmal annähernd den sich ständig weiterentwickelnden Erkenntnisstand allumfassend abbilden. Was wir stattdessen getan haben, ist, die laufenden wissenschaftlichen und gesellschaftlichen Diskurse auf dem jeweils aktuellen Wissensstand abzubilden und neue Ideen und vor allem neue Verknüpfungen zum weiteren Erkenntnisfortschritt beizutragen sowie die gesellschaftliche Debatte zur Zukunft der KI zu unterstützen. Bei dieser Debatte geht es um nichts weniger als die Frage, wie wir in Zukunft leben wollen – nicht zufällig der Titel unseres ersten Buches aus dem Jahr 2021. Einige Beispiele für Lücken, die wir schon jetzt sehen und die wir in Zukunft gerne schließen werden, sind KI und Cybersecurity oder KI und demokratische Willensbildung, wobei Fragen nach dem Subsidiaritätsprinzip, direkter oder Basisdemokratie oder der Rolle der Massenmedien zu berücksichtigen sind. Wir wollen aber auch wichtige Themen erneut aufgreifen, wie beispielsweise KI und Medizin bzw. KI und Gesundheit – Gebiete, die wir in unserem ersten Buch beleuchtet haben und die hier Axel Fersen in seinem Essay (Kap. 2) angerissen hat. Ein weiterer interessanter Themenkomplex, den wir zukünftig auch betrachten wollen, ist KI und Kultur und darunter beispielsweise KI und Musik.

Das war die Überschrift des Einleitungskapitels unseres ersten Buches, das wir als VDW Studiengruppe Technikfolgenabschätzung der Digitalisierung unter dem Titel Wie wir leben wollen – Kompendium zu Technikfolgen von Digitalisierung, Vernetzung und Künstlicher Intelligenz herausgegeben haben (Schmiedchen et al., 2021).

Eine zentrale Aussage war für uns damals wie heute, dass wissenschaftliche und technische Machbarkeit nicht gleichbedeutend mit Sinnhaftigkeit ist. Blinde Technikeuphorie und der Wunsch, durch technologische Überlegenheit Macht zu gewinnen, können die Menschheit auf einen Zukunftspfad führen, der weniger Lebensqualität für viele Menschen bedeutet. Schlimmstenfalls kann er sogar zu unabsichtlich geführten Kriegen führen – mit schrecklichen Konsequenzen (Kap. 27).

Wir hoffen, dass eine wesentliche Prämisse der Herausgeber klar sichtbar geworden ist: Wir wollen nicht dem techniknaiven Machbarkeitsopportunismus im Stile der USA oder Ostasiens verfallen. Stattdessen betonen wir deutlich den grundsätzlichen Vorrang des Menschen und seiner Freiheit, selbst zu entscheiden, wie die Gesellschaft aussehen soll, in der er/sie lebt. Hierfür ist Künstliche Intelligenz ein machtvolles weiteres Instrument, das zum bestehenden Repertoire menschlicher Werkzeuge hinzukommt und unseren Gestaltungsraum deutlich erweitert. Dieser technikfreundliche Grundansatz darf uns aber nicht dazu verführen, alles zu tun, was machbar ist. Deshalb hoffen wir, das Buch hat verdeutlicht, dass der Mensch niemals die Kontrolle über seine Werkzeuge verlieren darf, egal wie leistungsstark diese sind. Auch die besten Maschinen oder Algorithmen dürfen niemals direkte oder indirekte Macht über die Menschen gewinnen. Wir hoffen aber auch, dass Künstliche Intelligenz und Wir deutlich gezeigt hat, wie vielseitig und vielversprechend gegenwärtige und zukünftige KI-Anwendungen sein können.

Künstliche Intelligenz und Wir behandelt vor allem wissenschaftliche, technische, wirtschaftliche und militärische Aspekte der KI, da wir uns in unserem ersten Buch Wie wir leben wollen auf KI-Anwendungen in den Bereichen Gesundheit, Bildung, Recht, Arbeit und Soziales sowie auf Nachhaltigkeitsaspekte konzentriert haben. Insofern verweisen wir gerne auf unsere dort nachzulesenden Ausführungen zu den Themen, die in diesem Buch nicht aufgenommen wurden. Beide Bücher behandeln philosophische Fragen, wobei ethische Aspekte sowie das Verhältnis zwischen Mensch und Maschine eine besondere Rolle spielen.

Wer Künstliche Intelligenz und Wir bis hierhin gelesen oder sogar durchgearbeitet hat, dürfte eine umfassende Übersicht über Stand und Entwicklung von KI gewonnen haben. Wenn wir unsere Arbeit gut gemacht haben, dann sollten Sie gelernt haben,

Künstliche Intelligenz und Wir zeigt ebenfalls, dass nach 80 Jahren weitgehender Stabilität in den westlichen Industrienationen die Zukunft auch in unseren Ländern deutlich unsicherer geworden ist und dass die weitere KI-Entwicklung kompetitiver und damit wesentlich gefährlicher sein wird,¹ als dies in der „guten alten“ regelbasierten Weltordnung der Fall gewesen wäre. Bereits in unserem ersten Buch haben wir darauf verwiesen, dass die freiheitliche Gesellschaft von außen und von innen bedroht wird und dass KI dabei eine wesentliche Rolle spielt (Schmiedchen, 2021, S. 12 f.). Wenn Mechanismen der Vertrauensbildung sowohl innenpolitisch als auch international nicht mehr funktionieren, dann schafft eine Technologie, die Lügen wie Wahrheit aussehen lassen kann, eine gefährliche Situation – sowohl für die innenpolitische Konsensbildung (KI für Desinformation) als auch für Frieden und Sicherheit in der Welt (KI in militärischen Befehlsketten).

Künstliche Intelligenz ist eine Basisinnovation, die in den Prozess der umfassenden digitalen Vernetzung eingebettet ist und Gesellschaft, Wirtschaft und Staat ebenso wie unser Alltagsleben disruptiv zu verändern beginnt. Die Entwicklung kognitiv gesteuerter, komplexer autonomer Systeme, die eigenständige Entscheidungen treffen, ist beeindruckend und beunruhigend. Mit Künstliche Intelligenz und Wir und Wie wir leben wollen bieten wir einen sowohl breiten als auch tiefen Einblick in die Möglichkeiten und Risiken der KI in ihren verschiedenen Anwendungsgebieten.

Bei aller Begeisterung über die Leistungen der KI-Systeme verlieren wir nicht aus den Augen, dass es sich bei KI um hochkomplexe technische Systeme handelt, die allein deshalb fehlerbehaftet sind, weil sie so komplex sind. Darüber hinaus sind neuronale Netzwerke black boxes, die es teilweise unmöglich machen, die Entscheidungsfindungen der KI nachzuvollziehen.

Eine Vielzahl von Parametern und Designentscheidungen beeinflusst das Verhalten des Systems. Die Tatsache, dass darüber hinaus oft bewusst Zufallselemente eingebaut werden (vgl. Kap. 6), und die praktisch nicht beherrschbare Dimensionierung des Zustandsraums eines KI-Systems an sich führen dazu, dass Tests im klassischen Sinne nicht möglich sind, sondern die Funktion nur punktuell getestet werden kann. Es ist davon auszugehen, dass es KI-Entwickler gibt, die billigend in Kauf nehmen, dass ihr System möglicherweise gravierende Fehler enthält, die sich erst nach Jahren äußern. Ein Beispiel sind KI-induzierte spontane Vollbremsungen bei autonomen Fahrsystemen, die auch den Entwicklern Rätsel aufgeben. Der Betrieb von KI-Systemen verlangt also von allen Beteiligten Vertrauen. Worauf aber soll dieses Vertrauen basieren, wenn KI-Systeme auf subsymbolischer Basis selbst bei Offenlegung nicht erschlossen werden können, so dass nur schlichter Glaube übrigbleibt? Aus diesem Grund sind im Sinne des Vorsorgeprinzips Technikfolgenabschätzungen unumgänglich, die eine Risikoklassifikation beinhalten, wie sie beispielsweise gemäß der EU KI-Verordnung (vgl. Kap. 23) vorgenommen wird. Für das gesicherte Entstehen einer hypothetisch menschheitsbedrohenden, allgemeinen (starken) Künstlichen Intelligenz (AGI) auf der Basis subsymbolischer, neuronaler Netzwerke sehen wir keine belastbaren Indizien. Das schließt jedoch nicht aus, dass es vor dem Hintergrund von menschlicher Kreativität und Erfindergeist gepaart mit Gier, Angst und Machtansprüchen dazu kommen könnte.

Doch auch ohne Berücksichtigung der AGI wird die herrschende „Goldgräberstimmung“ hinsichtlich der auf KI basierenden Innovationen anhalten und eine enorme Disruption in unseren gesellschaftlichen, politischen und wirtschaftlichen Systemen herbeiführen. Um Milton Friedman zu zitieren, gibt es derzeit an sehr vielen Ecken unserer KI-Stadt noch einen „Free Lunch“ (Friedman, 1975). Bisher zahlen andere dafür, dass wir neue KI-Anwendungen sehen und ausprobieren können. Das wird aber nicht immer so sein, denn das wirtschaftliche Kalkül der Investoren und Werbekunden muss am Schluss ja aufgehen. Am Goldrausch, so ein böses Sprichwort, haben vor allem die Schaufelverkäufer verdient. Überträgt man dieses Bild auf KI, so ist unbestreitbar, dass gerade die Hersteller von Hardware und die Betreiber von Rechenzentren und Cloud-Dienstleistungen sowie die Produzenten der erforderlichen Energie-Infrastruktur sehr gut verdienen werden. Demgegenüber haben aber noch nicht einmal die Anbieter von KI als Dienstleistung, wie etwa OpenAI, Gewinne erzielt (Smith, 2025). Das soll an einem Beispiel veranschaulicht werden: Im werbefinanzierten Internet werden viele Angebote im direkten Bezug zunächst einmal kostenlos zur Verfügung gestellt und von den Nutzern nur indirekt bezahlt, z. B. durch das Hinnehmen von Werbeeinblendungen oder aber durch die kostenlose Abgabe personenbezogener Daten. Damit werden die erheblichen Kosten zum Betrieb eines Angebots derzeit noch gegenfinanziert. Wenn jetzt aber ein werbefinanzierter Suchmaschinenanbieter neben seiner kalkulierten Gewinnmarge und der Kostendeckung für crawling (Aufbau von Suchindizes) sowie den entsprechenden Abfragekosten zusätzlich noch zehnmal höhere Kosten für eine eingeblendete KI-generierte Antwort einkalkulieren muss, wird die Situation zumindest herausfordernd. Weder werden die Werbekunden bereit sein, einen um Faktor 10 höheren Preis hinzunehmen, noch werden die Nutzer zehnmal so viel Werbung akzeptieren. Auch eine Mischung aus beidem klingt nicht sonderlich marktkonform.

Eine viel wichtigere Begrenzung für das zukünftige Wachstum von KI sind jedoch die verbundenen Energieaufwendungen. Insbesondere die großen Sprachmodelle verbrauchen am meisten Energie, sowohl im Vergleich zu anderen Verfahren als auch absolut gesehen durch ihren massiven globalen Einsatz. Für die Generierung auch nur eines Antwort-Tokens müssen bei großen Modellen wie denen der Marktführer mehrere Hundert Gigabyte oder mehr an neuronalem Netz durchgerechnet werden. Der Energieaufwand wächst also mit der Zahl der Tokens und somit mit der Länge des Eingabetextes sowie der Antwort. Dabei sind die Ergebnisse nicht einmal annähernd mit den Leistungen eines menschlichen Gehirns konkurrenzfähig, das jedoch im Gegensatz zur KI nur rund 20 W für die Erbringung der gleichen Leistung benötigt (Balasubramanian, 2021). Es ist offensichtlich, dass bei gleicher Technologie das Skalieren mit immer mehr Hardware und sogar mit eigenen Kraftwerken allein für KI-Berechnungen eine wirtschaftliche Sackgasse darstellt. Um alle denkbaren KI-Träume auf Basis der heutigen Technik zu erfüllen, müsste der gesamte (vor-KI-) Energieverbrauch des Planeten für KI herhalten. Ein alternativer Weg könnten sogenannte neuromorphe Chips sein (Intel, o. J.; Caballar & Stryker, 2024), die aber noch in der Anfangsphase stecken. Ein weiterer Ansatz ist die Verwendung biologischer Neuronen, die aus menschlichen Stammzellen gewonnen wurden (Sokolov, 2025; Thompson, 2025). Bei dieser Technologie wäre aber der erwartbare Verfall des Zellmaterials, der einen periodischen Austausch der „Hardware“ erfordert, ein Problem. Hinzu kommen berechtigte und gravierende ethische Bedenken.

Der oft bemühte Hype-Zyklus von Gartner (Linden & Fenn, 2003) prophezeit, dass bei einer neuen Technologie nach einer ersten euphorischen Hochphase eine Phase der Ernüchterung und Konsolidierung einsetzt. In dieser Phase werden nicht tragfähige Geschäftsmodelle vom Markt ausgesondert, und es überleben nur die profitablen bzw. realistischen Angebote. Wir werden diese in der Zukunft liegende Phase aufmerksam begleiten.

Nicht nur in der Wirtschaft, sondern auch in Forschung und Entwicklung nimmt die Bedeutung von KI rasch zu. Vor allem in den Naturwissenschaften und Ingenieurdisziplinen beschleunigen KI-Algorithmen den wissenschaftlichen Fortschritt und ermöglichen völlig neue Forschungslösungen. Gleichzeitig können KI-Systeme sich kontinuierlich auf Grundlage neuer Daten verbessern, also „lernen“, um ihre Reaktionen zu verbessern. Hieraus entsteht schrittweise die Möglichkeit, operative Forschungsprozesse (z. B. Simulationen, Laborexperimente) autonom zu gestalten und die hieraus freigestellten Ressourcen für bessere Ergebnisinterpretationen und schnelleren Forschungsfortschritt zu nutzen.

Wenn es heute so scheint, als ob Europa in der KI-Entwicklung den Anschluss verlieren könnte, und dies vor dem Hintergrund der geoökonomischen Veränderungen das gute Leben auf unserem Kontinent gefährdet, dann müssen wir gemeinsam dafür sorgen, dass wir den Anschluss nicht verlieren. Europäische Spitzenforschung ist auch heutzutage nicht nur im Grundlagenbereich spitze. Auch die anwendungs- und produktorientierte Forschung an Universitäten, Instituten und Unternehmen ist Weltspitze. Wir wollen, dass das so bleibt! Deshalb ist dieses Buch auch ein lauter Ruf nach massiver Forschungs- und Industrieförderung für die Entwicklung einer leistungsstarken und wettbewerbsfähigen, vermutlich neuro-symbolischen, dritten Generation von KI, die die Vorteile von symbolischer KI mit denen des subsymbolischen maschinellen Lernens verbindet – einer neuen Technologie, die die Kontrolle des Menschen über die KI zweifellos verbessern würde.

Die verschiedenen Kapitel dieses Buches haben verdeutlicht, warum es einer vernunftbasierten Regulierung von KI bedarf, die sich am Vorsorgeprinzip orientiert. Aber dieses Fachbuch zeigt auch, dass Europa etwas Eigenständiges braucht, das wir regulieren können: Erst regulieren und dann mal sehen, wohin die Reise geht – das gelingt nur dann, wenn die getroffenen Regelungen allgemein genug sind, um alle zum Zeitpunkt des Inkrafttretens denkbaren technischen Weiterentwicklungen in ihrem Gültigkeitsbereich zu belassen. Weil aber oftmals zuerst die KI-Entwicklung kommt, welcher dann die notwendige KI-Regulierung folgt, muss vor und bei der Entwicklung Künstlicher Intelligenz die persönliche Verantwortung des Wissenschaftlers und der Forscherin stehen, die sich der Konsequenzen ihres Handelns ganz bewusst sind. Die wichtigste gesellschaftliche Kontrollinstanz ist das eigene Gewissen! Deshalb legt die Vereinigung Deutscher Wissenschaftler e.V. (VDW) so viel Wert auf die persönliche Verantwortung jedes Einzelnen im Wissenschaftsbetrieb. Wir glauben an die verfassungsrechtlich garantierte Freiheit der Wissenschaft, und wir flankieren sie mit dem Anspruch ethischen Handelns und moralischer Verantwortung. „Verantwortung der Wissenschaft“ – so lautete auch der Titel unseres Epilogs in unserem ersten Buch „Wie wir leben wollen“.

Sowohl die Vereinigung Deutscher Wissenschaftler e.V. (VDW) als auch die genua GmbH sehen in diesem Buch eine Einladung an Sie, gemeinsam einen Beitrag zu leisten, damit die dritte Welle der KI zu transparenten, nachvollziehbaren und verlässlich vertrauenswürdigen KI-Algorithmen und KI-Nutzungen führt. Wir laden Sie daher gemäß unserer unterschiedlichen Rollen ein, mit uns ins Gespräch zu kommen.

Für die VDW bedeutet dies zum einen, dass wir an den Wissenschaftsakademien, Universitäten, Hochschulen und Forschungsinstituten, an denen unsere Mitglieder tätig sind oder mit denen wir auf die eine oder andere Art und Weise kooperieren, in den nächsten Jahren verstärkt Angebote zu Themen der Künstlichen Intelligenz machen wollen. Dies kann im Rahmen des ordentlichen Lehrbetriebs geschehen, als außerordentliche Blockveranstaltungen (z. B. Summer Schools), Ringvorlesungen oder im Rahmen wissenschaftlicher Tagungen und Konferenzen. Wir freuen uns, wenn Sie bei Interesse Kontakt zu uns aufnehmen: sgdigitalisierun​g@outlook.​de!

Für die genua GmbH bedeutet dies, sich gemäß ihrem Geschäftszweck der gehobenen IT- und Informationssicherheit auch um die Auswirkungen von KI auf die IT-Sicherheit zu kümmern: Wo kann KI einen Beitrag für mehr Sicherheit leisten? Wie müssen KI-Systeme selbst gegen Angriffe abgesichert werden? Und an welchen Stellen nutzen die Angreifer KI-Systeme zur Automatisierung und Variation von Angriffen oder zur Erhöhung der Plausibilität von Phishing-Angriffen – und welche Verteidigungsmaßnahmen müssen dagegen folgerichtig aufgestellt werden?

Wir wollen und werden gemeinsam auch mit Stiftungen, Verbänden, Behörden, Parteien und Vereinigungen zusammenarbeiten, um die Diskussion über den bestmöglichen Weg der weiteren KI-Entwicklung in Deutschland und in der Europäischen Union mitzugestalten. Sprechen Sie uns bitte an, wenn Sie daran Interesse haben: sgdigitalisierun​g@outlook.​de!