KI und Demokratie
Zukunftsbeiträge aus Wissenschaft und Praxis
- 2026
- Buch
- Herausgegeben von
- Ramona Casasola-Greiner
- Korbinian Rüger
- Verlag
- Springer Fachmedien Wiesbaden
Über dieses Buch
Wenn Maschinen entscheiden, steht unsere Demokratie auf dem Spiel. In diesem Sammelband diskutieren führende Denker:innen, Wissenschaftler:innen und Praktiker:innen, wie Künstliche Intelligenz unsere freiheitliche Gesellschaft herausfordert und warum wir die Zukunft proaktiv gestalten müssen. Klar und fesselnd zeigen die Beiträge, welche Risiken und Chancen die allgegenwärtigen Algorithmen für Gerechtigkeit, Transparenz und Teilhabe bergen.
Von den globalen Machtgefügen um die führenden Techkonzerne bis zu den gefährdeten Grundrechten jedes und jeder Einzelnen – dieses Buch beleuchtet, wie wichtig es ist, im Zeitalter der KI unsere demokratischen Werte zu verteidigen. Eine provokante und fundierte Bestandsaufnahme, die dazu motiviert, über die Zukunft der Demokratie neu nachzudenken.
Anzeige
Inhaltsverzeichnis
-
Frontmatter
-
1. KI-Basics – Einführung in die Künstliche Intelligenz
Matthias BöckDieses Kapitel führt Sie durch die faszinierende Welt der Künstlichen Intelligenz – von ihren bescheidenen Anfängen in den 1950er-Jahren bis zu den bahnbrechenden Entwicklungen der Gegenwart. Sie erfahren, wie KI-Systeme funktionieren, welche Arten von Intelligenz unterschieden werden und welche Methoden wie Machine Learning, Deep Learning oder Generative KI zum Einsatz kommen. Ein besonderer Fokus liegt auf den aktuellen Sprachmodellen wie ChatGPT und ihren Trainingsprozessen, die von der Komprimierung des Internets bis zur Feinjustierung durch menschliches Feedback reichen. Der Text beleuchtet zudem die Unterschiede zwischen klassischem Machine Learning und generativer KI sowie die Herausforderungen bei der Bewertung und dem Einsatz dieser Technologien. Abschließend wirft er einen Blick auf die Zukunft der KI, einschließlich der aufkommenden Agentic AI und der globalen Wettläufe um technologische Vorherrschaft. Sie erhalten nicht nur ein solides Grundlagenwissen, sondern auch eine kritische Einordnung der Chancen und Risiken dieser transformativen Technologie – essenziell für alle, die KI verantwortungsvoll mitgestalten möchten.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungKünstliche Intelligenz umgibt uns – sei es in unserem Smartphone, in selbstfahrenden Autos, als digitale Helfer im Job oder sogar bei der Beeinflussung von Wahlen. Doch was steckt wirklich hinter diesem Begriff? In diesem Kapitel werfen wir einen Blick auf die Ursprünge und die faszinierenden Konzepte, die KI heute an vielen sichtbaren, aber auch unsichtbaren Stellen zu einem Teil unseres Alltags machen. Ein kompakter Einstieg in die Welt der KI, der die wichtigsten Begriffe erklärt und heutige Entwicklungen jenseits des Hypes einordnet. -
2. Einführung der EU-KI-Verordnung 2026: Ein neues Kapitel für Künstliche Intelligenz
Anja Thomas, Cecilia Colloseus, Doris AschenbrennerDieses Kapitel beleuchtet die EU-KI-Verordnung 2026 als zentralen regulatorischen Rahmen für die Entwicklung und den Einsatz von KI-Systemen in der Europäischen Union. Im Mittelpunkt stehen die vier Risikokategorien – von minimalem bis untragbarem Risiko – sowie die damit verbundenen Compliance-Anforderungen für Unternehmen. Besonders detailliert wird auf die Pflichten zur Transparenz, Datenqualität und ethischen Gestaltung von KI-Systemen eingegangen, die sich aus der risikobasierten Einstufung ergeben. Ein weiterer Schwerpunkt liegt auf den praktischen Auswirkungen für verschiedene Branchen, darunter Gesundheitswesen, Bildung und öffentliche Verwaltung, sowie auf den Herausforderungen für KMU und Start-ups. Zudem werden die Kritikpunkte an der Verordnung diskutiert, etwa mögliche Innovationshemmnisse oder unklare Durchsetzungsmechanismen. Abschließend zeigt das Kapitel auf, wie Unternehmen die neuen Anforderungen bewältigen können und welche neuen Geschäftsfelder sich durch die Regulierung ergeben, etwa im Bereich der Compliance-Beratung. Leser erfahren, wie sie ihre KI-Systeme zukunftssicher gestalten und gleichzeitig die gesetzlichen Vorgaben erfüllen, um Wettbewerbsvorteile zu sichern.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDie 2024 verabschiedete EU-KI-Verordnung markiert einen Wendepunkt in der europäischen KI-Governance. Durch die Einteilung von KI-Systemen in vier Risikokategorien, von minimal bis inakzeptabel, schafft sie einen strukturierten Rahmen für den sicheren Einsatz von KI-Anwendungen. Der Schwerpunkt liegt dabei auf Transparenz, hochwertigen Daten und dem Schutz der Nutzerrechte. Unternehmen stehen vor strengen Anforderungen, wobei insbesondere KMUs mit neuen Herausforderungen und Chancen konfrontiert sind, zum Beispiel durch einen wachsenden Bedarf an Beratung und Compliance-Dienstleistungen. Die Verordnung beeinflusst aber nicht nur technologische Entwicklungen, sondern greift auch tief in gesellschaftliche und demokratische Prozesse ein. Gleichzeitig positioniert sich die EU damit als globaler Vorreiter für ethische KI-Regulierung. -
3. Aufklärung ohne Erklärung
Lars WeisbrodDer Beitrag beleuchtet die paradoxe Situation, dass künstliche Intelligenz wie IBMs Watson zwar komplexe Aufgaben meistert – etwa Quizshows zu gewinnen oder natürliche Sprache zu verarbeiten –, ihre Entscheidungsfindung aber für Menschen undurchschaubar bleibt. Anhand konkreter Beispiele wie Watsons absurder drittplatzierter Antwort 'Syrien' auf eine Frage zu Agatha Christie zeigt der Text, wie neuronale Netze zwar korrekte Lösungen liefern, aber keine nachvollziehbaren Erklärungen für ihre Ergebnisse bieten. Diese 'black box'-Problematik wird mit grundlegenden Fragen der Demokratie verknüpft: Sollten Bürger:innen Algorithmen vertrauen, deren Funktionsweise selbst Expert:innen nicht mehr verstehen? Der Autor diskutiert die Spannung zwischen technokratischer Effizienz und dem menschlichen Bedürfnis nach Verständnis, indem er liberale Demokratiekonzepte hinterfragt und die Gefahr einer 'hyperliberalen Demokratie' aufzeigt, in der Entscheidungen ausschließlich auf unverstandenen Modellen beruhen. Abschließend wird die provokante These aufgestellt, ob der Mensch sein Streben nach Erkenntnis überhaupt noch braucht, wenn Maschinen Probleme lösen – ohne dass jemand weiß, warum. Der Text regt damit zum Nachdenken über die Grenzen des technologischen Fortschritts und die Rolle des Menschen in einer zunehmend von KI geprägten Welt an.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungEin neuronales Netzwerk sei eine „Black Box“, heißt es gern. Man könne die Entscheidungen und Ausgaben eines solchen Netzes nicht „erklären“, so wie wir die eines Menschen erklären können. Aber was genau bedeutet das? Es ist hilfreich, verschiedene Aspekte von „Erklärbarkeit“ sauber zu unterscheiden: Die mathematische Funktionsweise eines neuronalen Netzes ist für Laien unverständlich, sie können sie nicht erklären. Hier sind sie auf Experten angewiesen, die zwar nicht den Laien, aber zumindest sich selbst die Mathematik erklären können – und ihnen müssen die Laien dann vertrauen. Von einer Intelligenz, egal ob künstlich oder nicht, erwarten wir jedoch mehr als nur diese mathematische Verständlichkeit – wir erwarten, dass wir ihre Entscheidungen und Überlegungen auch auf einer semantischen Ebene nachvollziehen und erklären können. Solche semantischen Erklärungen aber können im Falle eines neuronalen Netzwerkes nicht einmal Experten geben. Die KI bleibt in diesem Sinne unverständlich. Der Aufsatz schlägt eine Brücke von diesem technischen Befund hin zu einer aktuell sehr hitzig geführten politischen Diskussion: Wie technokratisch darf eine liberale Demokratie sein? Je nachdem, welche Position man zu dieser politischen Frage bezieht, erscheinen „unerklärliche“ künstliche Intelligenzen entweder als nützliche Ergänzung des demokratischen Prozesses – oder als brandgefährlich. -
4. KI und Gerechtigkeit in der Zivilgesellschaft
Christoph Hassler, Nevena Nikolajević, Anke S. Obendiek, Oliver Pfleiderer, Jonas StettnerKünstliche Intelligenz bietet zivilgesellschaftlichen Organisationen neue Möglichkeiten, gesellschaftliche Teilhabe zu fördern und Ressourcen effizienter einzusetzen. Gleichzeitig wirft ihr Einsatz grundlegende Fragen nach Gerechtigkeit auf: Wer profitiert von KI, wer wird benachteiligt, und wie lassen sich Machtkonzentrationen und ökologische Belastungen vermeiden? Der Fachbeitrag analysiert diese Spannungsfelder systematisch und leitet daraus vier zentrale Gerechtigkeitsdimensionen ab, die für gemeinwohlorientierte Organisationen besonders relevant sind. Zunächst wird der Zusammenhang zwischen KI und Gerechtigkeit theoretisch fundiert: KI-Systeme spiegeln gesellschaftliche Ungleichheiten wider und können bestehende Machtstrukturen verfestigen. Der Beitrag zeigt, wie Verzerrungen in Trainingsdaten, fehlende Diversität in Entwicklungsteams und ungleiche Zugangsbedingungen zu diskriminierenden Ergebnissen führen. Besonders problematisch sind die unsichtbaren Arbeitsbedingungen in der KI-Wertschöpfungskette, etwa bei Clickworker:innen im globalen Süden, sowie die ökologischen Folgen des hohen Ressourcenverbrauchs von KI-Infrastrukturen. Im zweiten Schwerpunkt werden praxisnahe Lösungsansätze für mehr Gerechtigkeit vorgestellt. Dazu gehören der Aufbau von KI- und Datenkompetenzen (AI Literacy und Data Literacy), die Etablierung diskriminierungssensibler Leitlinien sowie die Förderung von Teilhabe durch partizipative Gestaltung. Konkrete Beispiele wie das Sprachassistenzsystem des Arbeiter-Samariter-Bundes oder das Projekt ParrotPark illustrieren, wie gemeinwohlorientierte Organisationen KI ressourcenschonend und inklusiv einsetzen können. Ein zentrales Ergebnis ist der Code of Conduct Demokratische KI, der acht Prinzipien für den verantwortungsvollen KI-Einsatz formuliert und zivilgesellschaftlichen Organisationen einen konkreten Orientierungsrahmen bietet. Der Beitrag schließt mit einem Ausblick auf die Gestaltungsmöglichkeiten gemeinwohlorientierter Akteure und betont die Notwendigkeit, demokratische Grundwerte in die KI-Entwicklung zu integrieren. Leser:innen erhalten damit nicht nur eine kritische Analyse der Risiken, sondern auch konkrete Handlungsempfehlungen, um KI im Sinne von Gerechtigkeit und Gemeinwohl einzusetzen.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDieser Beitrag untersucht das Spannungsfeld zwischen Künstlicher Intelligenz (KI) und Gerechtigkeit aus zivilgesellschaftlicher Perspektive. Während KI-Anwendungen Potenziale für mehr Teilhabe, Effizienz und Fairness versprechen, zeigen sich tiefgreifende soziale, ökologische und politische Ungleichheiten, die neue Fragen von Gerechtigkeit aufwerfen. Anhand vier zentraler Gerechtigkeitsdimensionen – Zugang, Kompetenzen, Diskriminierung und Nachhaltigkeit – diskutiert der Text Risiken und Herausforderungen für zivilgesellschaftliche Organisationen. Das Kapitel diskutiert dabei nicht nur Problemfelder, sondern stellt Lösungsansätze vor und beleuchtet so Handlungsmöglichkeiten der Zivilgesellschaft. Im Mittelpunkt steht dabei die gemeinwohlorientierte, gerechte und demokratisch kontrollierte Gestaltung von KI. -
5. KI ist keine Feministin – Wie Künstliche Intelligenz Vergewaltigungen normalisieren und Frauen verhungern lassen könnte
Ramona Casasola-GreinerDer Fachbeitrag analysiert, wie Künstliche Intelligenz strukturelle Benachteiligungen von Frauen reproduziert und verschärft – von der historischen Unterrepräsentation von Wissenschaftlerinnen in der KI-Entwicklung bis zu konkreten Diskriminierungspraktiken in der Gegenwart. Zunächst wird der „Matilda-Effekt“ in der KI-Geschichte thematisiert: Trotz maßgeblicher Beiträge von Frauen wie Ada Lovelace oder Grace Hopper werden ihre Leistungen systematisch ausgeblendet, was zu einer männlich dominierten Narrative der Technologieentwicklung führt. Im Hauptteil zeigt der Text auf, wie KI-Systeme durch verzerrte Trainingsdaten und einseitige Entwicklerteams Diskriminierungen automatisieren – etwa in der medizinischen Diagnostik, wo Frauen seltener korrekt behandelt werden, oder in Bewerbungssoftware, die männliche Kandidaten bevorzugt. Besonders brisant sind die Beispiele aus der Bilderkennung, wo Algorithmen Frauen of Color systematisch schlechter erkennen, sowie die Auswirkungen auf finanzielle Unabhängigkeit durch KI-gestützte Kreditvergabe. Ein weiterer Schwerpunkt liegt auf den ethischen und gesellschaftlichen Folgen von Sex-Robotern, die nicht nur Frauen objektifizieren, sondern auch reale Gewaltfantasien normalisieren könnten. Abschließend wird der Zusammenhang zwischen energiehungriger KI, Klimawandel und Frauenrechten beleuchtet: KI-bedingte Umweltbelastungen treffen Frauen weltweit unverhältnismäßig hart, da sie in Krisensituationen wie Dürren oder Naturkatastrophen die Hauptlast tragen. Der Text endet mit einem Appell für strukturelle Veränderungen in der KI-Entwicklung – von diversen Entwicklungsteams bis zu gendersensiblen Datenpraktiken – um algorithmische Gerechtigkeit zu gewährleisten und eine demokratische Teilhabe aller Geschlechter zu ermöglichen.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDieser Aufsatz untersucht, wie Künstliche Intelligenz (KI) bestehende Geschlechterungleichheiten nicht nur reproduziert, sondern oft verstärkt und in neue, systemische Formen der Diskriminierung überführt – in Alltag und Beruf, bis hin zu möglicherweise existenziellen Bedrohungen. Die Analyse verdeutlicht, dass es sich dabei nicht um technische Defizite, sondern um tiefgreifende gesellschaftliche und politische Machtfragen handelt. Abschließend wird argumentiert, dass nur durch Diversität, gendersensible Datenpraktiken, sozial orientierte Technikfolgenabschätzung und machtkritische Regulierung eine demokratische und gerechte Gestaltung von KI möglich ist. -
6. Beziehungen mit KI
Benjamin LangeDas Kapitel beleuchtet die wachsende Vielfalt von Mensch-KI-Beziehungen und unterteilt sie in drei zentrale Kategorien: emotionale Beziehungspartner, Alltagshelfer sowie simulierte Persönlichkeiten. Es wird gezeigt, wie KI-Systeme zunehmend als romantische Partner, therapeutische Begleiter oder digitale Abbilder Verstorbener fungieren und dabei emotionale Bindungen suggerieren. Anschließend analysiert der Text, was eine „Beziehung“ überhaupt ausmacht – insbesondere im Vergleich zu flüchtigen Interaktionen – und welche normativen Merkmale zwischenmenschliche Bindungen von KI-Interaktionen unterscheiden. Dabei wird deutlich, dass Mensch-KI-Beziehungen oft asymmetrisch und durch externe Rahmenbedingungen geprägt sind, was ihre Authentizität und moralische Relevanz infrage stellt. Zwei grundlegende ethische Positionen werden gegenübergestellt: funktionale Ansätze, die allein das Verhalten der KI als Kriterium für moralische Beziehungen heranziehen, und nicht-funktionale Ansätze, die die strukturellen Unterschiede betonen. Abschließend werden drei praktische Gestaltungsansätze für KI-Beziehungen diskutiert – ein moraltheoretischer, ein relationaler und ein demokratisch-prozeduraler Ansatz – die konkrete Leitplanken für eine ethisch vertretbare Integration von KI in soziale Kontexte bieten. Das Kapitel schließt mit einem Ausblick auf zukünftige Forschungsfragen und die Notwendigkeit gesellschaftlicher Debatten über die normative Bedeutung von KI-Beziehungen.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungMensch-KI Beziehungen nehmen in unserem Alltag eine immer zentralere Rolle ein: etwa in der Interaktion mit Chatbots, KI-Companions, digitalen Assistenten oder virtuellen Avataren. Dieses Kapitel untersucht, ob und inwiefern sich zwischen Menschen und KI-Systemen Beziehungen entwickeln können und welche ethische Relevanz solchen Beziehungen zukommt. Ziel ist es, Orientierungswissen für die ethische Bewertung zukünftiger Mensch-KI-Interaktionen bereitzustellen. Ausgehend von einer Systematisierung momentaner Mensch-KI-Interaktionen wird der Beziehungsbegriff konzeptuell geschärft und auf seine philosophisch normative Bedeutung hin analysiert. Es wird untersucht, ob KI-Systeme als genuine Beziehungspartner gelten können oder ob die dabei entstehenden Bindungen notwendigerweise asymmetrisch und einseitig bleiben. Ein zentrales Argument ist, dass die normative Debatte nach der Plausibilität von genuinen Mensch-KI-Beziehungen im Gesamtkontext von unseren normativen Handlungsgründen betrachtet werden sollte. Anschließend werden drei Ansätze zur ethischen Gestaltung von Mensch-KI Beziehungen vorgestellt und auf ihre Anwendbarkeit hin erläutert. -
7. KI und Demokratie in der Arbeitswelt
Jonas Ferdinand, Mario Michael OttaianoDer Fachbeitrag beleuchtet die ambivalente Rolle von Künstlicher Intelligenz (KI) in der modernen Arbeitswelt und ihre Auswirkungen auf die betriebliche Demokratie. Im Zentrum steht die Frage, wie KI-Systeme die Strukturen der Mitbestimmung und die Rechte der Beschäftigten verändern – sowohl positiv als auch negativ. Der Text analysiert zunächst das Konzept der industriellen Staatsbürgerrechte und zeigt auf, wie diese durch digitale Transformationsprozesse unter Druck geraten. Dabei wird deutlich, dass KI nicht nur neue Chancen für eine effizientere und menschengerechtere Arbeitsgestaltung bietet, sondern auch Risiken wie Überwachung, Intransparenz und die Einschränkung von Handlungsspielräumen der Beschäftigten mit sich bringt. Ein zentraler Fokus liegt auf den rechtlichen Rahmenbedingungen, insbesondere dem Datenschutz und der Rolle von Betriebsräten bei der Regulierung von KI-Anwendungen. Der Beitrag diskutiert die aktuellen gesetzlichen Regelungen wie die DSGVO und den EU AI Act, zeigt jedoch auch deren Lücken auf – etwa beim Schutz personenbezogener Beschäftigtendaten. Besonders relevant ist die Analyse der betrieblichen Mitbestimmungspraxis: Wie können Betriebsräte und Gewerkschaften den KI-Einsatz aktiv mitgestalten, um die Interessen der Beschäftigten zu wahren? Hier werden unterschiedliche Ansätze – von kooperativen bis hin zu konflikthaften Einführungsprozessen – gegenübergestellt und mit Beispielen aus verschiedenen Branchen illustriert. Ein weiterer Schwerpunkt liegt auf den konkreten Auswirkungen von KI auf Arbeitsinhalte und -bedingungen. Der Text geht der Frage nach, ob KI-Systeme zu einer Humanisierung oder einer weiteren Entgrenzung von Arbeit führen. Dabei werden psychische Belastungen, die Angst vor Arbeitsplatzverlust und die Herausforderungen durch Black-Box-Systeme thematisiert. Abschließend wird diskutiert, wie industrielle Staatsbürgerrechte als zentrales Element demokratischer Arbeitswelten gestärkt werden können – etwa durch den Ausbau von Mitbestimmungsrechten oder die Einführung eines spezifischen Beschäftigtendatenschutzgesetzes. Der Beitrag liefert damit nicht nur eine fundierte Analyse der aktuellen Entwicklungen, sondern auch konkrete Ansätze für eine beschäftigtenzentrierte Gestaltung der digitalen Transformation.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDer Artikel beleuchtet die möglichen Auswirkungen des Einsatzes Künstlicher Intelligenz (KI) auf Machtasymmetrien zwischen Kapital und Arbeit und diskutiert diese im Kontext betrieblicher Mitbestimmung und industrieller Staatsbürgerrechte. Er thematisiert, wie KI-Systeme Handlungsspielräume von Beschäftigten einschränken oder als komplementäre Technologien ihre Arbeit unterstützen können. Zentrale Aspekte sind dabei die Rolle von Mitbestimmungsrechten, die Herausforderungen des Beschäftigtendatenschutzes sowie bestehende Regelungslücken trotz DSGVO und EU AI Act. Mitbestimmungsprozesse bei KI-Einführungen variieren dabei stark: Wo generell kooperative Beziehungen zwischen dem Management und Betriebsräten bestehen, wird auch Beschäftigtenbeteiligung gefördert. In Betrieben mit eher konflikthaften Beziehungen besteht hingegen die Gefahr, dass Interessen und Rechte von Beschäftigten bei der Implementierung von KI-Anwendungen von vorneherein missachtet werden. Der Beitrag schließt mit der Forderung nach einem Ausbau industrieller Staatsbürgerrechte, insbesondere eines spezifischen Beschäftigtendatenschutzgesetzes, um eine demokratische und sozial gerechte Gestaltung der KI-Transformation in Unternehmen sicherzustellen. -
8. Demokratische Gleichheit und automatisiertes Entscheiden
Luise MüllerDas Kapitel untersucht das zentrale Dilemma moderner Demokratien: Wie lässt sich politische Herrschaft mit dem Prinzip der Gleichheit aller Bürger vereinbaren? Der Autor analysiert zunächst das „Problem der politischen Autorität“, das darin besteht, dass staatliche Entscheidungen zwar demokratisch legitimiert sind, ihre Anwendung aber oft von menschlichen Akteuren mit Ermessensspielraum abhängt – was zu hierarchischen Machtgefällen führt. Drei Lösungsansätze werden diskutiert: John Lockes Zustimmungsprinzip, Niko Kolodnys Idee der demokratischen Autorisierung sowie der Vorschlag, menschliche Entscheidungen durch KI-Systeme zu ersetzen. Der Autor zeigt, dass weder traditionelle noch technokratische Lösungen das Problem vollständig lösen, da sie die grundlegende Asymmetrie zwischen Herrschenden und Beherrschten nicht aufheben. Stattdessen plädiert er für einen dritten Weg: die Nutzung von KI als „Vermittler“, der Bürgern ermöglicht, staatliche Entscheidungen auf Augenhöhe zu begegnen. Konkrete Beispiele wie KI-Assistenten für Asylanträge oder Steuererklärungen illustrieren, wie Technologie genutzt werden kann, um die Position von Bürgern gegenüber staatlichen Institutionen zu stärken. Abschließend wird argumentiert, dass KI nicht dazu dienen sollte, Entscheidungen zu automatisieren, sondern demokratische Institutionen so zu gestalten, dass sie die Gleichheit aller Bürger aktiv fördern. Der Text verbindet philosophische Tiefe mit praxisnahen Überlegungen und regt dazu an, über die Rolle von KI in der Gesellschaft neu nachzudenken – jenseits von Effizienzversprechen und dystopischen Szenarien.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungIch diskutiere in diesem Aufsatz die Frage, ob automatisierte Entscheidungsprozesse das Problem der politischen Autorität lösen können. Das Problem der politischen Autorität besteht darin, dass einige Menschen über andere herrschen, obwohl wir uns in demokratisch-liberalen Gesellschaften als fundamental Gleiche verstehen. Diese Spannung, so eine These in der Literatur, kann aufgelöst werden, indem wir die Herrschaft durch Menschen mit der Herrschaft durch automatisierte Systeme ersetzen, denn das würde menschliches Ermessen in der Anwendung demokratischer Gesetze eliminieren. Ich argumentiere stattdessen, dass gleicher Status nicht durch Automatisierung von Entscheidungsprozessen erreicht wird, sondern durch die Befähigung, Staatsbediensteten auf Augenhöhe zu begegnen. Richtig eingesetzt, so meine These, könnten uns KI-Tools dabei sogar unterstützen, gesellschaftliche Gleichheit zu stärken, ohne dabei den Weg für technokratischen Autoritarismus zu ebnen. -
9. „KI“-Effizienzversprechen und der Niedergang der Demokratie
Jürgen GeuterKünstliche Intelligenz wird zunehmend als Lösung für die Modernisierung von Staaten und Verwaltungen dargestellt – doch dieser Beitrag zeigt, dass der Einsatz von KI-Systemen tiefgreifende demokratische Risiken birgt. Zunächst wird analysiert, wie KI als „Everything Machine“ vermarktet wird, um Bürokratie abzubauen und Effizienz zu steigern, dabei aber soziale und organisatorische Transformationsprozesse ignoriert. Im Mittelpunkt steht die These, dass KI-Systeme als technokratische Werkzeuge fungieren, die demokratische Aushandlungsprozesse durch ihre Opakheit und Rückwärtsgewandtheit untergraben. Der Text erklärt, warum diskriminierende Muster in Trainingsdaten reproduziert werden und marginalisierte Gruppen zusätzlich benachteiligt werden, während Transparenz und Kontrolle verloren gehen. Abschließend wird KI nicht als technisches, sondern als politisches Projekt entlarvt, das Macht von Bürger:innen und demokratischen Institutionen hin zu nicht legitimierten Tech-Konzernen verlagert. Leser:innen erfahren, warum Demokratien sich gegen solche Systeme wehren müssen, um ihre Grundwerte zu bewahren.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
Zusammenfassung„KI“-Systeme werden oft dargestellt als „Silver Bullet“ der Digitalisierung, als einfacher Weg, bisher analoge und bürokratische Prozesse endlich effizienter abzuwickeln. Dabei ist allerdings schon die behauptete Zielrichtung einer Effizienzsteigerung der Verwaltung nicht unbedingt demokratischen Werten und Systemen zuträglich. Moderne „KI“-Systeme machen diese demokratieschädlichen Auswirkungen aufgrund ihrer Struktur noch deutlich schlimmer. -
10. Eine sozial-ökologische Zukunft mit KI? – Eine progressive Perspektive wider den AI-Futurismus
Jonah Schwope, Lena SchroederDer Beitrag setzt sich kritisch mit der dominanten Erzählung auseinander, die Künstliche Intelligenz als Heilsbringer für wirtschaftliche und ökologische Krisen darstellt. Dabei wird gezeigt, wie der sogenannte AI-Futurismus – ein technologischer Determinismus, der Fortschritt als unausweichlich und neutral präsentiert – Machtkonzentration bei wenigen Akteuren zementiert und demokratische Gestaltungsräume systematisch verengt. Der Text analysiert die geopolitischen Dimensionen dieses Diskurses, der sich zwischen US-amerikanischer Techno-Libertarismus-Rhetorik, chinesischem staatskapitalistischem Modell und einer zunehmend entnormativierten EU-Politik bewegt. Im Zentrum steht die Frage, wie KI stattdessen demokratisch und gemeinwohlorientiert eingesetzt werden kann, ohne ökologische oder soziale Kosten zu externalisieren. Der Autor:innen skizzieren das Konzept der „Progressive AI“, das technologische Entwicklung als politisches Gestaltungsfeld begreift – eingebettet in soziale Gerechtigkeit, ökologische Nachhaltigkeit und partizipative Prozesse. Ein besonderer Fokus liegt auf der Rolle von KI in der sozial-ökologischen Transformation, wo sie nicht als technischer „Fix“, sondern als Instrument demokratischer Problemlösung verstanden wird. Dabei werden konkrete Ansätze wie Data Commons, missionsorientierte Innovationspolitik und Public AI vorgestellt, die eine Re-Demokratisierung der Technologieentwicklung ermöglichen sollen. Der Text schließt mit einer Reihe von Leitfragen, die eine kritische Reflexion über die gesellschaftlichen Ziele technologischer Entwicklung anregen und damit eine Alternative zu den oft oberflächlichen Debatten um KI als Wachstumstreiber oder Risikofaktor bieten.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDer vorliegende Beitrag untersucht gegenwärtige Imaginationen Künstlicher Intelligenz (KI) aus einer kritisch-konstruktiven Perspektive, welche die technologische Entwicklung systematisch in die umfassenderen sozial-ökologischen und politischen Transformationsprozesse der Gegenwart einbettet. Im Zentrum der Analyse steht dabei eine demokratietheoretische Problematisierung des hegemonialen „AI-Futurism“-Narrativs, das von techno-solutionistischen Heilsversprechen, entpolitisierten Innovationslogiken und deterministischen Fortschrittsdiskursen geprägt ist. Als explizite Alternative entwirft der Beitrag den konzeptionellen Rahmen einer progressiven KI – verstanden als sozio-technisches Projekt, das auf den Imperativen demokratischer Legitimität, ökologischer Rationalität und sozialer Gerechtigkeit basiert. Die KI-Entwicklung darf sich demnach nicht den im Kern antidemokratischen Diskursen unterordnen, sondern muss als gesellschaftliches Fortschrittsprojekt repolitisiert werden. Gestaltung und Einsatz von KI müssen daran gemessen werden, inwieweit sie die realen Lebenschancen der Menschen verbessern und die demokratische Gestalt- und Verhandelbarkeit von Zukunft erhalten. -
11. Supplychain-Kapitalismus, Plattform-Merkantilismus, KI-Coup und die Grundrisse einer Politischen Ökonomie der Abhängigkeiten
Michael SeemannDas Kapitel untersucht, wie sich durch KI-Technologien wie Generative KI und Large Language Models neue Machtstrukturen in Wirtschaft und Gesellschaft etablieren. Im Fokus stehen dabei drei zentrale Paradigmen: der Supplychain-Kapitalismus, der Plattform-Merkantilismus und der sich abzeichnende KI-Coup. Der Text analysiert, wie Tech-Konzerne wie OpenAI, Microsoft oder Elon Musks Unternehmen durch KI nicht nur Abhängigkeiten kontrollieren, sondern sie gezielt ersetzen, um ihre Dominanz auszubauen. Ein zentrales Beispiel ist die Machtverschiebung bei OpenAI, wo der CEO Sam Altman durch die Kontrolle über Rechenressourcen und Mitarbeiter:innen die ursprüngliche Governance-Struktur aushebelte. Zudem wird aufgezeigt, wie KI-Systeme wie ChatGPT und Co. bestehende Abhängigkeitsnetzwerke umwälzen – etwa durch die Graphnahme des Internets, des US-Staats oder der Sprache. Der Beitrag erklärt, warum diese Entwicklungen demokratische Gesellschaften herausfordern und welche langfristigen Konsequenzen sie für Machtverteilung und Arbeitsmarkt haben könnten. Besonders relevant ist die These, dass KI nicht nur bestehende Machtstrukturen verstärkt, sondern neue Formen der Ausbeutung schafft, indem sie menschliche Arbeit und Kommunikation durch algorithmische Systeme ersetzt. Der Text bietet damit eine fundierte Analyse der aktuellen KI-Entwicklungen und ihrer gesellschaftlichen Implikationen – und zeigt auf, warum diese Technologien weit mehr sind als nur ein technologischer Fortschritt.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDer aktuelle politische Moment in den USA ist kaum ohne Rückgriff auf das zu verstehen, was einmal als Technopolitik bezeichnet wurde. Politik mit und durch Technologie hat keinen Neuigkeitswert, doch seit der zweiten Amtszeit von Donald Trump und dem Triumph der „Broligarchie“ (Harrington 2024) scheint sie eine neue Ebene erreicht zu haben. In diesem Aufsatz argumentiere ich, dass unterschiedliche, im Kapitalismus entwickelte Ausbeutungsstrategien – sogenannte politökonomische Aneignungsprotokolle – zu einer enormen Konzentration von Macht geführt haben, so dass eine kleine Anzahl an Akteuren in die Lage versetzt wurde, weltweit demokratische Gemeinwesen zu bedrohen. An den drei Beispielen: Supplychain-Kapitalismus, Plattform-Merkantilismus und KI-Coup entwickle ich die „Politische Ökonomie der Abhängigkeiten“, um besser über Macht in der Wirtschaft sprechen zu können. -
12. Künstliche Superintelligenz und das Ende der Demokratie
Adriano Mannino, Nils AlthausDer Fachbeitrag analysiert die möglichen Konsequenzen der rasanten Entwicklung agentischer KI-Systeme für demokratische Gesellschaften. Im Zentrum steht die These, dass KI-Agenten mit exponentiell steigender Task-Dauer – also der Fähigkeit, komplexe Aufgaben in immer kürzerer Zeit zu bewältigen – nicht nur ökonomische, sondern auch politische Machtverhältnisse grundlegend verändern könnten. Der Text zeigt auf, wie autoritäre Regime durch den Einsatz solcher Systeme ihre Überwachungs- und Kontrollkapazitäten massiv ausbauen und damit demokratische Strukturen untergraben könnten. Dabei wird insbesondere die Rolle des Überwachungskapitalismus beleuchtet, der durch die Integration agentischer KI zu einem perfekten Instrument der Machtkonsolidierung werden könnte. Ein weiterer Schwerpunkt liegt auf der Frage, wie superintelligente KI-Systeme, die menschliche Fähigkeiten in vielen Bereichen übertreffen, selbst zu einer Bedrohung für demokratische Systeme werden könnten, wenn sie nicht ausreichend mit demokratischen Werten und Normen „ausgerichtet“ sind. Abschließend werden konkrete Maßnahmen diskutiert, wie die Demokratie durch präventive politische und technische Strategien geschützt werden kann. Der Beitrag verbindet dabei technologische Prognosen mit politischer Risikoanalyse und bietet damit eine fundierte Grundlage für die Diskussion über die Zukunft demokratischer Institutionen in einer KI-dominierten Welt.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungDie Demokratien dieser Welt sind in den kommenden Jahren einem besonderen Existenzrisiko ausgesetzt, das sich aus der Kombination dreier Faktoren ergibt: agentische KI, die in mehr und mehr Dimensionen (über)menschliches Leistungsniveau erreicht, Überwachungskapitalismus und Autoritarismus. Im Brennpunkt stehen dabei die Vereinigten Staaten, denen als einzige Demokratie unter den Supermächten eine herausragende globale sicherheits- und technologiepolitische Bedeutung zukommt. Empirische Studien zeigen, dass die von KI-Agenten zuverlässig bewältigte „Task-Dauer“ seit 2019 (GPT-2) exponentiell zunimmt. Hält dieser Trend noch zwei bis fünf Jahre an, könnten wir uns mit KI-Agenten konfrontiert sehen, die in Minuten das Äquivalent einer menschlichen Arbeitswoche (40h) erledigen können. Wenn sich eine autoritäre US-Regierung Zugang zu Millionen solcher KI-Agenten verschafft und diese in den Überwachungs- und Polizeiapparat integriert, könnte die Kontrolle jedes einzelnen Bürgers – und aller politischen Widerstandsbewegungen – nie dagewesene Ausmaße annehmen. Angesichts des Schadenspotenzials dieses Szenarios genügt eine nicht-vernachlässigbare Eintrittswahrscheinlichkeit für das Urteil, dass sich engagierte Verfechter der Demokratie derzeit prioritär für den Erhalt der US-amerikanischen Demokratie einsetzen sollten. Es gibt auch für Nicht-Amerikaner rechtlich und ethisch einwandfreie Wege, dies mit knappen Zeit- und Geldressourcen kosteneffektiv zu tun. Mit der wachsenden Autonomie der KI-Agenten droht in etwas fernerer Zukunft zudem ein weiteres – gegenwärtig noch spekulatives – Risikoszenario: Einer Regierung, die KI-Agenten zunächst erfolgreich für ihre (womöglich antidemokratischen) Zwecke einsetzt, könnte die Kontrolle über die KI-Agenten selbst entgleiten. Zur Eindämmung auch dieser Gefahr ist es unerlässlich, zu verhindern, dass autoritäre und risikoethisch rücksichtslose Kräfte an der Macht sind, wenn KI-Agenten umfassend übermenschliches Niveau erreichen. -
13. Die letzte Erfindung? Ein Argument für die Demokratisierung von KI
Korbinian RügerDer Fachbeitrag setzt sich mit den grundlegenden ethischen und gesellschaftlichen Herausforderungen auseinander, die mit der Entwicklung einer Allgemeinen Künstlichen Intelligenz (AGI) verbunden sind. Im Mittelpunkt steht die Frage, wie die Risiken und Chancen dieser Technologie gerecht verteilt werden können. Zunächst wird dargelegt, warum die Entwicklung von AGI mit erheblichen Risiken verbunden ist, die potenziell die gesamte Menschheit betreffen könnten – von der Auslöschung bis hin zu gesellschaftlichen Umbrüchen wie Massenarbeitslosigkeit oder der Verstärkung autoritärer Systeme. Gleichzeitig werden die möglichen Vorteile von AGI diskutiert, darunter medizinischer Fortschritt, wirtschaftliches Wachstum und die Entlastung von lästigen Alltagsaufgaben. Ein zentrales Argument des Beitrags ist jedoch, dass diese Vorteile möglicherweise nur wenigen Akteuren zugutekommen, während die Risiken sozialisiert werden. Diese Ungerechtigkeit wird anhand eines Zustimmungsprinzips analysiert, das besagt, dass es unzulässig ist, andere einem substanziellen Risiko auszusetzen, ohne deren Zustimmung oder zumindest deren rationales Einverständnis. Der Autor plädiert daher für eine Demokratisierung der AGI-Entwicklung, um diese Ungerechtigkeit zu überwinden. Dabei werden vier Dimensionen der Demokratisierung diskutiert: die Nutzung, das Design, die Verteilung der Gewinne und die demokratische Kontrolle der Technologie. Besonders betont wird die Bedeutung einer demokratischen Governance, die sicherstellt, dass die Entwicklung von AGI unter legitimer gesellschaftlicher Kontrolle steht. Abschließend wird die globale Dimension dieser Herausforderung hervorgehoben und die Rolle demokratischer Institutionen, insbesondere der US-amerikanischen Demokratie, als entscheidend für die Gestaltung einer verantwortungsvollen KI-Zukunft diskutiert.KI-Generiert
Diese Zusammenfassung des Fachinhalts wurde mit Hilfe von KI generiert.
ZusammenfassungAllgemeine Künstliche Intelligenz („artificial general intelligence“ oder AGI) ist KI, die dem Menschen in allen intellektuellen Bereichen mindestens ebenbürtig ist. AGI existiert noch nicht und vielleicht wird eine solche KI niemals existieren. Aber alleine die Möglichkeit, dass eine solche Technologie mit nicht zu vernachlässigender Wahrscheinlichkeit einmal existieren könnte, wirft grundlegende ethische Fragen auf. Eine Frage ist die nach der Verteilung von Risiken und Chancen, die für uns Menschen mit der Entwicklung der Technologie einhergehen. In diesem Text argumentiere ich dafür, dass die Verteilung dieser Chancen und Risiken unter dem derzeitigen KI-Regime ungerecht ist. Um dieser Ungerechtigkeit zu begegnen, schlage ich vor, zukünftige KI-Entwicklung in einem relevanten Sinne zu „demokratisieren“.
- Titel
- KI und Demokratie
- Herausgegeben von
-
Ramona Casasola-Greiner
Korbinian Rüger
- Copyright-Jahr
- 2026
- Electronic ISBN
- 978-3-658-50335-2
- Print ISBN
- 978-3-658-50334-5
- DOI
- https://doi.org/10.1007/978-3-658-50335-2
Die PDF-Dateien dieses Buches wurden gemäß dem PDF/UA-1-Standard erstellt, um die Barrierefreiheit zu verbessern. Dazu gehören Bildschirmlesegeräte, beschriebene nicht-textuelle Inhalte (Bilder, Grafiken), Lesezeichen für eine einfache Navigation, tastaturfreundliche Links und Formulare sowie durchsuchbarer und auswählbarer Text. Wir sind uns der Bedeutung von Barrierefreiheit bewusst und freuen uns über Anfragen zur Barrierefreiheit unserer Produkte. Bei Fragen oder Bedarf an Barrierefreiheit kontaktieren Sie uns bitte unter accessibilitysupport@springernature.com.
