Künstliche Intelligenz und Wir

Table of Contents

1. Frontmatter

   Download PDF-version

2. Prolog

   1. Frontmatter

   2. 1. Der Beginn einer neuen Epoche

      • Open Access

      Frank Schmiedchen

      Zusammenfassung

      Das Einleitungskapitel erklärt die Zielsetzung und den inhaltlichen Umfang dieses transdisziplinären Fachbuchs zu Künstlicher Intelligenz und welche Zielgruppen es im Auge hat. Weiter skizziert es wichtige Grundaussagen zur aktuellen und weiteren Entwicklung der Künstlichen Intelligenz und hebt dabei insbesondere das Verhältnis zwischen Mensch und Maschine sowie die damit verbundenen ethischen Fragestellungen hervor. Dem folgt ein erster Blick auf zugrunde liegende Motivationen in und Machtverschiebungen zwischen unterschiedlichen Weltregionen. Das Kapitel schließt mit einer Erklärung zur Struktur des Buches.

      Download PDF-version

   3. 2. Künstliche Intelligenz im Fokus: Die wichtigsten Aussagen des Buches im Überblick und prägnant kommentiert

      • Open Access

      Axel Fersen

      Zusammenfassung

      Das wissenschaftsjournalistische Essay gibt einen umfassenden Einblick in die Inhalte dieses Fachbuchs, verknüpft und reflektiert sie. Zusätzlich werden wesentliche Gedanken des ersten Buches der VDW-Studiengruppe Technikabfolgenschätzung der Digitalisierung mit dem Titel „Wie wir leben wollen“ in Beziehung gesetzt und auf wichtige Aussagen dort verwiesen. Dem folgen beispielhafte Ausführungen zu KI in der Medizin, zu Quantencomputing und KI, zu den Herausforderungen des Energiebedarfs von Maschinellem Lernen sowie zu den Gefahren der militärischen Nutzung. Abschließend widmet sich das Kapitel den Themen Transhumanismus und Posthumanismus.

      Download PDF-version

3. Überblick und Einordnung des Technikstandes

   1. Frontmatter

   2. 3. Künstliche Intelligenz – ein Überblick

      • Open Access

      Stefan Werner, Carsten Arzig

      Zusammenfassung

      Künstliche Intelligenz (KI) ist allgegenwärtig und verändert unseren Alltag nachhaltig. Seit den ersten Ideen intelligenter Maschinen hat sich die Technologie rasant weiterentwickelt, wobei sie in den letzten Jahren einen Aufschwung erlebt. Günstige Rahmenbedingungen, die Verfügbarkeit von Trainingsdaten und Rechenkapazitäten sowie technische Meilensteine wie die Transformer-Architektur haben zu massiven Investitionen geführt, die immer mehr KI-Anwendungen Realität werden lassen. Inwiefern deren Verhalten als intelligent bezeichnet werden kann, ist Gegenstand aktueller Forschung. Risiken werden in der möglichen Entstehung einer künstlichen Superintelligenz gesehen, lassen sich aber auch in bereits etablierten Anwendungsbereichen, wie etwa der Massenüberwachung, der Veränderung von Informationskanälen oder dem Einsatz autonom handelnder Systeme finden. Die weitere Entwicklung und Anwendung von KI muss verantwortungsvoll gestaltet werden.

      Download PDF-version

   3. 4. Mediengeschichtliche Einordnung und Einfluss von KI auf die zukünftige Entwicklung

      • Open Access

      Carsten Busch

      Zusammenfassung

      Künstliche Intelligenz (KI) ist im Kern ein technisches Fachgebiet. Viele Anwendungen haben jedoch medialen Charakter, und oft sind die daraus entstehenden gesellschaftlichen Herausforderungen vielen anderen Medien ähnlich. Beispielsweise sind Fake-News oder -Videos schon fast so alt wie die menschliche Medienkommunikation. Es kann also für den aktuellen und künftigen Umgang mit KI einiges aus der Mediengeschichte gelernt werden. Vor allem erlaubt diese Perspektive eine nüchterne Differenzierung zwischen bekannten – oft schon gelösten – Herausforderungen und den wirklichen Neuerungen, auf die es zu reagieren gilt.

      Download PDF-version

   4. 5. Wissensrepräsentation

      • Open Access

      Andreas Both, Stephan Schwinger

      Zusammenfassung

      Wir schildern, wie Wissen im Allgemeinen und in der Künstlichen Intelligenz (KI) dargestellt und verarbeitet wird. Der Fokus liegt auf der Vielfalt der Ansätze zur Wissensrepräsentation, die von einfachen textuellen Darstellungen über strukturierte Modelle bis hin zu komplexen semantischen Netzwerken reichen. Auch KI-Modelle sind eine auf Daten aufbauende Wissensrepräsentation. Der Bogen wird von regelbasierten, symbolischen Systemen zu neuronalen Netzen mit ihren jeweiligen Eigenschaften gespannt. Die Wahl der Wissensrepräsentationsmethode hängt von den spezifischen Anforderungen der Anwendung ab: Letztere bedingen einen Kompromiss zwischen Vertrauen in die Ergebnisse und der Akzeptanz von Unsicherheiten und erfordern eine ausgewogene Kombination verschiedener Ansätze.

      Download PDF-version

   5. 6. Große Sprachmodelle

      • Open Access

      Carsten Arzig

      Zusammenfassung

      Große Sprachmodelle sind für viele der Inbegriff Künstlicher Intelligenz, dabei basieren sie auf nachvollziehbaren Techniken, viel Rechenzeit und einer Unmenge an Daten. Dieses Kapitel beleuchtet, wie große Sprachmodelle funktionieren und wie sie entstehen und betrachtet die Stärken und Schwächen dieser Technologie.

      Download PDF-version

   6. 7. IT-Infrastrukturen und deren Stromverbrauch

      • Open Access

      Dieter Kranzlmüller, Andrew Grimshaw

      Zusammenfassung

      Künstliche Intelligenz ist die teuerste Form der Informationsverarbeitung und erfordert Rechenkapazität in einem Ausmaß, das in den Jahren davor unvorstellbar war. Besonders eindringlich zeigt sich dies angesichts der Energiemenge, die zur Speisung dieser IT-Infrastruktur erforderlich ist. Dieser Beitrag beschreibt die daraus erwachsenden Problemstellungen, auch und besonders unter Berücksichtigung des Kostenaspekts, und stellt Lösungen dar, die mit aktiver Teilnahme an der Stabilisierung des Stromnetzes die Energiekosten drastisch senken.

      Download PDF-version

4. Anforderungen an die weitere Entwicklung

   1. Frontmatter

   2. 8. Vertrauenswürdige und souveräne Nutzung

      • Open Access

      Carmen Dencker, Kim Nguyen

      Zusammenfassung

      Der Schlüssel zu einer erfolgreichen und nachhaltigen Integration von Künstlicher Intelligenz (KI) in Gesellschaft und Wirtschaft liegt im Aufbau von Vertrauen und einem souveränen Umgang mit dieser Technologie. Dieses Vertrauen entsteht durch eine transparente, ethisch verantwortungsvolle Gestaltung und Implementierung von KI-Systemen, unterstützt durch angemessene Regulierungs- und Zertifizierungsprozesse. Die Autoren schlüsseln die Dimensionen von Vertrauen in KI auf und diskutieren Lösungsansätze, dieses durch geeignete Maßnahmen umzusetzen. Sie beantworten die Frage, warum Vertrauen und souveräner Umgang wichtig sind, beschreiben Herausforderungen und Risiken für Vertrauen in KI und zeigen Strategien zur Stärkung des Vertrauens und des souveränen Umgangs auf.

      Download PDF-version

   3. 9. Resilienz

      • Open Access

      Mario Trapp

      Zusammenfassung

      Die Welt der Künstlichen Intelligenz (KI) ist von faszinierenden Möglichkeiten, aber auch von erheblichen Herausforderungen geprägt. Am Beispiel des autonomen Fahrens wird deutlich, wie schwierig es ist, menschliche Fähigkeiten in technische Systeme zu übertragen, vor allem wenn es um die Sicherheit von Menschenleben geht. Die Qualität und Zuverlässigkeit von KI-Systemen stehen im Fokus intensiver Diskussionen. Während KI oft beeindruckende Ergebnisse erzielt, gibt es auch zahlreiche Fälle, in denen sie versagt und unerwartete Entscheidungen trifft. Diese Unvorhersehbarkeit wirft grundlegende Fragen auf: Wie können wir KI-Technologien sicher einsetzen und gleichzeitig ihre Risiken managen? In diesem Kapitel werden wir die Herausforderungen der KI beleuchten und untersuchen, wie wir ihr Potential verantwortungsvoll nutzen können. Dabei geht es darum, Innovation und Sicherheit in Einklang zu bringen, um eine resiliente Zukunft zu gestalten.

      Download PDF-version

   4. 10. Vertrauenswürdige Künstliche Intelligenz

      • Open Access

      Ute Schmid

      Zusammenfassung

      Für die sichere und sinnvolle Anwendung von KI-Systemen, insbesondere solchen, die auf komplexen, aus Daten gelernten Modellen basieren, müssen KI-Systeme vertrauenswürdig sein und Anwendende in die Lage versetzt werden, die Vertrauenswürdigkeit einschätzen zu können. Anforderungen an Vertrauenswürdige KI sind insbesondere Performanz und Robustheit, Transparenz und Erklärbarkeit, Diskriminierungsfreiheit sowie menschliche Kontrolle und Aufsicht. Um diese Anforderungen zu erfüllen, werden in der KI-Forschung Methoden entwickelt, die die Kernmethoden des maschinellen Lernens erweitern. Damit Nutzende ihr Vertrauen in KI-Systeme sinnvoll kalibrieren können, müssen die Schnittstellen zwischen KI-System und Mensch so gestaltet sein, dass die Ausgabe eines KI-Systems fundiert bewertet und gegebenenfalls korrigiert werden kann. Auf dieser Grundlage können partnerschaftliche KI-Systeme entwickelt werden, die Menschen dabei unterstützen, komplexe Probleme effizient und angemessen zu lösen.

      Download PDF-version

   5. 11. Symbolische Kontrolle für subsymbolische Künstliche Intelligenz?

      • Open Access

      Christoph Benzmüller

      Zusammenfassung

      Forschungsaktivitäten in Richtung starker Künstlichen Intelligenz (KI) bzw. Artificial General Intelligence (AGI) haben aktuell stark an Fahrt aufgenommen. Ausgangspunkt sind dabei beachtliche Fortschritte vor allem im Bereich der datengetriebenen subsymbolischen KI (z. B. dem tiefen maschinellen Lernen), aber auch in der regelbasierten symbolischen KI. Mit solchen Aktivitäten im Einklang stehen sollte das Bestreben nach verantwortungsvoller KI, oder besser noch, nach sicherer KI. Selbst wenn eine starke KI (zumindest aus meiner Sicht) nicht unmittelbar absehbar ist, sollte diesem Aspekt größte Aufmerksamkeit geschenkt werden. Es ist nämlich insbesondere der unreflektierte Einsatz leistungsfähiger unvollkommener KI-Systeme in sehr kritischen Anwendungsgebieten (einschließlich des militärischen Bereichs), der zunehmend Anlass zur Sorge bereitet. In diesem Kapitel skizziere ich meine Position zu den Themen starke und sichere KI, führe dazu Äußerungen aus vorherigen eigenen Arbeiten zusammen und ergänze diese.

      Download PDF-version

   6. 12. Quantencomputing und Künstliche Intelligenz

      • Open Access

      Jeanette Miriam Lorenz

      Zusammenfassung

      Quantencomputer wurden ursprünglich bereits im letzten Jahrhundert als neuartige Computer vorgeschlagen, um insbesondere Simulationen von quantenmechanischen Prozessen zu verbessern. In den letzten Jahren konnten Quantencomputer auch praktisch realisiert werden und stehen nun als erste kleine Geräte kommerziell zur Verfügung. Dadurch kann das Potential für unterschiedliche Anwendungsbereiche eingehender praktisch erforscht werden. Ein vielversprechender Bereich ist die quantengestützte Künstliche Intelligenz (KI), wo der Einsatz von Quantencomputing z. B. zu einem dateneffizienteren Training führen kann. Dieser Beitrag diskutiert den aktuellen Stand von Quantencomputing und zeigt mögliche Perspektiven einer quantengestützten KI auf, einschließlich möglicher Anwendungsfelder und aktueller Herausforderungen.

      Download PDF-version

5. Das Verhältnis von Mensch und Maschine

   1. Frontmatter

   2. 13. Wissen – Streben nach dem Objektiven

      • Open Access

      Stefan Bauberger

      Zusammenfassung

      Erkenntnis ist nicht ohne Subjekt denkbar. Es ist ein Trugschluss des modernen naturwissenschaftlich-technischen Denkens, dass das Objektive sich aus der Empirie unmittelbar erschließt. Das blendet subjektive und intersubjektive Dimensionen aus, die wiederum auf zugrunde liegenden Paradigmen und Interpretationsmustern der Wahrnehmung beruhen. Diese sind tradiert und in die Wirklichkeit hinter den Erscheinungen eingebettet. Deshalb ist eine das Subjekt stets mitdenkende, weisheitsorientierte Auffassung von Erkenntnis näher an der Wahrheit als eine instrumentalistische, materialistische Verkürzung. Dies ist aber etwas, was Künstliche Intelligenz nicht simulieren kann.

      Download PDF-version

   3. 14. Digitaler Humanismus oder das Paradoxon der KI-freundlichen Anti-KI-Position

      • Open Access

      Julian Nida-Rümelin

      Zusammenfassung

      Digitaler Humanismus verwehrt sich der Vorstellung, Lebensformen als Maschinen zu betrachten. Um die Argumentation zu verstehen, wird zunächst erläutert, was Humanismus ist und wie sich Künstliche Intelligenz zum Humanismus verhält. Hierzu wird anhand des Experiments vom Chinesischen Zimmer bewiesen, dass KI als Algorithmus nicht versteht, wie sie warum ihre Aufgaben erfüllt. Thesen von schwacher und starker KI werden in ihren Implikationen Thesen von schwacher und starker Anti-KI gegenübergestellt, um das Verhältnis von KI zu menschlichen Denk-, Wahrnehmungs- und Entscheidungsvorgängen zu durchdenken. Die innovations- und technologiefördernden Konsequenzen der starken Anti-KI-Position werden so logisch begründet.

      Download PDF-version

   4. 15. Lösen digitale Agenten die menschlichen Forscher künftig ab?

      • Open Access

      Carl Friedrich Gethmann

      Zusammenfassung

      Als Subjekt und in intersubjektiven Zusammenhängen agierend ist der Mensch unverzichtbare Voraussetzung für wissenschaftliche Erkenntnis. Die Behauptung, dass KI als digitaler Agent eigenständig erkenntnisfähig ist, wird in diesem Kapitel logisch widerlegt. Hierzu werden zunächst Aussagen des Funktionalismus in Bezug auf das Denken und die Intelligenz dargestellt und kritisch hinterfragt. KI kann nicht in Begründungsdiskursen autonom agieren, weil ihnen die pragmatischen Merkmale der Handlungsurheberschaft und Zurechenbarkeit nicht zukommen. Zusätzlich wird am Verhältnis von Korrelationsanalysen zu Kausalerklärungen erläutert, warum der Probabilismus nur unzureichend der Wahrheitsfindung und -prüfung dient. Damit aber kann KI grundsätzlich keine gesellschaftlich zustimmungsfähige Wissenschaft erzeugen.

      Download PDF-version

   5. 16. Wenn der Mensch mit der Maschine: Beziehungen und Sex

      • Open Access

      Thomas Beschorner

      Zusammenfassung

      Das Kapitel beschreibt Transformationsprozesse durch die Digitalisierung allgemein phänomenologisch (Abschn. 16.2) und befasst sich dann konkret mit Mensch-Maschine-Beziehungen am Beispiel von Sexrobotern (Abschn. 16.3). Dieser besondere Untersuchungsgegenstand ist ebenso ungewöhnlich wie interessant, denn er konfrontiert mit vielfältigen sozialwissenschaftlichen und philosophischen Fragen von grundsätzlicher Natur: Das Beispiel regt zum Nachdenken über Rekalibrierungen von Subjekt-Objekt-Beschreibungen an (Abschn. 16.4) und fordert damit zusammenhängend zu einer Justierung traditioneller normativer Ethiken hin zu einem „relational turn“ (Abschn. 16.5). Das Kapitel endet mit einem kurzen Abschnitt (16.6), in dem dargelegt wird, warum die Digitalisierung eine Einladung zum Philosophieren ist.

      Download PDF-version

6. KI-Einsatz in der Wirtschaft

   1. Frontmatter

   2. 17. Disruptiver wirtschaftlicher Strukturwandel

      • Open Access

      Frank Schmiedchen

      Zusammenfassung

      Das Kapitel führt zu KI-Anwendungen in der Wirtschaft ein. Die digitale Transformation und der Einsatz Künstlicher Intelligenz haben einen disruptiven Strukturwandel ausgelöst, der oftmals als vierte industrielle Revolution bezeichnet wird. Das Kapitel erklärt wesentliche Begriffe und Zusammenhänge zwischen vernetzter Digitalisierung, Datenökonomie und Künstlicher Intelligenz und stellt den laufenden disruptiven Strukturwandel in einen historischen Zusammenhang. Es untersucht die besondere Bedeutung von KI am Beispiel der volkswirtschaftlichen Themen Produktivität und Wertschöpfung sowie einer sich verändernden internationalen Arbeitsteilung. Schließlich werden verstärkende geoökonomische Prozesse beschrieben und damit der Zusammenhang zu den Kapiteln „Der Beginn einer neuen Epoche“ (I.1) und „Werte-Renaissance und neue Weltordnung: Der geoökonomische Rahmen für sicherheitsrelevant KI“ (VII. 24) hergestellt, um die historische Tragweite verständlich zu machen.

      Download PDF-version

   3. 18. Strategischer KI-Einsatz in Unternehmen

      • Open Access

      Marcus Disselkamp, Frank Schmiedchen

      Zusammenfassung

      Auf der Grundlage des vorangegangenen volkswirtschaftlichen Kapitels fokussiert dieses betriebswirtschaftliche Kapitel auf den konkreten Einsatz von Künstlicher Intelligenz in Unternehmen, wobei wir uns vor allem auf KI-Anwendungen mit strategischer Bedeutung für das Unternehmen konzentrieren. Dabei zeigen wir, wie vielfältig die Anwendungsfelder von KI-Algorithmen im Unternehmen sind. Beispielhaft beleuchten wir den Einsatz in der Unternehmensführung, im Innovationsmanagement, in der Unternehmensverwaltung, im Kundenmanagement und in der Produktion. Abschließend gehen wir auf Grenzen und Risiken ein.

      Download PDF-version

   4. 19. Künstliche Intelligenz in der Landwirtschaft: Integration, Herausforderungen und Transformationspotentiale

      • Open Access

      Sebastian Bosse

      Zusammenfassung

      Das vorliegende Kapitel bietet einen Überblick über die Anwendung von KI in der Landwirtschaft sowie ihre technologischen Grundlagen, praktischen Anwendungen und gesellschaftlichen Auswirkungen. Ausgehend von der historischen Entwicklung der Landwirtschaft über die Industrialisierung bis zur Digitalisierung werden Herausforderungen wie Klimawandel, Ressourcenknappheit und Ernährungssicherheit diskutiert. Das Kapitel zeigt auf, wie KI als Schlüsseltechnologie zu deren Bewältigung beitragen kann. Dabei werden die besonderen Charakteristika des Agrarsektors berücksichtigt, die spezifische Anforderungen an KI-Lösungen stellen. Die folgenden Abschnitte behandeln systematisch die Anwendung von KI in der Außen- und Innenwirtschaft, technische Herausforderungen der Integration sowie wirtschaftliche, gesellschaftliche und regulatorische Aspekte. Das Kapitel schließt mit einer Analyse der Zukunftsperspektiven und einer Skizze konkreter Schritte für die nachhaltige und digitale Transformation der Landwirtschaft.

      Download PDF-version

   5. 20. Künstliche Intelligenz in der Softwareentwicklung

      • Open Access

      Jan-Philipp Steghöfer, Rico Amslinger, Richard Nordsieck

      Zusammenfassung

      Der Einsatz generativer KI verändert die Arbeitsgewohnheiten in der Softwareentwicklung erheblich. Große Sprachmodelle wie ChatGPT ermöglichen die Generierung von Quellcode und die Automatisierung weiterer Teile des Softwarelebenszyklus. Bereits vor ChatGPT wurden KI-Techniken genutzt, um Code auf Schwachstellen zu analysieren. Dieses Kapitel bietet einen Überblick über aktuelle und zukünftige Einsatzfelder von KI in der Softwareentwicklung. Anhand konkreter Beispiele wird gezeigt, welche Möglichkeiten und Potentiale KI heute bietet, was künftig zu erwarten ist und welche Einschränkungen bestehen. Neben der Perspektive der Programmierer wird auch betrachtet, wie Designer, Produkt- und Projektmanager sowie Anforderungsmanager von KI profitieren können. Die Analyse zeigt, wie sich die Aufgaben dieser Rollen durch den verstärkten KI-Einsatz wandeln und welche Auswirkungen dies auf die Softwareentwicklung haben kann.

      Download PDF-version

7. Ethik- und Regulierungsfragen

   1. Frontmatter

   2. 21. Verantwortliche KI-Governance

      • Open Access

      Alexander Brink

      Zusammenfassung

      Dieses Kapitel erläutert, was die Zwillingstransformation, welche Nachhaltigkeit und Digitalisierung miteinander verbindet, bedeutet. Vor diesem Hintergrund erfolgt eine Einführung in die Ethik der Künstlichen Intelligenz, die die grundlegenden ethischen Prinzipien, die mit der Entwicklung und Anwendung von KI-Technologien verbunden sind, untersucht und kritisch bewertet. Dem folgt ein Abschnitt über Regulatorik vor allem auf europäischer Ebene, gefolgt von einer Betrachtung der Rolle freiwilliger Verhaltenskodizes, die als Schlüssel zur ethischen Positionierung von Unternehmen dienen. Diese Kodizes werden auf der Mesoebene eingeführt und bieten Unternehmen eine Möglichkeit, über die gesetzlichen Anforderungen (Makroebene) hinaus Verantwortung zu übernehmen und Vertrauen aufzubauen. Abschließend wird auf der Mikroebene die Bedeutung individueller digitaler Primärtugenden untersucht, die notwendig sind, um die ethische Nutzung von Technologie sicherzustellen und eine nachhaltige digitale Transformation zu fördern.

      Download PDF-version

   3. 22. Die Asilomar-Prinzipien aus heutiger Sicht

      • Open Access

      Frank Schmiedchen

      Zusammenfassung

      Dieses Kapitel fußt wesentlich auf einem 2018 veröffentlichten VDW Policy Paper zu den am 06.01.2017 beschlossenen Asilomar-Prinzipien zu Künstlicher Intelligenz. Das Kapitel reflektiert wesentliche dort gemachte Aussagen aus heutiger Sicht und ergänzt sie mit neueren Erkenntnissen und Entwicklungen. Dabei geht das Kapitel auf die wesentlichen Prinzipien zu Forschungsfragen, Ethik und Werten sowie auf längerfristige Gefahren durch die angenommene Entwicklung starker Künstlicher Intelligenz ein, wobei der Blickwinkel des Policy Papers beibehalten und das Vorsorgeprinzip als ein Bewertungsmaßstab genutzt wird.

      Download PDF-version

   4. 23. Die KI-Verordnung der EU – Erfolgsmodell oder Papiertiger?

      • Open Access

      Benjamin Ledwon

      Zusammenfassung

      Mit der Abstimmung des Europäischen Parlaments im März 2024 zum europäischen KI-Gesetz fand eine intensive, politische Debatte ihr vorläufiges Ende (Europäisches Parlament, 2024a). Über zwei Jahre hatten Entscheidungsträger den Gesetzentwurf diskutiert – ein Zeichen, dass viel auf dem Spiel steht: KI ist einerseits als Grundlagentechnologie entscheidend für die Wettbewerbsfähigkeit europäischer Unternehmen, andererseits können Anwendungen sich negativ auf Grund- und Bürgerrechte auswirken. Fakt ist, dass die EU mit der jüngst verabschiedeten KI-Verordnung das weltweit weitreichendste KI-Gesetz verabschiedet hat. Klares Ziel ist es, ähnliche Initiativen in diesem Bereich zu beeinflussen – vergleichbar mit der Datenschutzgrundverordnung vor einigen Jahren. Diese Ambition wird nicht zuletzt durch einen ausgeprägten Extraterritorialitätsansatz deutlich. Auch KI, die außerhalb der EU entwickelt wird, muss europäische Regeln einhalten, sobald diese KI in der EU eingesetzt wird. Es wird allerdings auf unterschiedliche Faktoren ankommen, ob die KI-Verordnung zum internationalen Erfolgsmodell wird.

      Download PDF-version

8. Sicherheitspolitische Konsequenzen des militärischen KI-Einsatzes und friedenspolitische Antworten

   1. Frontmatter

   2. 24. Werte-Renaissance und neue Weltordnung: Der geoökonomische Rahmen für sicherheitsrelevante KI

      • Open Access

      Frank Schmiedchen

      Zusammenfassung

      Die aufeinander wirkenden Dynamiken geoökonomischer Machtverschiebungen und kultureller Wiederbesinnung des Westens verändern unsere Welt. Neue Kooperations- oder Konkurrenzmechanismen entstehen und haben einen wesentlichen Einfluss auf die weitere KI-Entwicklung in sicherheitsrelevanten Bereichen. Das Verhältnis zwischen den USA und der VR China und die sich entwickelnde interessengeleitete Weltordnung bestimmen, welche strategischen und vor allem militärischen KI-Anwendungen vorangetrieben werden und welche internationalen vertrauensbildenden Rüstungskontrollregeln erreicht werden können: Bedrohungspotentiale können sich erhöhen, oder der kollektive Schutz unserer Sicherheit verbessert sich.

      Download PDF-version

   3. 25. Zum aktuellen Stand des weltweiten militärischen Einsatzes Künstlicher Intelligenz

      • Open Access

      Heiko Borchert

      Zusammenfassung

      Streitkräfte nutzen Künstliche Intelligenz (KI) bislang vorwiegend in evolutionärer, nicht revolutionärer Weise. Im Vordergrund steht die Absicht, bestehende Missionen und Verfahren mit KI zu verbessern. Vor diesem Hintergrund diskutiert das Kapitel in vergleichender Weise den Einsatz von KI in 25 Ländern. Dazu zeigt das Kapitel auf, wie diese Länder über KI im militärischen Kontext denken, wie sie sich hierzu organisieren, welche Forschungs- und Einsatzschwerpunkte sie verfolgen, welche Finanzmittel sie bereitstellen und wie sie Ausbildung und Training anpassen, um die Streitkräfteangehörigen auf den KI-Einsatz vorzubereiten.

      Download PDF-version

   4. 26. Künstliche Intelligenz im Militär: Ethische Implikationen und die Rolle der Inneren Führung

      • Open Access

      Rainer Simon, Thomas Purper

      Zusammenfassung

      Künstliche Intelligenz (KI) im Militär hat tiefgreifende ethische und sicherheitspolitische Implikationen. KI ist nicht nur eine technologische Innovation, sondern verändert geopolitische Machtstrukturen, wirtschaftliche Prozesse und militärische Strategien. Insbesondere im Militär erfordert ihr Einsatz eine sorgfältige Abwägung zwischen Effizienzsteigerung und ethischer Verantwortung. Die „Innere Führung“ der Bundeswehr bietet hierbei eine bewährte ethische Grundlage, die sicherstellt, dass Entscheidungen – auch unter Nutzung von KI – stets mit menschenrechtlichen und demokratischen Werten vereinbar bleiben. Wir betonen die Notwendigkeit, klare Regeln für den Einsatz von KI zu definieren, um eine Entmenschlichung militärischer Entscheidungsprozesse zu verhindern. Die Bundeswehr muss sich nicht nur technologisch weiterentwickeln, sondern auch die ethische und rechtliche Reflexion intensivieren, um KI verantwortungsvoll in ihr Führungssystem zu integrieren. Dabei ist die menschliche Letztverantwortung essenziell – eine vollständige Delegation von Entscheidungen an KI-Systeme ist mit unserem Werteverständnis nicht vereinbar.

      Download PDF-version

   5. 27. Künstliche Intelligenz und Atomwaffen

      • Open Access

      Karl Hans Bläsius

      Zusammenfassung

      Eine zunehmende Komplexität und kleinere Entscheidungszeiträume im militärischen Umfeld erfordern den Einsatz von Techniken der Künstlichen Intelligenz. Allerdings sind Daten als Grundlage für KI-basierte Entscheidungen oft unsicher und unvollständig. Dann können auch KI-Systeme nicht sicher entscheiden. Wichtig bleiben sehr gut funktionierende Kommunikationskanäle, ein gewisses Maß an Vertrauen und die Zusammenarbeit zwischen allen Nationen.

      Download PDF-version

9. Epilog

   1. Frontmatter

   2. 28. Gemeinsamer Aufbruch in eine neue Zeit

      • Open Access

      Alexander von Gernler, Klaus Peter Kratzer, Frank Schmiedchen

      Zusammenfassung

      Dieses Kapitel unterstreicht den Anspruch der Herausgeber, einen transdisziplinären und kritischen Blick auf die Frage zu werfen, wie Künstliche Intelligenz der Menschheit dienen und gleichzeitig vermieden werden kann, dass Menschen und ihre Rechte gefährdet werden. Es führt die intendierten Lehrziele auf und beschreibt die Grenzen der KI, die im sozio-ökonomischen Kontext der Wirklichkeit oftmals ignoriert werden. Dabei spielen Fragen des Schutzes individuellen Dateneigentums und der tatsächlichen Energieengpässe eine wichtige Rolle. Es wird ebenso auf die Möglichkeiten für die EU verwiesen, weiterhin eine führende Rolle bei der Entwicklung Künstlicher Intelligenz zu spielen, wie auf die Notwendigkeit, über das lebenswichtige Vorsorgeprinzip nicht die Notwendigkeit disruptiver Innovationskraft zu vergessen. Eine Einladung an Universitäten, Hochschulen, Stiftungen, Verbände und Regierungsbehörden zur Zusammenarbeit bildet den Abschluss.

      Download PDF-version

10. Backmatter

    Download PDF-version