26. Künstliche Intelligenz im Militär: Ethische Implikationen und die Rolle der Inneren Führung

Seit der weltweiten Einführung von Chat GPT 3.5 des US-Unternehmens OpenAI am 30.11.2022 ist Artificial Intelligence (AI) bzw. Künstliche Intelligenz (KI) in die mediale Öffentlichkeit gerückt. Sie begeistert uns einerseits mit ihren intuitiven, stochastischen Papageien und lässt uns andererseits mit Bias, Halluzinationen und wertebefreiten Algorithmen erschaudern.

Die soziokulturellen, wirtschaftlichen und geopolitischen Dimensionen von KI verdeutlichten uns die internationalen Wirtschafts-, Finanz- und Politikgrößen auf dem Weltwirtschaftsform (WEF) in Davos im Januar 2024 und 2025. Mit Themenschwerpunkten „Artificial Intelligence as a Driving Force for the Economy and Society“ im Jahr 2024 und „AI, Tech and the Intelligent Age at Davos“ im Jahr 2025 wird die transformative Bedeutung von KI als Schlüsseltechnologie benannt. Klaus Schwab, Gründer und Vorsitzender des WEF, beschreibt diese disruptive Energie sehr plastisch für uns: „Driven by rapid advancements in AI, quantum computing and blockchain, the Intelligent Age is transforming everything, everywhere, all at once.“ (WEF, 2024, 2025a, b; Schwab, 2024).

Die sozialen und ethischen Dimensionen zeigte UN-Generalsekretär António Guterres auf dem KI-Sicherheitsgipfel in London am 02.11.2023 auf und forderte, dass die Grundsätze für die Steuerung der Künstlichen Intelligenz auf der UN-Charta und der Allgemeinen Erklärung der Menschenrechte beruhen müssten. Er warnte, dass die Geschwindigkeit und die Reichweite der heutigen KI-Technologien beispiellos seien und dass die vielfältigen damit verbundenen Risiken neue Lösungen erforderten. Mit der Bletchley-Erklärung zur KI-Sicherheit unterstrichen die am KI-Sicherheitsgipfel 2023 teilnehmenden 28 Länder (inklusive USA, China und EU) ihren Willen, „ein gemeinsames Verständnis der Chancen und Risiken der KI“ mit dieser KI-Sicherheitserklärung festzulegen (Bletchley-Erklärung, 2023). Sie betonten, „dass es dringend notwendig ist, die potenziellen Risiken zu verstehen und gemeinsam zu bewältigen, und zwar durch eine neue gemeinsame globale Anstrengung, um sicherzustellen, dass KI auf sichere und verantwortungsvolle Weise zum Nutzen der Weltgemeinschaft entwickelt und eingesetzt wird.“ (KI-Sicherheitsgipfel, 2023).

Die regulatorischen und werteorientierten Dimensionen der KI insbesondere im militärischen Kontext sind für uns alle essenziell, um ihre Nutzung im Einklang mit ethischen Grundsätzen und internationalem Recht zu gestalten. Die UNESCO hebt in ihrer Empfehlung zur Ethik der KI die Notwendigkeit von Transparenz, Menschenrechtskonformität und Nichtdiskriminierung hervor (2021). Gleichzeitig setzt die UNO verstärkt auf Global Governance, um unregulierte Risiken zu minimieren (2023). Auf dem Weltwirtschaftsforum in Davos 2024 und 2025 betonte UN-Generalsekretär António Guterres erneut die Notwendigkeit, KI als Werkzeug für Sicherheit und Fortschritt einzusetzen, anstatt neue Bedrohungen zu schaffen – eine Herausforderung, die insbesondere für die militärische Nutzung klare Regeln und wertebasierte Leitlinien erfordert (WEF, 2024, 2025a, b). Er mahnt eindringlich: „… KI hat das Schlachtfeld auf besorgniserregende Weise betreten. Jüngste Konflikte sind zu Testfeldern für militärische KI-Anwendungen geworden. Die Ausweitung der KI auf Sicherheitssysteme wirft grundlegende Bedenken hinsichtlich der Menschenrechte, der Würde und der Rechtsstaatlichkeit auf …“, und weiter: „Lassen Sie uns eines klarstellen: Das Schicksal der Menschheit darf niemals der ‚Black Box‘ eines Algorithmus überlassen werden. Menschen müssen stets die Kontrolle über Entscheidungsprozesse behalten – geleitet von internationalem Recht, einschließlich internationalem humanitärem Recht und Menschenrechtsgesetzen sowie ethischen Prinzipien. Die Menschheit hat KI erschaffen. Die Menschheit muss sie auch lenken.“ (WEF, 2025a, b).

Wir, Rainer Simon, Kommandeur des Ausbildungszentrums Cyber- und Informationsraum (AusbZ CIR) und Thomas Purper als Personaloffizier, Führungskräftecoach und Changemanager im AusbZ CIR, schreiben dieses Kapitel aus der Perspektive von Praktikern im Rahmen unseres Auftrages der militärischen Ausbildung mit einem Fokus auf Führung, Werte und Organisationsentwicklung. Unser Hintergrund liegt nicht in der IT oder Technik, sondern in der Führung und Entwicklung von Menschen sowie in der Vermittlung von Werten und Kompetenzen. Diese Perspektive erlaubt uns, KI nicht nur als technologische Herausforderung, sondern als eine Frage der Führungskultur, der ethischen Verantwortung und der notwendigen digitalen Transformation in der Bundeswehr zu betrachten. Unsere Aufgabe ist es, die Ausbildung der Soldatinnen und Soldaten so zu gestalten, dass digitale Kompetenz, ein digitales Mindset und ethisches Führungsverhalten als zentrale Bausteine für den Einsatz neuer Technologien – einschließlich KI – in der Bundeswehr verankert werden.

Ausgehend von der historischen Entwicklung der Bundeswehr, der „Inneren Führung“ (IF) als Fundament unserer Führungskultur, der Gründung der Teilstreitkraft Cyber- und Informationsraum (TSK CIR) und der aktuellen Neustrukturierung des Ausbildungszentrums CIR (AusbZ CIR) wollen wir aufzeigen, warum gerade diese besonderen Rahmenbedingungen eine gute Ausgangslage für den reflektierten und verantwortungsbewussten Umgang mit KI im militärischen Kontext bieten.

Die Gründung der Bundeswehr im Jahr 1955 erfolgte unter der besonderen Berücksichtigung der Erfahrungen aus dem Zweiten Weltkrieg und der nationalsozialistischen Diktatur. Ziel war es, eine Streitkraft zu schaffen, die fest in den Prinzipien der Demokratie und der Achtung der Menschenwürde verwurzelt ist. Die Innere Führung, die als konstitutives Element der Bundeswehr eingeführt wurde, hat die Aufgabe, militärische Disziplin mit den Rechten und Pflichten des Staatsbürgers zu vereinen. Das Konzept des „Staatsbürgers in Uniform“ verdeutlicht, dass Soldaten nicht nur Befehle ausführen, sondern auch moralische Verantwortung tragen. Diese Verantwortung ist insbesondere im Kontext moderner Konflikte und asymmetrischer Bedrohungen relevant, in denen die Grenzen zwischen militärischen, zivilen und technologischen Bereichen zunehmend verschwimmen.

Die Innere Führung basiert auf drei wesentlichen Prinzipien: Menschenwürde, Eigenverantwortung und Rechtsstaatlichkeit. Sie betont, dass militärische Entscheidungen nicht nur operativen Zwängen folgen dürfen, sondern stets in einem ethischen Rahmen getroffen werden müssen. Die Innere Führung verlangt nicht nur professionell ausgebildeten Soldatinnen und Soldaten (Beherrschung des „militärischen Handwerks“), sondern auch die Überzeugung aus Einsicht von den Werten und Normen unseres Grundgesetzes und der freiheitlich-demokratischen Grundordnung (Persönlichkeitsbildung) – einen Soldaten (m, w, d), der die Rechte und Freiheiten, die er selbst erfährt, im Ernstfall verteidigen kann und will. Diese Überzeugung wurde bereits zur Gründung der Bundeswehr von Generalleutnant Wolf Graf von Baudissin formuliert: „Der Soldat wird erst dann ein Höchstmaß an abwehrbereiter Kriegstüchtigkeit entwickeln […], wenn er sich aus staatsbürgerlicher Einsicht unterordnet und der Gemeinschaft gegenüber verantwortlich fühlt. Dies lässt sich nur dadurch erreichen, dass der Einzelne während des Dienstes das erlebt, was er notfalls verteidigen muss.“ (Dörfler-Dierken, 2005).

Im Kern verlangt die Innere Führung von Soldatinnen und Soldaten Eigenverantwortung, demokratische Verankerung und Verantwortung gegenüber den Menschen und der Gesellschaft. Diese Form der Bildung und Haltung ist eine entscheidende Grundlage für die Positionierung gegenüber technischen und gesellschaftlichen Entwicklungen. Sie ist damit auch zentral für den kritischen Diskurs zu den Grundlagen, der Entwicklung und letztlich der Nutzung von Künstlicher Intelligenz in militärischen Einsätzen. Entscheidungen müssen kritisch reflektiert werden: Die Bundeswehr ist Teil der Gesellschaft, und sie ist ihrem Wertekanon verpflichtet. Daraus ergibt sich die wahrzunehmende Verantwortung, dass technologische Innovationen und Entwicklungen – insbesondere der Einsatz von KI in Militäreinsätzen – nicht gegen diese Grundwerte verwendet werden dürfen. Dies ist besonders relevant, wenn neue Technologien eingeführt werden, deren Einsatzmöglichkeiten sowohl strategische Vorteile als auch ethische Risiken bergen (Dörfler-Dierken, 2024).

Die Innere Führung und eine breit angelegte Persönlichkeitsbildung (politisch, rechtlich, ethisch, historisch, interkulturell) tragen dazu bei, dass Soldatinnen und Soldaten die notwendige Widerstandskraft besitzen, um Belastungen und Entbehrungen nicht nur zu ertragen, sondern auch zu überwinden, und um im Gefecht nicht nur zu bestehen, sondern auch zu gewinnen. Das erfordert wiederum Charakterstärke und mentale Kraft, um entsprechende kritische Positionen einbringen und auch durchsetzen zu können. Dies spiegelt sich in Innovationsvorhaben, bei technischen Entwicklungen und transformativen Prozessen durch Agilität, einen nachhaltigen Innovationswillen und ein digitales Mindset wider.

Die Würde des Menschen ist ein zentrales Element des Grundgesetzes. Die Verteidigung der Würde jedes Menschen, erfordert aus unserer Sicht eine klare Positionierung des Soldaten bzw. der Soldatin im Diskurs zum Einsatz von Künstlicher Intelligenz. Die Achtung der Würde des Menschen, der Person, erfordert es auch, Grenzen zu ziehen, um den Menschen nicht durch ein System, eine Künstliche Intelligenz, eine Software zu einem Objekt herabzusetzen zu lassen, ihn zu entwürdigen oder ihn zu entmenschlichen.

Im Konzept der Inneren Führung ist der Dreiklang Führen – Entscheiden – Verantworten angelegt. Entscheidungen treffen und Verantwortung tragen sind Elemente, die in einem Krieg oder Einsatz durch Soldatinnen und Soldaten mit und ohne Einsatz von KI erfolgen müssen; Verantwortung übernehmen und tragen, das kann und wird nicht von einer Software oder KI abgenommen werden. Hier bleibt der Mensch in der Verantwortung. Innere Führung bedeutet, auch in unangenehmen Situationen verantwortlich zu handeln, und dies bedeutet eben auch einen Einsatz von tödlicher Gewalt gegenüber Menschen. Die Entscheidung und der Einsatz darf daher gerade mit Blick auf die Werte des Grundgesetzes (Menschenwürde) nicht durch eine KI „übernommen“ werden; dies entmenschlicht den Gegner und führt zu Verantwortungslosigkeit.

Verteidigungsfähigkeit ist abhängig von Informations-, Führungs- und Wirkungsüberlegenheit – auch durch Nutzung von KI. KI-Anwendungen sollten eingesetzt werden, um Demokratie und Freiheit zu verteidigen, ohne dieses Wertegefüge auszuhöhlen oder zu vernichten. Innere Führung ist dabei der Wertekompass für die Bundeswehr und die besondere Anforderung des Soldatenberufs: Wofür dienen Soldaten? Wofür setzen sie ihr Leben ein, und wofür sind sie bereit zu töten? Das Leitbild des Staatsbürgers in Uniform bezieht sich auf ein freies, mündiges, verantwortungsbewusstes Individuum, einen rational denkenden, reflektierenden Menschen, dessen Existenz sich im Spannungsverhältnis von Individualität und Gemeinsinn bewegt, einen bestens ausgebildeten, einsatzfähigen und einsatzbereiten Soldaten, der die Menschenwürde berücksichtigt. Damit formuliert sie auch das berufsethische Ideal eines verantwortlichen Soldaten bzw. einer Soldatin, die ihr Handeln an den menschenrechtfundierten Normen des Rechtsstaats der Bundesrepublik Deutschland orientiert (Bock, 2022). Maßgeblich für die Befehlsausführung ist ein gewissensgeleiteter, pflichtbewusster und verantwortungsvoller Gehorsam. Leitinstanz ist das individuelle Gewissen, das nicht durch KI ersetzt werden darf.

Baudissin formulierte es 1954 folgendermaßen: „Je tödlicher und weitreichender die Waffenwirkung wird, umso notwendiger wird es, dass Menschen hinter den Waffen stehen, die wissen, was sie tun. Ohne die Bindung an die sittlichen Bereiche droht der Soldat zum bloßen Funktionär der Gewalt und Manager zu werden.“ KI muss unter den Prämissen der Inneren Führung einer kritischen Prüfung unterzogen werden, d. h. unter Wahrung unseres Wertesystems (Menschenwürde, Freiheit, Frieden, Gerechtigkeit, Gleichheit, Solidarität und Demokratie). Erforderlich ist ein problembewusster, kritischer und verantwortungsvoller Umgang mit KI: Prüfelemente zum Wohl unseres demokratischen Gemeinwesens und sicherheitspolitischen Herausforderungen müssen formuliert werden (ethische, rechtliche, politische und gesellschaftliche Fragestellungen).

Der Kern der Inneren Führung bleibt bei aller technologischer Entwicklung der vergangenen Jahrzehnte dennoch unverändert und stellt die Richtlinie für die Anwendung von KI aus der Perspektive der Inneren Führung dar (und kann nicht oft genug für uns alle in Erinnerung gerufen werden): Grundgesetz Art. 1 (1): „Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlicher Gewalt.“ Das Primat der Politik bedeutet, dass Soldatinnen und Soldaten in Folge demokratisch legitimierter Herrschaft beauftragt werden zu handeln. KI darf nicht dazu führen, den Staatsbürger in Uniform zu entmündigen. Stattdessen ist sicherzustellen, dass Reflexion, Gewissen und Entscheidungsverantwortung in menschlicher Hand bleiben. KI muss – analog zur Handhabung von Nuklearwaffen und ihrer Zerstörungskraft – verantwortungsvoll gehandhabt werden. Und dies erfordert, dass wir uns mit allen Facetten von KI auseinandersetzen müssen, bevor andere es tun, die nicht unser Werteverständnis teilen.

In diesem Verständnis und im Diskurs um und bei der Entwicklung von KI ist daher immer die Frage zu stellen: Werden Soldaten von verantwortungsvoll bewusst handelnden Subjekten tendenziell zum bloßen Objekt ohne ethische Reflexion beziehungsweise Reflexionsmöglichkeit degradiert? Dies schärft im Übrigen auch das Bewusstsein im Sinne der Inneren Führung. Bereits Baudissins warnte eindringlich vor den sittlichen und geistigen Folgen von Technokratentum im Militär unter den seinerzeitigen und präsent gebliebenen Herausforderungen atomarer militärischer Mittel. KI bewegt sich immer auf dem schmalen Grat der Freiheit. Das heißt im Verständnis der Prinzipien der Inneren Führung: Wir müssen uns mit KI auseinandersetzen und unser Werteverständnis einbringen. Wir dürfen keine Wunderdinge von KI erwarten. Im Mittelpunkt bleibt der Soldat als Mensch mit Letztverantwortung. KI enthebt den Soldaten nicht von der Prüfung des Gewissens in Dilemmasituationen und entbindet ihn nicht von der Verpflichtung sowie dem Mut zur Entscheidung. KI entbindet ihn nicht von der Werteorientierung; vielmehr setzt sie diese zwingend voraus.

Die Persönlichkeitsbildung umfasst die Handlungsfelder politische, rechtliche, historische, ethische und interkulturelle Bildung und hat in der Bundeswehr einen hohen Stellenwert. Bereits mit der Konzeption der Inneren Führung bei der Aufstellung der Streitkräfte wurde der Lebenskundliche Unterricht (LKU) als zentrales Element etabliert. Die Vordenker der Inneren Führung stellten sich eine „persönlichkeitsbildende Maßnahme vor, deren thematischer Schwerpunkt letztlich ‚Sittlichkeit‘ war und deren wirkliche Herausforderung für den Unterrichtenden im unmittelbaren Zusammenspiel von ‚Ethik‘ und ‚Moral‘ in der Truppe bestand“ (Torkler, 2023). Ziel des LKU ist es, Soldatinnen und Soldaten in ethischen, gesellschaftlichen und persönlichen Fragestellungen Orientierung zu geben. Themen wie ethische Dilemmata, Menschenwürde, Verantwortung, Toleranz und der Umgang mit Konflikten oder auch Entscheiden in Krisensituationen stehen dabei im Mittelpunkt. Der LKU entstand aus der Einsicht, dass Soldaten eine über das rein Fachliche hinausgehende ethische Bildung und Kompetenz benötigen. Die in diesem Rahmen vermittelte Werteorientierung dient nicht nur der Ausbildung der individuellen Persönlichkeit, sondern trägt auch zur Stabilität des militärischen Dienstes bei. Dies zeigt sich insbesondere in der Art und Weise, wie in nahezu unvermeidlichen ethischen Konfliktsituationen in Kriegen gehandelt wird: Gehorsam im Konflikt mit dem eigenen Gewissen; Abwägen der Konsequenzen des militärischen Handelns, Berücksichtigung des humanitären Völkerrechts und letztlich das Entscheiden und Verantworten. Die Auseinandersetzung mit der Rechtfertigung und Begrenzung von Gewalt ist dabei ein Kernaspekt. Soldatinnen und Soldaten müssen ethische Prinzipien, wie die Wahrung der Menschenrechte und die Achtung der Würde jedes Menschen, mit der militärischen Realität vereinen, was zu tiefgreifenden inneren Konflikten führen kann. Der Lebenskundliche Unterricht im Rahmen der Persönlichkeitsbildung hilft, genau dieses moralische Urteilsvermögen und die Charakterbildung zu entwickeln.

Zur Persönlichkeitsbildung gehört, wie oben bereits angesprochen, auch die rechtliche Bildung. Humanitäres Völkerrecht, Kriegsvölkerrecht, der Umgang mit Kombattanten und Nichtkombattanten, die Verhältnismäßigkeit beim Einsatz der Mittel, die Unterstützung von schutzbedürftigen Zivilisten und unschuldigen Dritten stellen dabei zentrale Aspekte in der Ausbildung dar.

Krieg ist von der Völkergemeinschaft offiziell geächtet; es gilt das Gewaltverbot. Für den Fall interstaatlicher Konflikte hat allein der UN-Sicherheitsrat das Machtmonopol inne. Allein die Verteidigung gegen einen bewaffneten Angriff rechtfertigt den Einsatz militärischer Gewalt: Angriffskriege sind nie erlaubt, Verteidigungskriege schon, sofern sie den Forderungen des Völkerrechts entsprechen und nur mit erlaubten Mitteln geführt werden. Artikel 36 des Zusatzprotokolls vom 08.07.1977 zu den Genfer Abkommen vom 12.08.1949 über den Schutz der Opfer internationaler bewaffneter Konflikte antizipiert bereits die Entstehung neuer Waffensysteme, weil es Staaten auffordert zu prüfen, ob eine neue Waffe oder Methode nicht a priori als verboten gelten muss. Das setzt voraus, dass die Staaten die Menschenrechte achten. Sie sollen, so der Leitgedanke, schon bei der Entstehung neuer Waffensysteme zu erkennen geben, dass ihnen die Würde der Menschen anderer Nationalität genauso wichtig ist wie die Würde der eigenen Staatsbürger (Hofstetter et al., 2019).

Mit Blick auf Transformation und Digitalisierung festigt die Persönlichkeitsbildung ihren Stellenwert in den Streitkräften. Neue Technologien erfordern ein starkes ethisches Urteilsvermögen und eine wertebasierte Führungskultur. Das Konzept und das Leben der Inneren Führung stellt sicher, dass Soldatinnen und Soldaten trotz fortschreitender Automatisierung und technischer Unterstützung ihre Letztverantwortung behalten und weiterhin reflektierte Entscheidungen im Einklang mit demokratischen Werten treffen.

Eine kurze Gegenüberstellung der Führungsmodelle einiger ausgewählter internationaler Streitkräfte zeigt, dass die Bundeswehr mit ihrer Inneren Führung ein einzigartiges Konzept verfolgt, das ethische und demokratische Prinzipien in den Vordergrund stellt. Im Vergleich dazu betonen andere Nationen unterschiedliche Aspekte in ihren militärischen Führungsansätzen.

Die fortschreitende Digitalisierung und die zunehmende Bedeutung des Cyber- und Informationsraums (CIR) haben die Bundeswehr veranlasst, ihre Strukturen und Fähigkeiten in diesem Bereich bedarfsgerecht anzupassen. Wir beleuchten die Entwicklung des Cyber- und Informationsraums der Bundeswehr von 2014 bis 2025 unter Berücksichtigung der Chancen und Herausforderungen im Kontext aktueller geopolitischer und technologischer Entwicklungen.

Die durch und für die Bundeswehr entwickelten konzeptionellen Grundlagen beschreiben Prinzipien, Potenziale und Voraussetzungen für die Nutzung von KI (BMVg, 2022). Deren Einsatz „muss stets zielgerichtet wirkungs- und verantwortungsvoll sowie rechtskonform erfolgen.“ Der Fokus im folgenden Abschnitt liegt auf den militärischen Aufgaben der Streitkräfte, da gerade hier die Beziehung zu ethischen Aspekten besonders herausgestellt werden muss. Der Einsatz von KI im Rahmen der administrativen Aufgaben der Bundeswehr wird hier nicht beleuchtet. Das zentrale, von der Bundeswehr durch den Einsatz von KI verfolgte Ziel ist, eine auf dem modernen Gefechtsfeld, in allen Dimensionen und in der Wirkkette der Domänen Führung, Aufklärung, Wirkung und Unterstützung (FAWU) hohe Durchsetzungs-, Durchhalte- und Verteidigungsfähigkeit zu erlangen. Dabei stehen durch KI unterstützte Anwendungen zur Erlangung der Informations- und Führungsüberlegenheit ebenso im Fokus wie Services, die das Potential haben, die Effizienz zu steigern, insbesondere die Geschwindigkeit und Präzision von Prozessen, um schließlich Wirkungsüberlegenheit zu erzielen.

Die Konzeption unterstreicht die politischen und rechtlichen Rahmenbedingungen, vorgegeben durch das (humanitäre) Völkerrecht, die KI-Strategie der Bundesregierung („ethics by design“), die NATO Principles of Responsible Use of Artificial Intelligence in Defence, welche die Prinzipien Rechtmäßigkeit, Verantwortung und Rechenschaftspflicht beim Einsatz, bei der Erklärbarkeit und Rückverfolgbarkeit der Ergebnisse, Zuverlässigkeit, Kontrolle und Vermeidung von Verzerrungen beinhaltet, und ist damit eindeutig und klar in ihrer Aussage. Insbesondere lehnt die Bundeswehr-Konzeption letale autonome Waffensysteme (LAWS) ab und entwickelt Plattformen nicht mit dem Ziel vollständiger Autonomie, sondern stets mit einem Menschen an sinnvoller Stelle in der Entscheidungskette. Dem militärischen Grundsatz der unteilbaren Verantwortung kommt dabei sehr hohe Bedeutung zu, und gleichzeitig erwachsen daraus Qualitätskriterien für die KI.

Es kommt für die Bundeswehr darauf an, gerade auch im Gefecht mit einem mindestens gleichwertigen Gegner in allen Dimensionen (Land, Luft, Weltraum, See sowie Cyber- und Informationsraum) durchsetzungs- und verteidigungsfähig zu sein. Siegfähigkeit der Streitkräfte ist ein Muss – „zweiter Sieger“ zu sein ist keine Option. Hierzu sind weitere Fähigkeitsentwicklungen erforderlich, gerade auch unter Berücksichtigung der Verpflichtungen zur Bereitstellung deutscher Kräftebeiträge und der Wahrnehmung von Führungsverantwortung und -aufgaben im Bündnis.

Dabei geht die Konzeption u. a. von folgenden Annahmen aus:

Weiterhin wird hier – bereits vor Jahren – festgestellt: KI wird auch durch Verbündete und Partnernationen in den Einsätzen oder bei zivilen Auftragnehmern zur Nutzung kommen. Darüber hinaus werden potenzielle Gegner KI nutzen, und zwar ohne die eigenen rechtlichen und ethischen Beschränkungen, um ihrerseits eine Wirkungsüberlegenheit zu erreichen. Auswertungen des Krieges in der Ukraine, insbesondere mit Blick auf den Einsatz von Drohnen, den elektronischen Kampf und die Erstellung von Echtzeitlagebildern, unterstreichen gerade die letzte Annahme eindrücklich. Die KI übernimmt im „Gefecht der Drohnen“ bereits die Zielauffassung und den Endanflug in das Ziel auch und gerade bei Verbindungsabbruch zur Basisstation. Die Entwicklung geht rasant weiter, hin zur Steuerung und Koordination des Einsatzes einer Vielzahl von Drohnen (Schwarm) unter einem einheitlichen Kommando.

Es gilt für die Bundeswehr, diese Entwicklungen und die daraus erwachsenden Notwendigkeiten nicht nur theoretisch, sondern besonders in der Umsetzung in den Streitkräften intensiv zu verfolgen. In seiner Untersuchung zu Lehren aus der ukrainischen Offensive in 2023 und zur Zukunft der Drohnenkriegsführung folgert Andreas Rapp:

„Eine Armee, die Drohneneinsatz und den Kampf im elektromagnetischen Spektrum (inklusive der Steuerung und Koordinierung durch KI) nicht berücksichtigt, wird zukünftig nicht mehr durchsetzungs- und überlebensfähig sein.“ Er fordert dazu: „Es ist dabei der gleiche rechtliche und ethische Maßstab an den Einsatz von Drohnen als Wirkmittel anzulegen wie an den Einsatz anderer weitreichender Wirkmittel in Form von Artillerie, Lenk- oder Marschflugkörpern.“ (2024).

Auf strategischer Ebene ist die Sicherstellung der Einsatzbereitschaft und Zukunftsfähigkeit der Bundeswehr, gestützt auf eine nachhaltig effektive und effiziente Aufgabenwahrnehmung, das zentrale und übergreifende Ziel im Hinblick auf die Nutzung von KI. Dies steht nicht allein, sondern wird von weiteren zu verfolgenden Zielen untermauert:

Für die Umsetzung der Ziele in Projekte und Fähigkeiten wurden daher u. a. folgende Anwendungsgebiete identifiziert (Auszug):

Die o. a. Annahmen und Kriterien werden im Projekt Future Combat Air System erstmalig für die Bundeswehr in einer besonderen Form berücksichtigt und in einer Arbeitsgruppe Technikverantwortung umgesetzt. Generalleutnant a. D. Ansgar Rieks und Professor Dr. Wolfgang Koch beschreiben dies wie folgt:

Ziel ist es, Ethik, Recht und politisches Wollen technisch zu operationalisieren. Dazu gehört u. a. Folgendes:

Die Autoren folgern aus den bisherigen Entwicklungen und Diskussionen:

„Im Grunde muss Technik der operativen Idee folgen, sie möglich und erfolgreich machen. Ethik begleitet dann die Technikentwicklung in diesem militärischen Umfeld und lässt sich konkret einbeziehen, und umgekehrt gilt: ethischer werden durch Technologie, und siegfähig werden durch operative Nutzung dieser Technologie in einem systemischen Ansatz – selbst gegen einen völlig unethisch handelnden Gegner“. (Rieks & Koch, 2024).

KI-Anwendungen entwickeln sich mit rasanter Geschwindigkeit. Sie für das oben beschriebene militärische und nichtmilitärische Umfeld innerhalb des gesetzlichen Rahmens, auf Grundlage unserer ethischen Wertvorstellungen und entsprechend den Grundsätzen der Inneren Führung sowie immer auch unter Berücksichtigung der gesamtgesellschaftlichen Diskussion zum Thema KI in der Breite zur Anwendung zu bringen, muss Handlungsmaxime für die Einführung von KI-Systemanteilen im Geschäftsbereich BMVg sein.

Die politische und gesellschaftliche Frage nach dem ethischen Einsatz von Systemen in allen Domänen ist nicht neu und wurde schon in der Vergangenheit beantwortet: Eine verpflichtende Einstufung im Rahmen einer Waffenprüfung ist völkerrechtlich und gesetzlich gefordert. Sie ist unabhängig vom Einsatz einer bestimmten Technik, wie z. B. KI, und beurteilt generell die Fähigkeiten jedes Gerätes, das in der Bundeswehr zum Einsatz kommen darf. Damit werden Zuverlässigkeit, Sicherheit und Robustheit für alle Systeme garantiert, inklusive solcher mit KI-Anteilen.

Dennoch ist es erforderlich, bei allen nationalen Überlegungen und Festlegungen zu bedenken, dass andere Nationen – insbesondere diejenigen, die der westlichen Werteordnung und der Beachtung der Menschenrechte geringeren Wert zumessen – weniger Rücksicht auf diese Bedenken legen, wenn es um die Entwicklung und den Einsatz von Künstlicher Intelligenz in Waffensystemen geht. Dies ist gerade im völkerrechtswidrigen Krieg Russlands in der Ukraine feststellbar. Die Politik muss also, wie das auch bereits Papst Franziskus eingeklagt hat, völkerrechtlich verbindliche Vorgaben entwickeln, vereinbaren und einhalten.

In allen Szenarien, in denen kritische, mit hohem Risiko behaftete Entscheidungen zu treffen sind, ist der menschlichen Verantwortung Rechnung zu tragen. Eine konkrete Ausprägung, an welcher Stelle ein Mensch in die Entscheidung eingreift, ist von System zu System neu zu bewerten und wird auch beim gleichen System, aber in unterschiedlichen Lagen, situationsangepasst gehandhabt werden müssen. In jedem Fall werden die eingesetzten KI-Systeme mit dem Ziel entwickelt, Entscheidungsvorschläge nachvollziehbar zu machen (explainable AI), um dem Menschen die nötige Voraussetzung zu liefern, an sinnvoller Stelle die bestmögliche Entscheidung treffen zu können (meaningful human control).

Wertenormen sind für uns und unsere Partner beim Einsatz von KI von zentraler Bedeutung. Die Schaffung von Normen, technische Lösungen zur Vertrauenswürdigkeit von Informationen, die Einhaltung von Richtlinien und die Identifizierung von Informationsquellen sind Schlüsselaspekte, um sicherzustellen, dass KI-Anwendungen verantwortungsvoll und glaubwürdig eingesetzt werden können. Gerade im militärischen Kontext bestehen hierbei noch enorme Herausforderungen. Der Einsatz von KI erfordert generell klare Normen und Standards. Diese sollen eine Bewertung der bereits erwähnten Kriterien wie Datenschutz, Fairness, Transparenz und Verantwortlichkeit ermöglichen. Dies gilt nicht nur für Waffensysteme, sondern ganz besonders auch im Informationsumfeld. Hier wird gerade in der täglichen Praxis der Kampf um die Narrative in den aktuellen Konflikten deutlich. KI-generierte Videos oder Bilder, Desinformationskampagnen, Fake News, Deep Fakes … – Einflussnahme findet in vielfältiger Form statt, was eigene Kräfte zum Aufbau von Fähigkeiten zur Erkennung und dem Einleiten von Gegenmaßnahmen fordert.

Umso mehr ist es im Zusammenhang mit dem Einsatz von KI beim Militär notwendig, diese Technologie einer sorgfältigen Prüfung zu unterziehen und, wo erforderlich und möglich, sie zu regulieren. Sowohl die Entwicklung eigener Lösungen als auch extern bereitgestellte Anwendungen erfordern verbindliche, aber auch praxistaugliche Standards, vorzugsweise international abgestimmt und anerkannt.

Ausgehend davon, dass Krieg weder notwendig noch begrüßenswert, aber auch nicht auszuschließen ist, behauptet die Lehre vom gerechten Krieg die grundsätzliche Beschaffenheit und damit sowohl die Vermeidbarkeit (prioritär) wie die Führbarkeit des Krieges (auf der Basis von Kriterien). Da die Existenz von Kriegen nicht negiert werden kann, stellt bereits Thomas von Aquin dar, dass diese unter bestimmte Bedingungen gerechtfertigt sein können. Dazu müssten jedoch Bedingungen erfüllt sein;

Kriegführung bedarf der angemessenen Weise und der quantitativen Verhältnismäßigkeit im Hinblick auf die angewendete Gewalt. So müssen Unschuldige und Zivilisten weitestgehend geschont und Kriegsgefangene menschlich behandelt werden (Torkler, 2023).

Das Leitbild vom gerechten Frieden fordert für eine rechterhaltende Anwendung von Gewalt die Berücksichtigung der Kriterien (existenter) Erlaubnisgrund, Autorisierung, richtige Absicht, äußerstes Mittel, Verhältnismäßigkeit der Folgen, Verhältnismäßigkeit der Mittel und Unterscheidungsprinzip (unbeteiligte Personen und Einrichtungen).

Papst Franziskus betont die Chancen und Gefahren, die durch den Nutzen von Künstlicher Intelligenz für die Menschheit ausgehen, und fordert, über gemeinsame Ethikrichtlinien die Würde des Menschen neu in den Mittelpunkt zu stellen, die Programme Künstlicher Intelligenz am Wohle der Menschen auszurichten und „eine ethische Moderation von Algorithmen und Programmen der künstlichen Intelligenz“, die „Algor-Ethik“, zu institutionalisieren (2020, 2024a, b).

Zu autonomen Waffensystemen unterstreicht er seine ethischen Bedenken: „Autonome Waffensysteme werden niemals moralisch verantwortliche Subjekte sein können. Die ausschließlich menschliche Fähigkeit zum moralischen Urteil und zur ethischen Entscheidungsfindung ist mehr als ein komplexer Satz von Algorithmen, und diese Fähigkeit kann nicht auf die Programmierung einer Maschine reduziert werden, die, wie ‚intelligent‘ sie auch sein mag, doch immer eine Maschine bleibt. Aus diesem Grund ist es unerlässlich, eine sachgemäße, maßgebliche und kohärente menschliche Kontrolle der Waffensysteme zu garantieren.“

Er fordert die Völkergemeinschaft auf, gemeinsam daran zu arbeiten, „einen verbindlichen internationalen Vertrag zu schließen, der die Entwicklung und den Einsatz von Künstlicher Intelligenz in ihren vielfältigen Formen regelt, dies sowohl zur Verhinderung schädlicher Praktiken, aber auch zur Ermutigung zu einer guten Praxis, indem neue und kreative Ansätze angeregt sowie persönliche und gemeinschaftliche Initiativen erleichtert werden.“

Die Einführung von KI im Militär stellt die Bundeswehr vor große Herausforderungen, bietet aber auch Chancen, internationale Standards für den ethischen Einsatz neuer Technologien zu setzen. Die Prinzipien der Inneren Führung sind ein wertvolles Instrument, um sicherzustellen, dass technologische Innovationen nicht nur die operative Effizienz steigern, sondern auch den moralischen und gesellschaftlichen Anforderungen gerecht werden.

Es gilt, noch einmal den (Mit-)Begründer der Inneren Führung, Generalleutnant Wolf von Baudissin, zu Wort kommen zu lassen:

„Je tödlicher und weitreichender die Waffenwirkung wird, umso notwendiger wird es, dass Menschen hinter den Waffen stehen, die wissen, was sie tun. Ohne die Bindung an die sittlichen Bereiche droht der Soldat zum bloßen Funktionär der Gewalt und Manager zu werden.“

Ohne zu diesem Zeitpunkt bereits an den Einsatz von Künstlicher Intelligenz in Waffensystemen gedacht zu haben, zeigt diese Position doch deutlich den Wert des Menschen bei Entscheidungs- und Verantwortungsprozessen auf der Grundlage eines eindeutigen, durch das Grundgesetz vorgegebenen Wertefundaments auf. KI entbindet Soldaten nicht von der Werteorientierung, sondern setzt eben eine solche zwingend voraus. Sie bewahrt den Soldaten nicht vor Dilemmasituationen und entbindet ihn nicht von der Verpflichtung, sondern erfordert weiterhin Mut zur Entscheidung. Die Bundeswehr stellt in ihren konzeptionellen Grundlagen die Entscheidung Deutschlands dar, den Einsatz letaler autonomer Waffensysteme abzulehnen, die dem Menschen die Entscheidung über den Einsatz tödlicher Gewalt gänzlich entziehen. Potenzielle Gegner oder Verbündete könnten sich zum Einsatz autonomer Waffensysteme jedoch anders positionieren, was Fragen bezüglich der Abwehr derartiger Systeme bzw. der Interoperabilität mit diesen auch in Deutschland aufwerfen wird. Deshalb ist es erforderlich, sich weiterhin mit allen Aspekten dieser Technologie zu befassen, um die notwendige Bewertungskompetenz zu möglichen Auswirkungen auf die Bundeswehr zu behalten, insbesondere in Bezug auf Abwehr- oder Schutzmaßnahmen. Ziel ist es, KI-basierte Technologie vermehrt zu nutzen, um den Dreiklang aus Informations-, Führungs- und Wirkungsüberlegenheit auch im fortschreitenden 21. Jahrhundert sicherzustellen. KI trägt damit zur Zukunftsfähigkeit der Bundeswehr bei. Durch ihren Einsatz können militärische Operationen voraussichtlich besser, schneller und beweglicher geführt sowie Soldatinnen und Soldaten besser geschützt und unterstützt werden. KI, wie andere Zukunftstechnologien auch, lässt sich nicht auf Technik begrenzen, sondern muss auf allen Ebenen und in allen Bereichen mitgedacht werden. Wesentlich dabei sind qualifizierte Soldatinnen und Soldaten sowie zivile Mitarbeitende, die sich bewusst und engagiert neuen Herausforderungen im Umgang mit KI stellen und ggf. auch bereit sind, kurzfristige Einschränkungen im eigenen Bereich hinzunehmen, um ein übergeordnetes Entwicklungsziel zu erreichen.

Für die Nutzung von KI in Waffensystemen muss daher gelten: Der Einsatz von KI in heutigen und zukünftigen Waffensystemen wird sich für die Bundeswehr klar in den Grenzen des Völkerrechts, insbesondere des humanitären Völkerrechts, bewegen. Dem dient insbesondere auch eine bei der Entwicklung, Beschaffung und Einführung von neuen KI-gestützten Waffen, Mitteln oder Methoden der Kriegsführung durchzuführende Prüfung, die bereits im Vorfeld des Einsatzes klarstellen soll, ob und inwieweit diese Systeme im Einklang mit dem Völkerrecht in bewaffneten Konflikten eingesetzt werden können.

Die Innere Führung war und ist in den nun fast 75 Jahren der Existenz der Bundeswehr der Wertekompass für die Soldatinnen und Soldaten und für die besonderen Anforderung des Soldatenberufs. Ihr Kern bleibt unverändert „Die Würde des Menschen ist unantastbar.“ Das Leitbild des Staatsbürgers in Uniform bezieht sich auf ein verantwortungsbewusstes Individuum und einen einsatzbereiten Soldaten (m, w, d), der die Menschenwürde berücksichtigt. Maßgeblich ist ein gewissensgeleiteter, pflichtbewusster und verantwortungsvoller Gehorsam; leitend ist das individuelle Gewissen, das durch keine technologische Entwicklung, auch nicht durch eine Künstliche Intelligenz, ersetzt werden darf. Dies erfordert täglich einen problembewussten, kritischen und immer verantwortungsvollen Umgang mit dieser Technologie. KI darf nicht dazu führen, den Staatsbürger in Uniform zu entmündigen oder aus der Entscheidung und Verantwortung für sein Handeln zu nehmen. Gerade Letzteres – die Entscheidungsverantwortung – muss in menschlicher Hand bleiben. Tägliche wachsende Fähigkeiten der KI sind mehr als geeignet, um in den militärischen und administrativen Prozessen umfangreiche analytische Aufgaben übernehmen und unterstützen zu können, aber die KI stellt aus unserer Sicht gerade in verantwortungsrelevanten ethischen Aspekten keinen Ersatz dar. Die menschliche Entscheidung und Verantwortungsübernahme bleibt unerlässlich.

Wir schließen mit einem bezeichnenden Zitat von Generalmajor Robert H. Latiff, US Army (Hofstetter et al., 2019):

„Being killed by a machine is the ultimate human indignity“