Top

Zeitschrift für Außen- und Sicherheitspolitik

Published in:

24-09-2019 | Studie

Autonomie in Waffensystemen: Chancen und Risiken für die US-Sicherheitspolitik

Authors: Aaron Hansen, Dr. Frank Sauer

Published in: Zeitschrift für Außen- und Sicherheitspolitik | Issue 2/2019

Activate our intelligent search to find suitable subject content or patents.

search-config

AI-assisted search

Off

Zusammenfassung

Der Artikel analysiert die sich aus Autonomie in Waffensystemen ergebenden sicherheitspolitischen Implikationen. Er fragt am Beispiel der USA nach Chancen und Risiken, insbesondere mit Blick auf Proliferation und neue Verwundbarkeiten sowie Eskalations- und Instabilitätsdynamiken. Der Artikel schlussfolgert, dass die Strategie der USA mit Blick auf Autonomie in Waffensystemen mittel- und langfristig keinen Sicherheitsgewinn erzeugt. Abschließend werden die Hürden beleuchtet, denen sich multilaterale Rüstungskontrolle im Rahmen der UN aktuell gegenübersieht.

previous article Frankreichs Interventionspolitik im Westlichen Sahel: Zwischen kurzfristigem Stabilitätskalkül und langfristigem Scheitern

next article Geopolitics and Security in NAFTA 2.0 – The United States is Leading the Way

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

inform now

Zeitschrift für Außen- und Sicherheitspolitik

Die Zeitschrift für Außen- und Sicherheitspolitik (ZfAS) ist die neue Zeitschrift für theoriegeleitete und empirisch gehaltvolle Außenpolitikanalysen, sicherheitspolitische Studien und Analysen der internationalen Politik.

inform now

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

inform now

Unter dem weiten Begriff der Künstlichen Intelligenz werden eine Vielzahl unterschiedlicher softwarebasierter Techniken und Verfahren (von traditionellen Entscheidungsbäumen bis hin zu deep learning – maschinellem Lernen mit neuronalen Netzen) zur Automatisierung von Aufgaben subsumiert, deren Bewältigung zuvor menschliche Intelligenz erforderte. Im Folgenden wird, der Empfehlung des International Panel on the Regulation of Autonomous Weapons folgend (iPRAW 2017), auf den unscharfen KI-Begriff weitestgehend verzichtet. Stattdessen werden stets die konkreten, für die Diskussion mit Blick auf die Funktionen in autonomen Waffensystemen jeweils relevanten Techniken benannt, etwa maschinelle Bilderkennung.

Häufig, insbesondere im Kontext der Vereinten Nationen, findet auch das Akronym LAWS (für lethal autonomous weapon systems) Verwendung.

In Kapitel 3 werden wir die Frage der AWS-Definition und den Neuigkeitswert von Autonomie in Waffensystemen gesondert adressieren. Siehe grundlegend Scharre (2018).

Ein Ziel, das auch NATO-Verbündete wie Deutschland teilen – zumindest gemäß der letzten beiden Koalitionsverträge (Bundesregierung 2013, S. 178, 2018, S. 149).

Unter Revolution in Military Affairs wird eine tiefgreifende Umwälzung der Kriegsführung verstanden. Häufig liegt bei der Verwendung des Begriffs ein Fokus auf neuen Technologien und den im Rahmen ihrer militärischen Anwendung stattfindenden Änderungen von Strategien, Taktiken und Doktrinen.

Zur Diskussion um den Begriff der RMA siehe Shaw (2005, S. 32) und Singer (2009, S. 181).

Hypervelocity vehicles bewegen sich mit Geschwindigkeiten von Mach 5, also fünffacher Schallgeschwindigkeit, oder mehr. Unter den Sammelbegriff fallen Marschflugkörper ebenso wie glide vehicles, die mit ballistischen Raketen verbracht werden.

Selbst Minen werden bisweilen unter ein breites Verständnis von Waffenautonomie subsumiert – zumindest solche, die anhand bestimmter Signaturen eine Zielauswahl treffen und nicht nur auf einem primitiven, opferaktivierten An‑/Aus-Mechanismus ohne Selbstregulierungsschleife beruhen. Wir danken den anonymen Gutachter*innen für den Hinweis.

Auch Verteidigungssysteme (genannt sei hier beispielhaft das Luftabwehrsystem Patriot) können natürlich mitunter belebte Ziele (etwa bemannte Flugzeuge) bekämpfen. Dieses Kriterium ist also nicht unbedingt trennscharf. Die Frage der AWS-Definition ist insgesamt außerordentlich diffizil, wie in diesem Kapitel herausgearbeitet werden soll.

Siehe mit Blick darauf die Entwicklung verschiedener Waffentypen bei Roff (2016); siehe des Weiteren Slijper (2017) für einen hilfreichen Überblick über jene Waffensysteme und Prototypen, die in der AWS-Diskussion derzeit eine Rolle spielen.

Hierbei handelt es sich um Waffen, die zunächst ohne Ziel gestartet werden, um dann innerhalb eines definierten Einsatzgebietes, in dem sie sich über längere Zeit aufhalten, Ziele entweder zugewiesen zu bekommen oder sich diese anhand vorher festgelegter Merkmale selbstständig zu suchen.

Für eine ebenso aktuelle wie wohldurchdachte Aufbereitung der AWS-Definitionsfrage aus ethischer und völkerrechtlicher Sicht siehe Amoroso und Tamburrini (2017).

In der Studie von 2012 wird noch vor der Anfälligkeit gegen Cyberangriffe und vor Proliferation gewarnt, in der Summer Study von 2016 dagegen beschäftigt sich nur ein Kapitel mit den Cybersicherheitsaspekten; die Risiken werden im Fazit dann nicht mehr erwähnt (Defense Science Board 2012, S. 14, 73-75, 2016, S. 27-29, 98-102).

Einen kritischen Überblick über die verschiedenen in der Diskussion anzutreffenden Konzepte bietet Ekelhof (2019).

Siehe in diesem Zusammenhang auch die Unterscheidung zwischen „control by design“ und „control in use“ in den Berichten des International Panel on the Regulation of Autonomous Weapons (https://www.ipraw.org/focus-on-reports/).

Die Nutzung von simplen, kommerziellen und im Eigenbau bewaffneten Drohnen durch den sogenannten Islamischen Staat (Waters 2017) sowie der bisher nicht gänzlich geklärte Angriff durch 13 (wohlgemerkt ebenfalls ferngesteuerte und nicht schwärmende) Drohnen auf einen russischen Stützpunkt in Syrien (MacFarquhar 2018) stützen die These solch neuer (und natürlich nicht ausschließlich auf US-Seite entstehender) Verwundbarkeiten.

Für eine kritische Bestandsaufnahme im Bereich deep learning insgesamt siehe Marcus (2018).

Für das Beispiel Patriot siehe Hawley (2017).

Aus Sicht der US-Sicherheitspolitik wäre mit dem transparent ocean nur ein Bein der nuklearen Triade einem neuen Risiko ausgesetzt. Im Falle anderer Nuklearwaffenstaaten – etwa Großbritannien oder Frankreich – wäre die gesamte Zweitschlagfähigkeit in Frage gestellt.

Für eine kritische Betrachtung siehe Horowitz (2016).

Ein besonders öffentlichkeitswirksamer Ausdruck der Bemühungen, von wissenschaftlicher Seite weiter Druck auf die Staatengemeinschaft auszuüben, ist das federführend vom prominenten KI-Forscher Stuart Russell produzierte und im Rahmen der CCW-GGE-Sitzung im November 2017 in Genf präsentierte Video Slaughterbots (auf YouTube verfügbar).

Acton, J. (2018). Command and control in the Nuclear Posture Review: Right problem, wrong solution. War on the Rocks. https://warontherocks.com/2018/02/command-and-control-in-the-nuclear-posture-review-right-problem-wrong-solution/. Zugegriffen: 05. Feb. 2018.

Acton, J. M., Arbatov, A., Dvorkin, V., Topychkanov, P., Li, B., & Tong, Z. (2017). Entanglement. Chinese and Russian perspectives on non-nuclear weapons and nuclear risks. Carnegie Endowment for International Peace. http://carnegieendowment.org/files/Entanglement_interior_FNL.pdf. Zugegriffen: 05. Feb. 2018.

AIV – Advisory Council on International Affairs, & CAVV – Advisory Committee on Issues of Public International Law. (2015). Autonomous weapon systems. The need for meaningful human control. https://aiv-advies.nl/download/606cb3b1-a800-4f8a-936f-af61ac991dd0.pdf. Zugegriffen: 05. Feb. 2018.

Altmann, J. (2013). Bewaffnete unbemannte Fahrzeuge – Beschränkungen dringend nötig. In Heinrich-Böll-Stiftung (Hrsg.), High-Tech-Kriege. Frieden und Sicherheit in den Zeiten von Drohnen, Kampfrobotern und digitaler Kriegsführung (Demokratie, Bd. 36) (S. 53–65). https://www.boell.de/sites/default/files/endf_high-tech-kriege.pdf?dimension1=division_asp. Zugegriffen: 23. Juli 2019.

Altmann, J., & Sauer, F. (2016). Speed kills: Why we need to hit the brakes on ‘killer robots’. Duck of Minerva. http://duckofminerva.com/2016/04/speed-kills-why-we-need-to-hit-the-brakes-on-killer-robots.html. Zugegriffen: 14. Jan. 2017.

Altmann, J., & Sauer, F. (2017). Autonomous weapon systems and strategic stability. Survival, 59(5), 117–142.CrossRef

Amoroso, D., & Tamburrini, G. (2017). The ethical and legal case against autonomy in weapons systems. Global Jurist. https://doi.org/10.1515/gj-2017-0012. Zugegriffen: 13. Aug. 2019.CrossRef

Amoroso, D., Sauer, F., Sharkey, N., Suchman, L., & Tamburrini, G. (2018). Autonomy in weapon systems: The military application of artificial intelligence as a litmus test for Germany’s new foreign and security policy. Heinrich-Böll-Stiftung. https://www.boell.de/sites/default/files/boell_autonomy-in-weapon-systems_1.pdf?dimension1=division_oen. Zugegriffen: 19. Juli 2019.

Arkin, R. C. (2010). The case for ethical autonomy in unmanned systems. Journal of Military Ethics, 9(4), 332–341.CrossRef

Article36. (2014). Key areas for debate on autonomous weapons systems. Article36 Briefing Paper. http://www.article36.org/wp-content/uploads/2014/05/A36-CCW-May-2014.pdf. Zugegriffen: 19. Juli 2019.

Athalye, A., Engstrom, L., Ilyas, A., & Kwok, K. (2017). Synthesizing robust adverserial examples. https://arxiv.org/pdf/1707.07397.pdf. Zugegriffen: 05. Juli 2018.

Bitzinger, R. A. (2016). Why China should fear the US military’s Third Offset Strategy. The National Interest. http://nationalinterest.org/blog/the-buzz/why-china-should-fear-the-us-militarys-third-offset-strategy-17505?page=show. Zugegriffen: 11. Nov. 2016.

Borrie, J. (2016). Security, unintentional risk, and system accidents. United Nations Institute for Disarmament Research. http://www.unog.ch/80256EDD006B8954/(httpAssets)/6FFBF5CB7ECC2403C1257F9B00525F91/$file/2016_LAWS+MX_presentations_security_borrienotes.pdf. Zugegriffen: 14. Jan. 2017.

Boulanin, V. (2016). Mapping the development of autonomy in weapon systems. A primer on autonomy. Stockholm International Peace Research Institute. https://www.sipri.org/sites/default/files/Mapping-development-autonomy-in-weapon-systems.pdf. Zugegriffen: 19. Juli 2019.

Brixey-Williams, S. (2016). Will the Atlantic become transparent? British Pugwash. https://www.basicint.org/wp-content/uploads/2018/06/Pugwash_Transparent_Oceans_update_nov2016_v3b_April2018-1.pdf. Zugegriffen: 19. Juli 2019.

Bundesregierung. (2013). Deutschlands Zukunft gestalten. Koalitionsvertrag zwischen CDU, CSU und SPD. 18. Legislaturperiode. https://www.cdu.de/sites/default/files/media/dokumente/koalitionsvertrag.pdf. Zugegriffen: 13. Aug. 2019.

Bundesregierung. (2018). Ein neuer Aufbruch für Europa. Eine neue Dynamik für Deutschland. Ein neuer Zusammenhalt für unser Land. Koalitionsvertrag zwischen CDU, CSU und SPD. 19. Legislaturperiode. https://www.bundesregierung.de/resource/blob/656734/847984/5b8bc23590d4cb2892b31c987ad672b7/2018-03-14-koalitionsvertrag-data.pdf?download=1. Zugegriffen: 13. Aug. 2019.

Carafano, J. J. (2014). Autonomous military technology: Opportunities and challenges for policy and law. The Heritage Foundation. https://www.heritage.org/defense/report/autonomous-military-technology-opportunities-and-challenges-policy-and-law. Zugegriffen: 23. Juli 2019.

Carpenter, C. (2013). Beware the killer robots. Inside the debate over autonomous weapons. Foreign Affairs. https://www.foreignaffairs.com/articles/united-states/2013-07-03/beware-killer-robots. Zugegriffen: 24. Juli 2013.

Clark, C. (2016). Pentagon study urges ‘immediate action’ on thinking weapons; VCJCS Selva cautious. Breaking Defense. http://breakingdefense.com/2016/08/pentagon-study-urges-immediate-action-on-thinking-weapons-vcjcs-selva-cautious/. Zugegriffen: 14. Nov. 2016.

Cordesman, A. H. (2000). The lessons and non-lessons of the air and missile campaign in Kosovo. Center for Strategic & International Studies. https://csis-prod.s3.amazonaws.com/s3fs-public/legacy_files/files/media/csis/pubs/kosovolessons-full.pdf. Zugegriffen: 19. Juli 2019.

Defense Science Board. (2012). The role of autonomy in DoD systems. Task Force Report. U.S. Department of Defense. https://fas.org/irp/agency/dod/dsb/autonomy.pdf. Zugegriffen: 19. Juli 2019.

Defense Science Board. (2016). Summer study on autonomy. U.S. Department of Defense. https://www.hsdl.org/?view&did=794641. Zugegriffen: 22. Juli 2019.

Dickow, M. (2015). Robotik – ein Game-Changer für Militär und Sicherheitspolitik? SWP-Studie. Stiftung Wissenschaft und Politik. https://www.swp-berlin.org/fileadmin/contents/products/studien/2015_S14_dkw.pdf. Zugegriffen: 22. Juli 2019.

Dickow, M., Dahlmann, A., Alwardt, C., Sauer, F., & Schörnig, N. (2015). First steps towards a Multidimensional Autonomy Risk Assessment (MARA) in weapons systems. FG Sicherheitspolitik Working Paper, 5. Stiftung Wissenschaft und Politik. https://www.swp-berlin.org/fileadmin/contents/products/arbeitspapiere/FG03_WP05_2015_MARA.pdf. Zugegriffen: 22. Juli 2019.

DoD – U.S. Department of Defense. (2012). Directive 3000.09. Autonomy in weapon systems. https://www.esd.whs.mil/Portals/54/Documents/DD/issuances/dodd/300009p.pdf. Zugegriffen: 22. Juli 2019.

DoD. (2018). Nuclear posture review 2018. https://media.defense.gov/2018/Feb/02/2001872886/-1/-1/1/2018-NUCLEAR-POSTURE-REVIEW-FINAL-REPORT.PDF. Zugegriffen: 05. Feb. 2018.

Eaglen, M. (2016a). A sneak preview of President Obama’s last defense budget. Part I, winners. American Enterprise Institute. https://www.aei.org/publication/a-sneak-preview-of-president-obamas-last-defense-budget-part-i-winners/. Zugegriffen: 14. Nov. 2016.

Eaglen, M. (2016b). What is the Third Offset Strategy? American Enterprise Institute. https://www.aei.org/publication/what-is-the-third-offset-strategy/. Zugegriffen: 14. Nov. 2016.

Eaglen, M., & Birkey, D. A. (2012). Nearing coffin corner: US air power on the edge. National Security Outlook, 1. American Enterprise Institute. http://www.aei.org/wp-content/uploads/2012/03/-national-security-outlook-march-2012_133237930128.pdf. Zugegriffen: 14. Nov. 2016.

Ekelhof, M. (2019). Moving beyond semantics on autonomous weapons: Meaningful human control in operation. Global Policy. https://doi.org/10.1111/1758-5899.12665. Zugegriffen: 13. Aug. 2019.CrossRef

Evtimov, I., Eykholt, K., Fernandes, E., Kohno, T., Li, B., Prakash, A., Rahmati, A., & Song, D. (2017). Robust physical-world attacks on deep learning models. https://arxiv.org/pdf/1707.08945.pdf. Zugegriffen: 22. Juli 2019.

FLI – Future of Life Institute. (2015). Autonomous weapons: An open letter from AI & robotics researchers. https://futureoflife.org/open-letter-autonomous-weapons/. Zugegriffen: 12. Sep. 2019

FLI. (2017). An open letter to the United Nations Convention on Certain Conventional Weapons. https://futureoflife.org/autonomous-weapons-open-letter-2017/. Zugegriffen: 25. Sep. 2017.

Franke, U. E. (2013). Verbreitung von unbemannten Flugzeugen für den militärischen Gebrauch. Aus Politik und Zeitgeschichte, 63(37), 33–38.

Frazar, S. L., Jarman, K. D., Joslyn, C. A., Kreyling, S. J., Sayre, A. M., Schanfein, M. J., West, C. L., & Winters, S. T. (2018). Exploratory study on potential safeguards applications for shared ledger technology. Pacific Northwest National Laboratory. https://www.pnnl.gov/main/publications/external/technical_reports/PNNL-26229.pdf. Zugegriffen: 15. Jan. 2018.

Freedberg, S. J. (2012a, 10. Aug.). Drones need secure datalinks to survive vs. Iran, China. Breaking Defense. http://breakingdefense.com/2012/08/drones-need-secure-datalinks-to-survive-vs-iran-china/. Zugegriffen: 11. Nov. 2016.

Freedberg, S. J. (2012b, 21. Dez.). The end of advantage: Enemies may catch up with US technology – or surpass it. Breaking Defense. http://breakingdefense.com/2012/12/the-end-of-advantage-enemies-may-catch-up-with-us-technology/. Zugegriffen: 14. Nov. 2016.

Freedberg, S. J. (2015). Robot wars: Centaurs, skynet, & swarms. Breaking Defense. http://breakingdefense.com/2015/12/robot-wars-centaurs-skynet-swarms/. Zugegriffen: 14. Nov. 2016.

Freedberg, S. J. (2016). The next war? Trench warfare with smart bombs. Breaking Defense. http://breakingdefense.com/2016/10/the-next-war-trench-warfare-with-smart-bombs/. Zugegriffen: 14. Nov. 2016.

Garcia, D. (2015). Humanitarian security regimes. International Affairs, 91(1), 55–75.CrossRef

Geis, A., Müller, H., & Schörnig, N. (2010). Liberale Demokratien und Krieg. Warum manche kämpfen und andere nicht. Ergebnisse einer vergleichenden Inhaltsanalyse von Parlamentsdebatten. Zeitschrift für Internationale Beziehungen, 17(2), 171–201.CrossRef

Geis, A., Müller, H., & Schörnig, N. (Hrsg.). (2013). The militant face of democracy. Liberal forces for good. Cambridge: Cambridge University Press.

Geist, E., & Lohn, A. J. (2018). How artificial intelligence could increase the risk of nuclear war. RAND Corporation. https://www.rand.org/content/dam/rand/pubs/perspectives/PE200/PE296/RAND_PE296.pdf. Zugegriffen: 26. Apr. 2018.

Gubrud, M. (2013). US killer robot policy: Full speed ahead. Bulletin of the Atomic Scientists. http://thebulletin.org/us-killer-robot-policy-full-speed-ahead. Zugegriffen: 14. Nov. 2016.

Gubrud, M. (2014). Stopping killer robots. Bulletin of the Atomic Scientists, 70(1), 32–42.CrossRef

Gubrud, M., & Altmann, J. (2013). Compliance measures for an autonomous weapons convention. ICRAC Working Paper, 2. International Committee for Robot Arms Control (ICRAC). https://www.icrac.net/wp-content/uploads/2018/04/Gubrud-Altmann_Compliance-Measures-AWC_ICRAC-WP2.pdf. Zugegriffen: 14. Aug. 2019.

Hagel, C. (2014). Reagan National Defense Forum keynote. U.S. Department of Defense. http://www.defense.gov/DesktopModules/ArticleCS/Print.aspx?PortalId=1&ModuleId=2575&Article=606635. Zugegriffen: 11. Nov. 2016.

Haider, A., & Catarrasi, M. B. (2016). Future unmanned system technologies. Legal and ethical implications of increasing automation. Joint Air Power Competence Center. https://www.japcc.org/wp-content/uploads/Future_Unmanned_System_Technologies_Web.pdf. Zugegriffen: 22. Juli 2019.

Hammes, T. X. (2018). America is well within range of a big surprise, so why can’t it see? War on the Rocks. https://warontherocks.com/2018/03/america-is-well-within-range-of-a-big-surprise-so-why-cant-it-see/. Zugegriffen: 12. Juni 2018.

Hawley, J. K. (2017). Patriot wars. Automation and the Patriot air and missile defense system. Center for a New American Security. https://www.cnas.org/publications/reports/patriot-wars. Zugegriffen: 22. Juli 2019.

Horowitz, M. C. (2016). Public opinion and the politics of the killer robots debate. Research and Politics, 3(1), 1–8.CrossRef

Human Rights Council. (2013). Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns. A/HRC/23/47. https://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf. Zugegriffen: 22. Juli 2019.

Human Rights Watch. (2013). USA: Verbot vollständig autonomer Waffen. US-Richtlinie zu autonomen Waffensystemen ist die erste in der Welt. https://www.hrw.org/de/news/2013/04/16/usa-verbot-vollstandig-autonomer-waffen. Zugegriffen: 14. Nov. 2016.

Human Rights Watch. (2016). Killer robots and the concept of meaningful human control. Memorandum to Convention on Conventional Weapons (CCW) delegates. https://www.hrw.org/news/2016/04/11/killer-robots-and-concept-meaningful-human-control. Zugegriffen: 13. Jan. 2017.

Hurst, J. (2017). Robotic swarms in offensive maneuver. Joint Forces Quarterly, 87(4), 105–111.

ICRC – International Committee of the Red Cross. (2016a). Autonomous weapon systems: Implications of increasing autonomy in the critical functions of weapons. https://www.icrc.org/en/publication/4283-autonomous-weapons-systems. Zugegriffen: 22. Juli 2019.

ICRC. (2016b). Views of the International Committee of the Red Cross (ICRC) on autonomous weapon systems. https://www.icrc.org/en/download/file/21606/ccw-autonomous-weapons-icrc-april-2016.pdf. Zugegriffen: 12. Jan. 2017.

iPRAW – International Panel on the Regulation of Autonomous Weapons. (2017). Computational methods in the context of LAWS. “Focus on” Report, 2. https://www.ipraw.org/wp-content/uploads/2017/11/2017-11-10_iPRAW_Focus-On-Report-2.pdf. Zugegriffen: 24. Jan. 2018.

Kaag, J., & Kreps, S. (2014). Drone warfare. Cambridge: Polity.

Kaplan, F. (2016). The Pentagon’s innovation experiment. MIT Technology Review. https://www.technologyreview.com/s/603084/the-pentagons-innovation-experiment/. Zugegriffen: 24. Jan. 2018.

Klincewicz, M. (2015). Autonomous weapons systems, the frame problem and computer security. Journal of Military Ethics, 14(2), 162–176.CrossRef

Kozyulin, V. (2016). International and regional threats posed by the LAWS: Russian perspective. PIR Center for Policy Studies. http://www.unog.ch/80256EDD006B8954/(httpAssets)/77058244E836364EC1257F9A0049F24A/$file/2016_LAWS+MX+Presentations_SecurityIssues_Vadim+Kozyulin.pdf. Zugegriffen: 11. Nov. 2016.

MacFarquhar, N. (2018). Russia says its Syria bases beat back an attack by 13 drones. The New York Times. https://www.nytimes.com/2018/01/08/world/middleeast/syria-russia-drones.html. Zugegriffen: 24. Jan. 2018.

Mahnken, T. G. (2008). Technology and the American way of war since 1945. New York: Columbia University Press.

Marcus, G. (2018). Deep learning: A critical appraisal. https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf. Zugegriffen: 05. Feb. 2018.

Mehta, A. (2016). Work: Autonomy in flight likely before ground. Defense News. http://www.defensenews.com/story/defense/land/army/2016/03/30/bob-work-autonomy-flight-ground-systems-robot-ai/82427024/. Zugegriffen: 11. Nov. 2016.

Mehta, A. (2018). Selva: FY19 budget sees ‘increasing’ investments in AI, machine teaming. Defense News. https://www.defensenews.com/congress/budget/2018/01/30/selva-fy19-budget-sees-increasing-investments-in-ai-machine-teaming/. Zugegriffen: 31. Jan. 2018.

Moyes, R. (2016). Key elements of meaningful human control. Articel36 Background Paper. http://www.article36.org/wp-content/uploads/2016/04/MHC-2016-FINAL.pdf. Zugegriffen: 26. Sep. 2017.

Müller, H. (2004). The antinomy of democratic peace. International Politics, 41(4), 494–520.CrossRef

Münkler, H. (2015). Kriegssplitter. Die Evolution der Gewalt im 20. und 21. Jahrhundert. Berlin: Rowohlt.

New America Foundation. (2018). World of drones. https://www.newamerica.org/in-depth/world-of-drones/. Zugegriffen: 24. Jan. 2018.

Nguyen, A., Yosinski, J., & Clune, J. (2015). Deep neural networks are easily fooled: High confidence predictions for unrecognizable images. Proceedings of the 2015 IEEE Conference on Computer Vision and Pattern Recognition. https://ieeexplore.ieee.org/document/7298640. Zugegriffen: 22. Juli 2019.

ORi – Open Roboethics initiative. (2015). The ethics and governance of lethal autonomous weapons systems: An international public opinion poll. http://www.openroboethics.org/wp-content/uploads/2015/11/ORi_LAWS2015.pdf. Zugegriffen: 11. Dez. 2015.

Overhaus, M. (2015). Die Verteidigungspolitik der USA. Grundlegende Trends und ihre Auswirkungen auf das transatlantische Verhältnis. SWP-Studie. Stiftung Wissenschaft und Politik. https://www.swp-berlin.org/fileadmin/contents/products/studien/2015_S11_ovs.pdf. Zugegriffen: 22. Juli 2019.

Perrow, C. (1984). Normal accidents. Living with high-risk technologies. Princeton (NJ): Princeton University Press.

Petermann, T., & Grünwald, R. (2011). Stand und Perspektiven der militärischen Nutzung unbemannter Systeme. Arbeitsbericht, 144. Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag. https://www.tab-beim-bundestag.de/de/pdf/publikationen/berichte/TAB-Arbeitsbericht-ab144.pdf. Zugegriffen: 22. Juli 2019.

Roblin, S. (2018). The U.S. Army needs more anti-aircraft weapons – and fast. Ground troops are vulnerable to drones. War is Boring. http://warisboring.com/the-u-s-army-needs-more-anti-aircraft-weapons-and-fast/. Zugegriffen: 24. Jan. 2018.

Roff, H. M. (2016). Weapons autonomy is rocketing. Foreign Policy. http://foreignpolicy.com/2016/09/28/weapons-autonomy-is-rocketing/. Zugegriffen: 12. Sep. 2019.

Sauer, F. (2014). Einstiegsdrohnen. Zur deutschen Diskussion um bewaffnete unbemannte Luftfahrzeuge. Zeitschrift für Außen- und Sicherheitspolitik, 7(3), 343–363.CrossRef

Sauer, F. (2016). Stopping ‘killer robots’. Why now is the time to ban autonomous weapons systems. Arms Control Today, 46(8), 8–13.

Sauer, F. (2018a). Großmächte und Digitalisierung – welche Folgen für unsere Weltordnung? Metis Studie, 8. Universität der Bundeswehr München. https://metis.sowi.unibw-muenchen.de/img/publications/08_10-2018_grossmaechte_und_digitalisierung.pdf. Zugegriffen: 01. Apr. 2019.

Sauer, F. (2018b). Künstliche Intelligenz in den Streitkräften: Zum Handlungsbedarf bei Autonomie in Waffensystemen. Arbeitspapier Sicherheitspolitik, 26. Bundesakademie für Sicherheitspolitik. https://www.baks.bund.de/sites/baks010/files/arbeitspapier_sicherheitspolitik_2018_26.pdf. Zugegriffen: 01. Apr. 2019.

Sauer, F., & Schörnig, N. (2012). Killer drones. The ‘silver bullet’ of democratic warfare? Security Dialogue, 43(4), 363–380.CrossRef

Sayler, K. (2015). A world of proliferated drones: A technology primer. Center for a New American Security. https://s3.amazonaws.com/files.cnas.org/documents/CNAS-World-of-Drones_052115.pdf?mtime=20160906082154. Zugegriffen: 22. Juli 2019.

Scharre, P. (2016a). Autonomous weapons and operational risk. Ethical Autonomy Project. Center for a New American Security. https://s3.amazonaws.com/files.cnas.org/documents/CNAS_Autonomous-weapons-operational-risk.pdf?mtime=20160906080515. Zugegriffen: 22. Juli 2019.

Scharre, P. (2016b). Flash war. Autonomous weapons and strategic stability. Center for A New American Security. http://www.unidir.ch/files/conferences/pdfs/-en-1-1113.pdf. Zugegriffen: 15. Nov. 2016.

Scharre, P. (2018). Army of none: Autonomous weapons and the future of war. New York: W. W. Norton & Company.

Schörnig, N. (2013). Noch Science Fiction, bald Realität? Die technische Leistungsfähigkeit aktueller und zukünftiger Drohnen. Internationale Politik, 68(3), 15–21.

Schörnig, N. (2014). Automatisierte Kriegsführung – Wie viel Entscheidungsraum bleibt dem Menschen? Aus Politik und Zeitgeschichte, 64(35-37), 27–34.

Sharkey, N. (2010). Saying ‘No!’ to lethal autonomous targeting. Journal of Military Ethics, 9(4), 369–383.CrossRef

Sharkey, N., & Suchman, L. (2013). Wishful mnemonics and autonomous killing machines. Proceedings of the AISB, 136(5), 14–22.

Shaw, M. (2005). The new western way of war. Risk-transfer war and its crisis in Iraq. Cambridge: Polity.

Shorter, G., & Miller, R. S. (2014). High-frequency trading: Background, concerns, and regulatory developments. CRS Report. Congressional Research Service. https://fas.org/sgp/crs/misc/R43608.pdf. Zugegriffen: 29. Sep. 2017.

Sietz, H. (2008). Petrows Entscheidung. Wie ein Oberstleutnant der sowjetischen Armee vor 25 Jahren den Untergang der Welt verhinderte und dafür zum Dank tausend Dollar erhielt. Zeit Online. http://www.zeit.de/2008/39/A-Petrow. Zugegriffen: 15. Jan. 2017.

Singer, P. W. (2009). Wired for war. The robotics revolution and conflict in the twenty-first century. New York: Penguin.

Slijper, F. (2017). Where to draw the line. Increasing autonomy in weapon systems – technology and trends. Pax. https://www.paxforpeace.nl/media/files/pax-report-where-to-draw-the-line.pdf. Zugegriffen: 12. Sep. 2019.

Smalley, D. (2014). The future is now. Navy’s autonomous swarmboats can overwhelm adversaries. Office of Naval Research. http://www.onr.navy.mil/Media-Center/Press-Releases/2014/autonomous-swarm-boat-unmanned-caracas.aspx. Zugegriffen: 14. Nov. 2016.

UNIDIR – United Nations Institute for Disarmament Research. (2014). Framing discussions on the weaponization of increasingly autonomous technologies. UNIDIR Resources, 1. http://www.unidir.org/files/publications/pdfs/framing-discussions-on-the-weaponization-of-increasingly-autonomous-technologies-en-606.pdf. Zugegriffen: 23. Juli 2019.

UNIDIR. (2015). The weaponization of increasingly autonomous technologies in the maritime environment: Testing the waters. UNIDIR Resources, 4. http://www.unidir.org/files/publications/pdfs/testing-the-waters-en-634.pdf. Zugegriffen: 23. Juli 2019.

Waters, N. (2017). ISIS is building bombs to arm its drone air force. War is Boring. http://warisboring.com/isis-is-building-bombs-to-arm-its-drone-air-force/. Zugegriffen: 24. Jan. 2018.

Work, R. O., & Brimley, S. (2014). 20YY. Preparing for war in the robotic age. Center for a New American Security. https://s3.amazonaws.com/files.cnas.org/documents/CNAS_20YY_WorkBrimley.pdf?mtime=20160906082222. Zugegriffen: 23. Juli 2019.

Work, R. O., Smith, J., & Townsend, J. (2018, 11. Jan.). Robert Work talks NATO’s technological innovation and the DoD. Center for a New American Security. https://www.cnas.org/publications/podcast/robert-work-talks-natos-technological-innovation-and-the-dod. Zugegriffen: 04. Feb. 2018.

Title: Autonomie in Waffensystemen: Chancen und Risiken für die US-Sicherheitspolitik
Authors: Aaron Hansen
Dr. Frank Sauer
Publication date: 24-09-2019
Publisher: Springer Fachmedien Wiesbaden
Published in: Zeitschrift für Außen- und Sicherheitspolitik / Issue 2/2019
Print ISSN: 1866-2188
Electronic ISSN: 1866-2196
DOI: https://doi.org/10.1007/s12399-019-00770-z

Springer Professional

Zusammenfassung

Please log in to get access to your license.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Zeitschrift für Außen- und Sicherheitspolitik

Springer Professional "Wirtschaft"

Other articles of this Issue 2/2019

Lehrjahre am Hindukusch: Kontinuität und Zäsuren russischer Geostrategie

Marshall, T. (2018). Abschottung. Die neue Macht der Mauern

Geopolitics and Security in NAFTA 2.0 – The United States is Leading the Way

Grenzen in einer entgrenzten Welt – Konflikte, Klärung, Konsequenzen. Ein Bericht zum Heidelberger Dialog zur internationalen Sicherheit im November 2018

Patel, K. K. (2018). Projekt Europa. Eine kritische Geschichte.