Handbuch Maschinenethik

Die Maschinenethik ist eine junge, dynamische Disziplin. Es ist einfach, ihren Gegenstand zu bestimmen, die Moral in der Maschine, und es fanden zahlreiche begriffliche Klärungen statt. Dennoch gibt es immer wieder Verwechslungen und Missverständnisse. Diese erinnern an die Diskussionen der ersten 40, 50 Jahre der Künstlichen Intelligenz. Dieser wurde vorgehalten, keine Fortschritte zu erzielen, ihr wurde vorgeworfen, dass Systeme nicht intelligent sein können, und es wurde von manchen nicht realisiert oder akzeptiert, dass man metaphorisch oder intentional sprechen kann, mit in die Zukunft gerichteten Absichten. Der vorliegende Beitrag will Grundlagen der Maschinenethik erarbeiten, ohne andere Grundlagenartikel und -bücher nachzuzeichnen und zusammenzufassen. Vielmehr wird, nachdem der Begriff der Maschinenethik erörtert wurde, die Frage beantwortet, warum wir eine solche Disziplin brauchen, zunächst aus philosophischer, dann aus praktischer Perspektive.

Die Maschinenethik ist ein Forschungsgebiet an der Schnittstelle von Philosophie und Informatik. Dieser Beitrag beschäftigt sich zum einen mit den philosophischen Grundbegriffen und Voraussetzungen der Maschinenethik. Diese sind von besonderer Bedeutung, da sie Fragen aufwerfen, die die Möglichkeit der Maschinenethik teilweise grundsätzlich in Zweifel ziehen. Zum zweiten werden die verschiedenen Rollen der Philosophie auf unterschiedlichen Ebenen innerhalb der Maschinenethik thematisiert und die methodologische Umsetzung dieses interdisziplinären Forschungsprogramms dargelegt.

Verantwortung ist eine der größten Fragen, wenn nicht gar die Frage in der Ethik der Maschinen. In diesem Artikel werden wir für begriffliche Klärung sorgen. Damit wollen wir eine philosophische Auseinandersetzung mit der Frage nach der Verantwortung der Maschinen ermöglichen. Der Ansatz erfolgt im Anschluss an die Kantische Tradition, nach welcher Verantwortung, Rationalität und Freiheit zusammengehören. Unser Ansatz speist sich von einer weiteren Bedingung, nämlich der eingebetteten Rationalität der sozialen Interaktion gerecht zu werden. Die Gesamtheit der Komplexität des Begründens innerhalb der Rechtslehre, der Philosophie und des alltäglichen Lebens sollen uns ausführliche Hinweise geben, um die Grenzverschiebung zwischen Mensch und Maschine zu rekonstruieren. Nach dieser Rekonstruktion wird die Verantwortung der Maschinen grundsätzlich nicht ausgeschlossen, da es sich eher um eine empirische Frage handelt. Sobald die Maschinen an der sozialen Interaktion des Gebens und Nehmens von Gründen teilnehmen können, gibt es keinen Grund, sie von der Verantwortung auszuschließen. Zurzeit sind Zuschreibungen von Verantwortung im Rahmen von einer gradualistischen Darstellung von Verantwortung möglich. Entscheidend ist jedoch, dass diese maschinellen Verantwortungszuschreibungen unumgänglich auf personelle Akteure reduzierbar sind.

Die Roboterethik ist eine Teilbereichsethik der Maschinenethik, in der man zwei Forschungsbereiche unterscheidet. Im einen wird diskutiert, inwiefern Roboter als moral patients zu verstehen sind, also passiv als Träger moralischer Rechte, bzw. inwiefern ihnen ein moralischer Wert zukommt. Im anderen Feld geht es um die Frage, inwiefern Roboter moral agents, also aktiv Träger moralischer Pflichten bzw. moralische Handlungssubjekte, sein können. Die beiden Arbeitsbereiche sind nicht exklusiv, sondern ergänzen einander.

Trans- und Posthumanismus sind zwei heterogene Strömungen, die Diskurse aus der Philosophie, den Sozial- und Kulturwissenschaften, den Neurowissenschaften, der Informatik, der Robotik und KI-Forschung vereinen. Technik im Allgemeinen und Maschinen im Besonderen spielen in ihnen eine bedeutende Rolle: Ordnen Transhumanist*innen Maschinen vorrangig als Werkzeuge und technologische Assistenten der Transformation des Menschen unter, glorifiziert der technologische Posthumanismus die Technik in Form einer artifiziellen Superintelligenz. Im kritischen Posthumanismus hingegen werden Maschinen neutral als artifizielles Gegenüber betrachtet.

Die informationstechnischen Realisierungen von Algorithmen sind längst in alle Lebensbereiche des modernen Menschen vorgedrungen. Algorithmen werden als Allheilmittel angepriesen oder als Hauptschuldige der „Digitalen Unmündigkeit“ gesehen. Zunächst werden wir Algorithmen ganz ohne Digitaltechnik betrachten, also auf bestimmte Arten von Texten eingehen, die auf den menschlichen Geist eine Art Zwang ausüben, die so genannten Paper Machine Codes. Die Betrachtungen zur Ethik der Algorithmen wird mit einer ethischen Betrachtung der (Eingabe-)Daten verbunden, besonderes Augenmerk liegt auf der Signatur einer Person. Es folgen dann Ausführungen zu Geistesmaschinen und nutzlosen Maschinen, um mit einem Ausblick auf die Bedingungen zur Möglichkeit der Mündigkeit im Zeitalter der Internet of Things zu schließen.

Der Eigenständigkeitsanspruch der Maschinenethik steht und fällt mit der Frage, ob man autonome Maschinen als moralische Agenten betrachten kann. Zur Beantwortung dieser Frage wird untersucht, unter welchen Voraussetzungen man Maschinen als moralische Agenten betrachten und ob man Maschinen Autonomie und Verantwortungsfähigkeit zusprechen kann. Die Autoren kommen zu dem Schluss, dass es in absehbarer Zukunft zwar keine „moralische Maschinen“ geben mag, es aber Aufgabe der Maschinenethik sein sollte, Maschinen so zu gestalten, dass sie als quasi-moralische Akteure akzeptiert werden können. Dabei dürfen jedoch jene menschlichen Akteure, die entsprechende Maschinen gestalten, entwickeln, bauen und nutzen, nicht aus ihrer Verantwortung entlassen werden.

Robotik ist der Hauptgegenstand der Maschinenethik. Die Maschinenethik hat sicherlich einen ihrer Schwerpunkte in den physikalisch existierenden Maschinen wie Robotern oder künstlichen Körperteilen. Die Verkörperung scheint hier beilegend/auflösend zu sein, wenn es um die Aufteilung der Anwendungsbereiche der Maschinenethik geht. Es gibt nämlich Maschinen, die nicht physikalisch beschaffen sind (wie z. B. Assistenzsysteme). Es wäre dennoch eine Verkürzung zu meinen, dass „Verkörperung“ nur bei dieser Klassifikationsfrage eine Rolle spielen würde. Zu klären, wie „Verkörperung“ in der konzeptuellen Frage bei dem Verständnis von KI involviert ist und wie daraus ein weiterführendes Verständnis als Ergebnis erwartet werden kann, ist der Startpunkt dieses Beitrags. Denn damit verbunden sind ethisch relevante Fragen. Eine zweite entscheidende Dimension für den Zusammenhang „Maschinenethik und Robotik“ ist die der Vielschichtigkeit der Narrationen, die die Robotik prägen. Der Fokus auf den Charakter des zielgerichteten Handelns, das die Roboter zu Werkzeugen im Dienste des Menschen werden lässt, lässt den kreativen Aspekt unberücksichtigt, der dennoch für Maschinenethik ein relevantes Narrativ darstellt. Die Verfahren, die diese Aspekte zusammenbringen, genießen in der Maschinenethik ein fragwürdiges Ansehen. Wir möchten die These vertreten, dass ohne die Komplexität einer solchen Verflechtung von Narrativen die ethische Einschätzung an einigen Stellen blind bleibt. Beispielsweise hebt das „Ego des Chirurgen“ den Überschuss hervor, der zu den Narrationen des zielgerichteten Handelns komplementär ist. Drittens weisen epistemische Opazität und die von Robotern begangenen Fehler und Diskriminierungen auf die ethischen Fragen im Umgang mit dem maschinellen Lernen hin.

Der Fachbereich der Künstlichen Intelligenz (KI) hat ideelle und finanzielle Höhen und Tiefen erlebt. Wissenschaftler prognostizieren immer wieder den Untergang der Menschen durch die von ihnen entwickelte Technik – ein Paradigma, das die Grundlage eines konstanten Narrativs innerhalb der Menschheitsgeschichte darstellt. Während die Furcht vor der technologischen Singularität in heutiger Zeit Fiktion bleibt, stellen sich realistischere, maschinenethisch hoch relevante Fragen: Mit welchen moralischen Ansprüchen werden Maschinen entwickelt? Wie werden diese Entwicklungen moralisch bewertet? Und wer trägt die Verantwortung für moralische Probleme?

This chapter investigates the appropriateness of Logic Programming-based reasoning to machine ethics, an interdisciplinary field of inquiry that emerges from the need of imbuing autonomous agents with the capacity for moral decision making. The first part of the chapter aims at identifying morality viewpoints, as studied in moral philosophy and psychology, which are amenable to computational modeling, and then mapping them to appropriate Logic Programming-based reasoning features. The identified viewpoints are covered by two morality themes: moral permissibility and the dual-process model. In the second part, various Logic Programming-based reasoning features are applied to model these identified morality viewpoints, via classic moral examples taken off-the-shelf from the literature. For this purpose, our qualm system mainly employs a combination of the Logic Programming features of abduction, updating, and counterfactuals. These features are all supported jointly by Logic Programming tabling mechanisms. The applications are also supported by other existing Logic Programming-based systems, featuring preference handling and probabilistic reasoning, which complement qualm in addressing the morality viewpoints in question.

Throughout the chapter, many references to our published work are given, providing further examples and details about each topic. Thus, this chapter can be envisaged as an entry point survey on the employment of Logic Programming for knowledge modelling and technically implementing machine ethics.

Machine ethics is a sprouting interdisciplinary field of enquiry arising from the need of imbuing autonomous agents with some capacity for moral decision-making. Its overall results are not only important for equipping agents with a capacity for moral judgment, but also for helping better understand morality, through the creation and testing of computational models of ethics theories. Computer models have become well defined, eminently observable in their dynamics, and can be transformed incrementally in expeditious ways. We address, in work reported and surveyed here, the emergence and evolution of cooperation in the collective realm. We discuss how our own research with Evolutionary Game Theory (EGT) modelling and experimentation leads to important insights for machine ethics, such as the design of moral machines, multi-agent systems, and contractual algorithms, plus their potential application in human settings too.

We describe a theoretical framework and recent research on one key aspect of robot ethics: the development and implementation of a robot’s moral competence. As autonomous machines take on increasingly social roles in human communities, these machines need to have some level of moral competence to ensure safety, acceptance, and justified trust. We review the extensive and complex elements of human moral competence and ask how analogous competences could be implemented in a robot. We propose that moral competence consists of five elements, two constituents (moral norms and moral vocabulary) and three activities (moral judgment, moral action, and moral communication). A robot’s computational representations of social and moral norms is a prerequisite for all three moral activities. However, merely programming in advance the vast network of human norms is impossible, so new computational learning algorithms are needed that allow robots to acquire and update the context-specific and graded norms relevant to their domain of deployment. Moral vocabulary is needed primarily for moral communication, which expresses moral judgments of others’ violations and explains one’s own moral violations – to justify them, apologize, or declare intentions to do better. Current robots have at best rudimentary moral competence, but with improved learning and reasoning they may begin to show the kinds of capacities that humans will expect of future social robots.

In der Debatte um die zunehmende Automatisierung des Individualverkehrs und die Vision des autonomen Fahrens wird eine Vielzahl ethischer Fragen aufgeworfen. Ziel des vorliegenden Beitrages ist es, einen Überblick über die unterschiedlichen ethischen Aspekte des autonomen Fahrens zu geben. Da, wie meist in lebensweltlichen Herausforderungen, sehr unterschiedliche ethische Fragestellungen angesprochen werden, lässt sich eine gewisse Heterogenität nicht vermeiden.

Der Text gliedert sich in zwei Teile: Im ersten Teil geht es um spezifische Themen der Maschinenethik und die zentrale Frage, inwieweit ein autonomes Fahrzeug moralische Entscheidungen treffen wird. Im Zuge dessen wird zunächst das Problem der Dilemma-Situationen thematisiert. In einem zweiten Schritt soll die Frage nach der Verantwortung für durch autonome Fahrzeuge verursachte Unfälle in den Blick genommen werden. Der zweite Teil beschäftigt sich mit den ethischen Herausforderungen, die sich durch das autonome Fahren auf der gesellschaftlichen Systemebene ergeben. Dies umfasst unter anderem die potenziellen und z. T. nicht intendierten Auswirkungen des autonomen Fahrens auf informationelle Selbstbestimmung, Wirtschaft und Arbeitsmarkt und das Verkehrssystem als solches.

Operations- und Therapieroboter werden in vielen Gesundheitseinrichtungen eingesetzt. Pflegeroboter verbreiten sich erst allmählich. Bei Operationsrobotern stellen sich kaum Fragen aus Sicht der Maschinenethik, da es sich dabei mehrheitlich um Teleroboter handelt und sich diese Disziplin teilautonomen und autonomen Maschinen widmet. Bei Therapierobotern ergeben sich theoretisch Herausforderungen. Allerdings sind sie in ihrem Anwendungsgebiet und in ihren Fähigkeiten i. d. R. ausgesprochen begrenzt. Pflegeroboter kommen als Informations- und Unterhaltungsroboter, als Transportroboter und als Assistenzroboter mit direktem körperlichem Kontakt zum Patienten vor. Insbesondere mit Blick auf die letztere Variante ist es wichtig, frühzeitig die Maschinenethik einzubeziehen und zu erforschen, ob ein Moralisieren nützlich, sinnvoll und notwendig ist. Es ist etwa zu klären, wie weit der Pflegeroboter den Wünschen der Patienten entsprechen darf, gerade wenn es um eine angemessene Behandlung oder um Leben und Tod geht. Im vorliegenden Beitrag werden Pflegeroboter erklärt, eingeordnet und aus der Sicht der Maschinenethik behandelt.

Kriegsroboter sind der kontroverseste Anwendungsbereich der Maschinenethik. Viele namhafte Vertreter der KI-Forschung und prominente Wissenschaftler fordern sogar ein Verbot letaler autonomer Waffensysteme. Dieser Beitrag setzt sich mit dem Versuch auseinander, autonome Waffensysteme im Rahmen der Maschinenethik mit einem Ethikmodul auszustatten. Die moralischen Grundprinzipien leiten sich aus dem Völkerrecht ab, welches auf der traditionellen Theorie des gerechten Kriegs beruht. Argumente zugunsten von Kriegsrobotern mit einem Ethikmodul werden ebenso behandelt wie die Kritik daran. Die drei wichtigsten Gegenargumente betreffen das Entstehen einer Verantwortungslücke, den Wert der Möglichkeit, anders zu handeln, sowie die Annahme einer Pflicht zu töten, welche der Einsatz autonomer Waffensysteme voraussetzt. Zum Schluss wird kurz auf mögliche Parallelen zum autonomen Fahren eingegangen.

Dieser Beitrag erklärt zunächst die Begriffe der Sexroboter und der Liebespuppen. Dann stellt er aus Perspektive der Maschinenethik sowohl allgemeine als auch spezifische Fragen und beantwortet sie vorläufig. Anschließend werden die Bereichsethiken einbezogen, um die Implikationen für die involvierten Parteien und die tangierten Personen, für Anbieter, Vermittler und Benutzer, herauszuarbeiten. Am Ende fasst der Autor die Ergebnisse zusammen. Die Disziplin der Maschinenethik kann aus seiner Sicht helfen, Sexroboter und Liebespuppen mit besonderen Fähigkeiten zu konstruieren, die moralische Maschinen in ihrem Aussehen und Verhalten sind und die es einigen Menschen ermöglichen, ihre sexuellen Aktivitäten zu ergänzen und ein erfülltes Leben zu führen. Die Überlegungen der klassischen angewandten Ethik können im Hinblick auf den adäquaten Einsatz von Sexrobotern hilfreich sein und weisen auf die Chancen wie auf die Risiken hin.

Das automatisierte Fahren besitzt das Potenzial, den Straßenverkehr erheblich sicherer zu machen. Es wirft allerdings eine Vielzahl von ethischen und juristischen Fragen auf, die einer weiteren erfolgreichen Markteinführung der neuen Systeme im Wege stehen könnten, wenn sie nicht gelöst oder zumindest geklärt werden. Das Spektrum reicht von Fragen der zivil- und strafrechtlichen Verantwortlichkeit über den Datenschutz bis hin zu Grundlagenproblemen, bei denen sich rechtliche und moralische Perspektiven überschneiden. Dazu gehören etwa Leben-gegen-Leben-Entscheidungen, aber auch die Frage, welchen Grad an Risiko eine Gesellschaft im Straßenverkehr zu akzeptieren bereit ist. Außerdem ist zu klären, ob der Staat über die Technologien des automatisierten und vernetzten Fahrens nicht wesentlich stärker in den Straßenverkehr eingreifen sollte, um die Gefahr von Unfällen zu minimieren.

Im GOODBOT-Projekt von 2013 ging es darum, einen Chatbot so zu verbessern, dass er in bestimmten Situationen (z. B. wenn der Benutzer persönliche bzw. psychische Probleme hat oder sogar Selbstmordabsichten äußert) möglichst angemessen reagiert. Der Chatbot sollte in gewissem Sinne gut sein, seine Absichten sollten gut sein, seine Verhaltensweisen. Dem Benutzer sollte es bei der Unterhaltung gut gehen – oder sogar besser als vorher. Der vorliegende Beitrag schildert die Hintergründe, Überlegungen und Ergebnisse des mehrmonatigen Projekts, das an der Hochschule für Wirtschaft FHNW durchgeführt wurde. Der GOODBOT wird als einfache moralische Maschine aufgefasst. Wichtig sind Funktionen wie Abfrage von Grunddaten des Benutzers und mehrstufige Eskalation – je mehr Hinweise der Benutzer darauf gibt, dass es ihm schlecht geht, desto mehr ist der GOODBOT bemüht, ihm zu helfen. Je mehr Wörter oder Satzteile im Gespräch vorkommen, die zum Beispiel auf seelische Not hindeuten, desto eher wird der GOODBOT eine Notfallnummer nennen und den Benutzer dazu ermuntern, menschliche Hilfe zu holen. Der GOODBOT wurde als Prototyp entwickelt. Ein fertiges Produkt könnte als Referenz und Basis für Chatbots und Sprachassistenten aller Art dienen, seien es virtuelle Berater auf kommerziellen Websites, seien es explizite Angebote der Jugendhilfe.

Das LÜGENBOT-Projekt baut auf dem GOODBOT-Projekt auf. In diesem wurden sieben Metaregeln formuliert. Eine davon lautete, dass der Chatbot, eine moralische Maschine, nicht lügen soll, außer in Ausnahmefällen. Der LÜGENBOT (LIEBOT) sollte dagegen systematisch lügen; die Metaregel wurde also ins Gegenteil verkehrt und zur Richtschnur der unmoralischen Maschine. Diese kann zu den Münchhausen-Maschinen gezählt werden, also zu Programmen und Systemen, die natürlichsprachliche Fähigkeiten haben und die Unwahrheit sagen. Der LÜGENBOT nimmt einzelne Aussagen, die er für wahr hält, aus verschiedenen Quellen, und manipuliert sie mittels unterschiedlicher Strategien mit einer gewissen Wahrscheinlichkeit. Zudem gibt es, mit Blick auf zwei Themen, einige Lügen, Halbwahrheiten und Verdrehungen, die in einer eigenen Wissensbasis abgelegt sind. Aus dem LÜGENBOT-Projekt sind Erkenntnisse hervorgegangen, die dabei helfen können, verlässliche und vertrauenswürdige Maschinen mit natürlichsprachlichen Fähigkeiten zu bauen, seien es Chatbots, seien es Sprachassistenten. Grundsätzlich wurde aus der Maschinenethik heraus ein Artefakt geschaffen, das unter mehreren Gesichtspunkten erforscht werden kann.

Im LADYBIRD-Projekt ging es um einen Saugroboter, der aus moralischen Gründen bestimmte Insekten verschonen soll, die sich auf dem Boden befinden. Er sollte das jeweilige Tier mit Hilfe von Sensoren und von Analysesoftware erfassen und, bestimmten Regeln folgend, für eine Weile seine Arbeit einstellen. Das Praxisprojekt wurde 2017 an der Hochschule des Verfassers (und unter seiner Leitung) durchgeführt. Verwendet wurden Vorarbeiten, die ab 2014 entstanden, etwa eine Designstudie und ein annotierter Entscheidungsbaum. Drei Studierende der Wirtschaftsinformatik entwickelten den Roboter mittels vorgefertigter Module. Sie passten den Entscheidungsbaum an und implementierten die Regeln in Java. Das Ergebnis war ein kleiner, mobiler Roboter, der Marienkäfer bzw. ähnliche Objekte erkennen konnte und bei ihrer Anwesenheit seine Arbeit unterbrach. Der vorliegende Beitrag stellt sowohl die Vorarbeiten als auch die Durchführung des Projekts dar und diskutiert die Ergebnisse.

Mit dem zunehmenden Einsatz von autonomen Maschinen stellen sich vermehrt Fragen nach der Verantwortung für Schäden, die durch derartige Geräte verursacht wurden. Im Recht hat die Haftung für maschinell verursachte Schäden eine lange Tradition. Man unterscheidet dabei Zivil- und Strafrecht. Während es im Zivilrecht vor allem um den ökonomischen Ausgleich entstandener Schäden geht, legt das Strafrecht fest, unter welchen Voraussetzungen der Schädiger bestraft werden kann. Das deutsche Recht stellt sowohl im Zivil- als auch im Strafrecht ein reichhaltiges und ausdifferenziertes Instrumentarium bereit, um in jedem Einzelfall angemessen reagieren zu können.

Handlungen sind zunehmend das Resultat eines Zusammenwirkens von Mensch und (teil-)autonomer Maschine. Das Verhalten dieser Maschinen lässt sich weder dem Menschen noch der Technik selbst ohne Weiteres als Handlung zurechnen. Dieser Herausforderung für die strafrechtliche Verantwortungszuschreibung nimmt sich der vorliegende Beitrag an. Es wird festgestellt, dass Maschinen keine Strafrechtssubjekte darstellen, was allerdings nicht für alle Zeiten gelten muss. Insbesondere die Emergenz moralischer Handlungsfähigkeit von Technik könnte zu einem Wandel beitragen. Bis dahin steht jedoch die Verantwortlichkeit der Menschen im Zentrum. Sie sind gefordert, adäquate Sorgfalt walten zu lassen. Dabei kann gerade das Anliegen der Maschinenethik – die Moralimplementation – zur eigentlichen Sorgfaltspflicht werden. Die Disziplin entfaltet damit Relevanz für das Strafrecht, hängen doch maschinelle Moral, Handlungsträgerschaft und Verantwortung eng zusammen.