Skip to main content
main-content

12.07.2017 | Automatisiertes Fahren | Im Fokus | Onlineartikel

Autonome Fahrzeuge imitieren menschliche Moral

Autor:
Christiane Köllner

Die Uni Osnabrück ist zuversichtlich: Autonome Fahrzeuge könnten bald moralische Dilemmata im Straßenverkehr bewältigen. Dazu sollten die Maschinen einfach das moralische Verhalten von Menschen imitieren.

Autonome Autos könnten in Zukunft den alltäglichen Straßenverkehr mit uns Menschen teilen. Deshalb ist es entscheidend, Regeln und Erwartungen an autonome Systeme zu erarbeiten, die definieren, wie sich solche Systeme in kritischen Situationen verhalten sollen. Das Institut für Kognitionswissenschaft der Universität Osnabrück hat nun eine Studie in Frontiers in Behavioral Neuroscience veröffentlicht, die zeigt, dass sich menschlich-ethische Entscheidungen in Maschinen implementieren lassen. So könnten autonome Fahrzeuge bald moralische Dilemmata im Straßenverkehr bewältigen.

Politisch wird die Debatte zur Modellierbarkeit von moralischen Entscheidungen durch eine Initiative des Bundesministeriums für Transport und Digitale Infrastruktur (BMVI) begleitet. Eine von Bundesverkehrsminister Alexander Dobrindt eingesetzte Kommission hat das Mensch-Maschine-Verhältnis aus ethischer Perspektive betrachtet und 20 ethische Leitlinien formuliert. Die Osnabrücker Studie liefert dazu erste empirische wissenschaftliche Daten.

Empfehlung der Redaktion

2017 | OriginalPaper | Buchkapitel

Robotic Natives. Leben mit Robotern im 21. Jahrhundert

Der Begriff des Roboters umfasst alle Arten von für bestimmte Zwecke programmierte und autonom handelnde Dinge, die, nach den Absichten ihrer Hersteller, das Leben erleichtern sollen. Nach einem kurzen Ausflug in die Robotergeschichte werden …

  

"Um Regeln oder Empfehlungen definieren zu können sind zwei Schritte notwendig. Als Erstes muss man menschliche moralische Entscheidungen in kritischen Situationen analysieren und verstehen. Als zweiten Schritt muss man das menschliche Verhalten statistisch beschreiben, um Regeln ableiten zu können, die dann in Maschinen genutzt werden können", erklärt Professor Dr. Gordon Pipa, einer der leitenden Wissenschaftler der Studie.

Virtuelle Realität zur Bewertung ethischer Entscheidungen 

Um beide Schritte zu realisieren, nutzten die Autoren eine virtuelle Realität, um das Verhalten von Versuchspersonen in simulierten Verkehrssituationen zu beobachten. Die Teilnehmer der Studie fuhren dazu an einem nebeligen Tag durch die Straßen eines typischen Vorortes. Im Verlauf der Experimente kam es dabei zu unvermeidlichen und unerwarteten Dilemma-Situationen, bei denen Menschen, Tiere oder Objekte als Hindernisse auf den Fahrspuren standen. Um den Hindernissen auf einer der beiden Spuren ausweichen zu können, war deshalb eine moralische Abwägung notwendig. Die beobachteten Entscheidungen wurden dann durch eine statistische Analyse ausgewertet und in Regeln übersetzt. Die Ergebnisse wiesen lauten den Forschern darauf hin, dass im Rahmen dieser unvermeidbaren Unfälle moralisches Verhalten durch eine einfache Wertigkeit des Lebens erklärt werden könne – für jeden Menschen, jedes Tier und jedes Objekt.

Leon Sütfeld, der Hauptautor der Studie, erklärt dies so: "Das menschliche moralische Verhalten lässt sich durch den Vergleich von einer Wertigkeit des Lebens, das mit jedem Menschen, jedem Tier oder jedem Objekt assoziiert ist, erklären beziehungsweise mit beachtlicher Präzision vorhersagen. Das zeigt, dass menschliche moralische Entscheidungen prinzipiell mit Regeln beschrieben werden können und dass diese Regeln als Konsequenz auch von Maschinen genutzt werden könnten."

Diese neuen Osnabrücker Erkenntnisse stehen im Widerspruch zu dem achten Prinzip des BMVI-Berichtes, das auf der Annahme gründet, dass moralische Entscheidungen nicht modellierbar seien. Hinzu kommt: Wären wir künftig bereit, das Verbot der Salidierung von Menschenleben, das zum unantastbaren Schutzbereich der Menschenwürde gehört, zu relativieren, um Extremfälle rechtlich zu regeln? Dürfen existenzielle dilemmatische Entscheidungen überhaupt abstrakt-generell vorweggenommen und technisch vorentschieden werden? Alleine um die Akzeptanz für selbstfahrende Autos zu erhöhen, die von hohem sozialen Nutzen sein werden, müssen solche Fragen und Risiken gesellschaftlich und juristisch ausgehandelt werden. Die Ethik-Kommission plädiert in ihrem Bericht für vertiefende Untersuchungen und eine unabhängige öffentliche Einrichtung, die Erfahrungen mit autonomen Verkehrssystemen und Dilemma-Situationen systematisch verarbeiten könnte.

Maschinen kopieren Moral 

Wie kann aber dieser grundlegende Unterschied zwischen den Erkenntnissen der Studie und des BMVI-Berichtes erklärt werden? Algorithmen ließen sich entweder durch Regeln beschreiben oder durch statistische Modelle, die mehrere Faktoren miteinander in Bezug setzen, erklären die Osnabrücker Forscher. Gesetze, zum Beispiel, seien regelbasiert. Menschliches Verhalten und moderne künstliche intelligente Systeme nutzten dazu im Gegensatz eher komplexes statistisches Abwägen. Dieses Abwägen erlaube es beiden – dem Menschen und den modernen künstlichen Intelligenzen – auch neue Situationen bewerten zu können, denen diese bisher nicht ausgesetzt waren. In der wissenschaftlichen Arbeit von Sütfeld sei nun eine solche dem menschlichen Verhalten ähnliche Methodik zur Beschreibung der Daten genutzt worden. "Deshalb müssen die Regeln nicht abstrakt am Schreibtisch durch einen Menschen formuliert, sondern aus dem menschlichen Verhalten abgeleitet und gelernt werden. So stellt sich die Frage, ob man diese nun gelernten und konzeptualisierten Regeln nicht auch als moralischen Aspekt in Maschinen nutzen sollte", so Sütfeld. 

Aber können Roboter beziehungsweise autonome Fahrzeuge "moralische Maschinen" sein? 

Roboter haben keine Moral und erst Recht keine Ethik, sondern man kann lediglich moralische oder rechtliche Vorschriften einprogrammieren", schreibt Springer-Autor Rafael Capurro im Kapitel Robotic Natives. Leben mit Robotern im 21. Jahrhundert aus dem Buch Homo Digitalis

Dabei müsse man aber wissen, dass sie nicht in der Lage seien ethisch darüber zu reflektieren, das Allgemeine auf den Einzelfall zu beziehen, die Sachverhalte als solche zu verstehen und das Ganze der jeweiligen Situation nicht aus den Augen zu verlieren, mahnt Capurro.

Professor Dr. Peter König, weiterer Autor der Osnabrücker Studie, gibt ferner zu bedenken, dass immer noch zwei moralische Dilemmata bleiben, selbst wenn man moralische Entscheidungen in Maschinen implementieren würde: "Erstens müssen wir uns über den Einfluss von moralischen Werten auf die Richtlinien für maschinelles Verhalten entscheiden. Zweitens müssen wir uns überlegen, ob wir es wollen, dass Maschinen sich (nur) menschlich verhalten sollen."

Künstliche Intelligenz hilft bei Unfallschwereprognose

Bislang sind diese Überlagerungen noch sehr theoretisch, sollten teil- und vollautomatisierte Verkehrssysteme doch zuallererst der Verbesserung der Sicherheit aller Beteiligten im Straßenverkehr dienen. Grundsätzlich sollte die Zahl der Unfälle durch das autonome Fahren sehr gering sein, sodass Dilemma-Situationen erst gar nicht entstünden. 

Sollte es dennoch zu einem Unfall kommen, wären, um zumindest die Unfallschwere zu mindern, sogenannte unfalladaptive Systeme ein vielversprechender Ansatz. Diese passen sich spezifisch an Unfallsituationen an. Jedoch erfordern diese Systeme häufig eine Prognose der eintretenden Unfallschwere bevor die Kollision beginnt, was ein großes algorithmisches Problem ist. Dieses wurde in der Volkswagen-Konzernforschung im Rahmen einer Dissertation erstmalig mit Methoden der künstlichen Intelligenz gelöst. Das Ergebnis: Das erzeugte Modell habe eine Güte von circa 85 Prozent erreicht und in Kombination mit einem adaptiven Rückhaltesystem die Insassenbelastung deutlich reduziert.

Weiterführende Themen

Die Hintergründe zu diesem Inhalt

Das könnte Sie auch interessieren

22.06.2017 | Fahrzeugtechnik | Im Fokus | Onlineartikel

Die Ethik des autonomen Fahrens

27.06.2017 | Mensch-Maschine-Interaktion | Im Fokus | Onlineartikel

Die Ethik machthungriger Algorithmen

Premium Partner

BorgWarnerdSpaceFEVWatlowHBMAnsysDätwylerValeo Logo

BranchenIndex Online

Die B2B-Firmensuche für Industrie und Wirtschaft: Kostenfrei in Firmenprofilen nach Lieferanten, Herstellern, Dienstleistern und Händlern recherchieren.

Zur B2B-Firmensuche

Whitepaper

- ANZEIGE -

Automotive Systems Engineering mit ANSYS

Während Fahrzeuge immer intelligenter und autonomer werden, stehen Ingenieure vor der Herausforderung die Integrität und Sicherheit der zahlreichen, miteinander verbundenen Systeme und Komponenten sicherzustellen. Erfahren Sie im Whitepaper, wie die maßgeschneiderten modellbasierten Lösungen von ANSYS die Systemintegrität gewährleistet.
Jetzt gratis downloaden!