Weltweite Umfrage Wen überfahren? Moralisches Dilemma auch bei autonomen Autos

Ebenso wie Fahrer können auch autonome Autos vor Dilemma-Situationen kommen, wenn ein Unfall unausweichlich ist. Wie sollen sie programmiert werden? Forscher haben eine riesige Umfrage ausgewertet.

Auch autonome Fahrzeuge können in ein Entscheidungsdilemma kommen. Wie sollen sie vor einem Unfall lenken, wenn es auf jeden Fall zu einem Schaden kommt. Antworten haben US-Forscher mit einer weltweiten Umfrage gefunden.

Demnach würde eine Mehrheit eher Kinder als Ältere verschonen sowie eher Menschen als Tieren ausweichen. Das Ergebnis weise allerdings grössere kulturelle Unterschiede auf, schreiben die Forscher um Iyad Rahwan vom Massachusetts Institute of Technology in Cambridge im Journal «Nature».

Internet-Umfrage: «Moral Machine»

Die Internet-Umfrage mit dem Titel «Moral Machine» sorgte weltweit für Schlagzeilen. Die grosse Beteiligung machte es den Forschern möglich, fast 40 Millionen Entscheidungen in Dilemma-Situationen zu analysieren. Allerdings war die Befragung nicht repräsentativ; so waren etwa junge Männer überproportional vertreten.

Rahwan und Kollegen begründen ihre Befragung mit der Bedeutung für die Akzeptanz autonomer Fahrzeuge in der Bevölkerung: «Selbst wenn sich die Ethiker einig wären, wie autonome Fahrzeuge moralische Dilemmata lösen sollten, wäre ihre Arbeit nutzlos, wenn die Bürger ihrer Lösung nicht zustimmen würden.»

In einem konkreten Fallbeispiel versagten die Bremsen des Fahrzeugs. Die Befragten mussten sich entscheiden, ob drei ältere Menschen, die bei Rot über die Strasse gehen, überfahren werden sollen oder ob der Wagen gegen eine Betonwand gelenkt werden soll. Dies hätte den Tod der Insassen, darunter ein Junge, zur Folge.

Neun Entscheidungen

Insgesamt mussten die Teilnehmer neun Entscheidungen in unterschiedlichen Situationen treffen, darunter: Fahrzeuginsassen oder Fussgänger, Männer oder Frauen, Jüngere oder Ältere, Sportliche oder Unsportliche, Menschen mit höherem oder niedrigerem sozialen Status.

Bei der Auswertung nach Ländern ergaben sich drei grosse Gruppen: westliches, östliches und südliches Cluster. Die Entscheidungen in vielen asiatischen Ländern (östliches Cluster) weichen von den anderen Gruppen dadurch ab, dass sie nicht die jüngeren Menschen verschonen würden. Stattdessen gilt in diesen Ländern der Respekt vor den älteren Mitgliedern der Gemeinschaft.

Das südliche Cluster (Mittel- und Südamerika) unterscheidet sich vom westlichen Cluster (Europa, Nordamerika) unter anderem dadurch, dass die Mittel- und Südamerikaner sehr viel öfter eingreifen würden als auf das Lenken zu verzichten.

Düstere StudieSchaden autonome Autos der Gesellschaft?

Befragte haben andere moralische Vorstellungen

Die Ergebnisse der «Moral Machine» weichen teilweise von den Regeln ab, die zum Beispiel die deutsche Ethik-Kommission in ihrem Bericht «Autonomes und vernetztes Fahren» im Juni 2017 niedergelegt hat. So heisst es in Regel 9: «Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.»

In derselben Regel steht drei Sätze weiter: «Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.» Den Ergebnissen der Studie zufolge hat ein Grossteil der Befragten weltweit andere moralische Vorstellungen.

Grundsätzlich finde sie das Ziel der Autoren richtig, eine Debatte über die «ethische Programmierung» von selbstfahrenden Autos anzustossen, bevor diese auf den Strassen fahren, kommentiert Silja Vöneky von der Universität Freiburg die Studie. «Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht.» Dilemmasituationen habe es schon vorher gegeben und mit den Menschenrechten existierten bereits rechtlich bindende ethische Prinzipien.

Armin Grunwald vom Karlsruher Institut für Technologie warnt sogar vor den Schlussfolgerungen der Studie: «Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde.» Grunwald gehörte der Ethik-Kommission an, die den Bericht «Autonomes und vernetztes Fahren» verfasst hat.