Wirtschaftspsychologie aktuell – Zeitschrift für Personal und Management
Neues eDossier: Stress bewältigen
Wirtschaftspsychologie aktuell – Zeitschrift für Personal und Management Neues eDossier: Stress bewältigen Wirtschaftspsychologie aktuell

Lernen von Leon R. Sütfeld

Moralische Maschinen im Straßenverkehr

29. November 2017

Lesen Sie hier zwei Ausgaben.Autonome selbstfahrende Autos sind die erste Generation von Robotern, die den alltäglichen Lebensraum mit uns teilen. Deshalb ist es unabdingbar, Regeln und Erwartungen an autonome Systeme zu erarbeiten, die definieren, wie sich solche Systeme in kritischen Situationen verhalten sollen. Dass das auch für moralisches Verhalten möglich ist, scheint jetzt eine Studie des Instituts für Kognitionswissenschaft der Universität Osnabrück zu beweisen.

Politisch wird die Debatte zur Modellierbarkeit von moralischen Entscheidungen kontrovers diskutiert. Die Osnabrücker Studie liefert dazu erste empirische wissenschaftliche Daten. Sie zeigt, dass menschlich-ethische Entscheidungen in Maschinen implementiert werden können, so dass autonome Fahrzeuge bald moralische Dilemmata im Straßenverkehr bewältigen werden.

Moralisches Verhalten basiert auf Wertigkeiten von Menschen, Tieren und Objekten

„Um Regeln oder Empfehlungen definieren zu können sind zwei Schritte notwendig. Als Erstes muss man menschliche moralische Entscheidungen in kritischen Situationen analysieren und verstehen. Als zweiten Schritt muss man das menschliche Verhalten statistisch beschreiben, um Regeln ableiten zu können, die dann in Maschinen genutzt werden können“, erklärt Prof. Dr. Gordon Pipa, einer der leitenden Wissenschaftler der Studie.

Um beide Schritte zu realisieren, nutzten die Autoren eine virtuelle Realität. Sie beobachteten das Verhalten von Versuchspersonen in simulierten Verkehrssituationen. Die Teilnehmer der Studie fuhren dazu an einem nebeligen Tag durch die Straßen eines typischen Vorortes. Im Verlauf der Experimente kam es dabei zu unvermeidlichen und unerwarteten Dilemma-Situationen, bei denen Menschen, Tiere oder Objekte als Hindernisse auf den Fahrspuren standen. Um den Hindernissen auf einer der beiden Spuren ausweichen zu können, war deshalb eine moralische Abwägung notwendig. Die beobachteten Entscheidungen wurden dann durch eine statistische Analyse ausgewertet und in Regeln übersetzt. Die Ergebnisse weisen darauf hin, dass im Rahmen dieser unvermeidbaren Unfälle moralisches Verhalten durch eine einfache Wertigkeit des Lebens erklärt werden kann, für jeden Menschen, jedes Tier und jedes Objekt.

Entscheidungen werden durch komplexes statistisches Abwägen getroffen

Leon Sütfeld, der Hauptautor der Studie, erklärt dies so: „Das menschliche moralische Verhalten lässt sich durch den Vergleich von einer Wertigkeit des Lebens, das mit jedem Menschen, jedem Tier oder jedem Objekt assoziiert ist, erklären bzw. mit beachtlicher Präzision vorhersagen. Das zeigt, dass menschliche moralische Entscheidungen prinzipiell mit Regeln beschrieben werden können und dass diese Regeln als Konsequenz auch von Maschinen genutzt werden könnten.“

Diese neuen Erkenntnisse stehen im Widerspruch zu der verbreiteten Auffassung, dass moralische Entscheidungen nicht modellierbar sind. Wie kann dieser grundlegende Unterschied erklärt werden? Algorithmen können entweder durch Regeln beschrieben werden oder durch statistische Modelle, die mehrere Faktoren miteinander in Bezug setzen können. Gesetze, zum Beispiel, sind regelbasiert. Menschliches Verhalten und moderne künstliche intelligente Systeme nutzen dazu im Gegensatz eher komplexes statistisches Abwägen. Dieses Abwägen erlaubt es beiden - dem Menschen und den modernen künstlichen Intelligenzen - auch neue Situationen bewerten zu können, denen diese bisher nicht ausgesetzt waren. In der wissenschaftlichen Arbeit von Sütfeld wurde nun eine solche dem menschlichen Verhalten ähnliche Methodik zur Beschreibung der Daten genutzt. „Deshalb müssen die Regeln nicht abstrakt am Schreibtisch durch einen Menschen formuliert, sondern aus dem menschlichen Verhalten abgeleitet und gelernt werden. So stellt sich die Frage, ob man diese nun gelernten und konzeptualisierten Regeln nicht auch als moralischen Aspekt in Maschinen nutzen sollte“, so Sütfeld.

Geprüfte Fachinfos
Jetzt zwei neue Hefte der Zeitschrift lesen.
Hier mehr erfahren.

„Nun, da wir jetzt wissen, wie wir moralische Entscheidungen in die Maschinen implementieren können, bleiben uns trotzdem noch zwei moralische Dilemmata“, sagt Prof. Dr. Peter König, weiterer Autor dieser Veröffentlichung, und fügt hinzu: „Erstens müssen wir uns über den Einfluss von moralischen Werten auf die Richtlinien für maschinelles Verhalten entscheiden. Zweitens müssen wir uns überlegen, ob wir es wollen, dass Maschinen sich (nur) menschlich verhalten sollen.“

© Wirtschaftspsychologie aktuell, 2017. Alle Rechte vorbehalten.

Weiterführende Informationen:

Sütfeld, L. R., Gast, R., König, P. & Pipa, G. (Neuroinformatics, Institute of Cognitive Science, Osnabrück University, Germany) (2017). Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure. Frontiers in Behavioral Neuroscience, 11, 1-13.

Mehr zu diesem Thema:
Buchbesprechung – Neuroeconomics.
Ausgeglichene bewerten neu, wenn es schwierig wird

Im Themenschwerpunkt „Arbeiten in Balance“ stehen neue Erkenntnisse zu Resilienz, Achtsamkeit in Unternehmen, Digitaler Disbalance und angemessener Beurteilung von psychischer Gefährdung am Arbeitsplatz.

Die Wirtschaftspsychologie aktuell im Schnupper-Abo testen.

Den monatlichen Newsletter der Zeitschrift bestellen.

Im Archiv ab 2001 blättern.