Evaluation von digitalem Support in ethischen Entscheidungen

Dieses Projekt untersucht in empirischen Studien sowie ethischen und rechtlichen Analysen die Auswirkungen der Automatisierung ethischer Entscheidungsfindung im Sicherheitsbereich.

Ein Kernmerkmal der Digitalisierung ist die zunehmende Delegation von Entscheidungsfunktionen an Software-Systeme. Dies betrifft insbesondere Fälle, in denen menschliche Entscheider unter Zeitdruck und Unsicherheit entscheiden müssen. Solche Entscheidungen sind typisch für den Sicherheitskontext (Militär, Polizei, Schutz und Rettung). Hier ist zu erwarten, dass zunehmend digitale Systeme eingesetzt werden, die den menschlichen Entscheider unterstützen oder ihm gar bestimmte Entscheidungen abnehmen.

Dies stellt ethische Fragen bezüglich der Verantwortlichkeit und Akzeptanz, wenn technische Systeme zunehmend mit autonomen Fähigkeiten ausgestattet werden und in Bedingungen operieren, in denen die Entscheide-Optionen vielfältiger werden, die Entscheide selbst aber kritische ethische Fragen aufwerfen, z.B. die Inkaufnahme von Kollateralschäden.

In diesem Projekt soll untersucht werden, wie man sicherstellen kann, dass digitalisierter Entscheidungs-Support und automatisierte Entscheidungsfunktionen zu einem ethisch akzeptablen Resultat führen, wenn ein menschlicher Entscheider rasch und unter Unsicherheit entscheiden muss. Zu diesem Zweck werden sowohl normative Analysen als auch Experimente durchgeführt.

Im Rahmen des Projekts entstanden zwei Video-Podcasts – eine Zusammenarbeit der DSI und des Schweizer Drohnen- und Robotik-Zentrums (SDRZ):

• Sollen Roboter Menschen retten?
• Die vielschichtige Herausforderung der Drohnenabwehr
• Autonome Waffensysteme und menschliche Kontrolle

Kernteam

• Prof. Abraham Bernstein (DSI)
• Prof. Thomas Burri (Universität St. Gallen)
• Dr. Markus Christen (DSI)

Finanzierung

armasuisse Wissenschaft und Technologie (W+T)