Autonome Waffensysteme und menschliche Kontrolle

Die Videopodcast-Reihe zum Thema «Autonome Waffensysteme und menschliche Kontrolle» ist eine Zusammenarbeit zwischen der Digital Society Initiative (DSI) der Universität Zürich und  dem Schweizer Drohnen- und Robotik-Zentrum SDRZ von armasuisse Wissenschaft und Technologie (W+T) .

In neun Folgen wird aus unterschiedlichen Perspektiven der Frage nachgegangen, wie Ansätze zur Sicherstellung der menschlichen Kontrolle in autonomen Waffensystemen aussehen könnten. Raúl Gander vom SDRZ führt durch die einzelnen Folgen, bei welchen Expertinnen und Experten aus den Bereichen Verteidigung, Völkerrecht, humanitäres Völkerrecht (HVR), Strafrecht, Rüstungskontrolle und Ethik ihr Fachwissen einbringen.

In der ersten Folge leitet Raúl Gander die Videopodcast-Serie «Autonome Waffensysteme und menschliche Kontrolle» ein. Die militärischen Entwicklungen im Bereich der autonomen Waffensysteme werfen rechtliche, politische, ethische und humanitäre Fragen auf, die in dieser Podcast-Serie behandelt werden.

In der zweiten Folge erläutert der Stellvertreter Chef Kommando Operationen, Divisionär Stephan Christen, welche Rolle autonome Waffensysteme bereits heute in verschiedenen Kriegsgebieten einnehmen. Zudem werden die Chancen und Herausforderungen von Waffensystemen mit autonomen Fähigkeiten für die Schweizer Armee diskutiert.

Welche rechtlichen Grundlagen gibt es für den Einsatz autonomer Waffensysteme in bewaffneten Konflikten?

In der dritten Folge werden die zentralen völkerrechtlichen Normen behandelt, die beim Einsatz autonomer Waffensysteme zur Anwendung kommen. Im Zentrum des Gesprächs stehen dabei das Unterscheidungsprinzip und das Prinzip der Verhältnismässigkeit, zwei Grundsäulen des humanitären Völkerrechts (HVR). In dieser Folge werden auch die Unterschiede zwischen der Staatenverantwortlichkeit und der individuellen strafrechtlichen Verantwortlichkeit beim Einsatz von autonomen Waffen ausgearbeitet. Als Expertin tritt Prof. Paola Gaeta, Professorin für Völkerrecht am Geneva Graduate Institute sowie Direktorin der Geneva Academy of International Humanitarian Law and Human Rights, auf.

Wer ist strafrechtlich verantwortlich, wenn autonome Waffensysteme Kriegsverbrechen begehen?

In der vierten Folge wird untersucht, welche Bedingungen für eine individuelle Schuldzuweisung erfüllt sein müssen, wenn Personen durch den Einsatz autonomer Waffensysteme rechtswidrig zu Schaden kommen. Auch die Problematik der Verantwortungsteilung und Ansätze zur Schliessung der Verantwortlichkeitslücke werden thematisiert. Als Expertinnen treten Prof. Dr. iur. Sabine Gless, Professorin für Strafrecht und Strafprozessrecht an der Universität Basel, und Dorotea Avedisian, Doktorandin an der Professur Gless, auf.

Können Entscheidungen von autonomen Systemen antizipiert werden?

Die fünfte Folge befasst sich mit der Vorhersehbarkeit von autonomen Systemen und deren Bedeutung für die Ausübung menschlicher Kontrolle. Darüber hinaus wird beleuchtet, wie Menschen Künstliche Intelligenz (KI) in verschiedenen Anwendungen wahrnehmen, wie sie mit KI-Systemen interagieren und was erforderlich ist, um die Zusammenarbeit zwischen Menschen und KI effektiv zu gestalten. Der Studiogast Dr. Serhiy Kandul ist PostDoc am Institute of Biomedical Ethics and History of Medicine (IBME) der Universität Zürich und befasst sich in seiner Forschung mit Fragen zur Akzeptanz und Kontrolle von KI-Systemen.

In Folge sechs sprechen Prof. Dr. Thomas Burri und PD Dr. Markus Christen aus rechtlicher und ethischer Perspektive über die gegenwärtig grössten Herausforderungen im Umgang mit autonomen Waffensystemen. Weiter diskutieren die Experten zentrale Handlungsfelder, um menschliche Kontrolle über autonome Waffen sicherzustellen und welche Zukunftsszenarien in diesem Zusammenhang realistisch und sinnvoll sein könnten. Thomas Burri ist Professor für Europa- und Völkerrecht an der Universität St. Gallen (HSG) und Markus Christen ist Geschäftsführer der Digital Society Initiative (DSI) sowie Leiter des Digital Ethics Lab an der Universität Zürich.

Wie können autonome Waffen völkerrechtskonform eingesetzt werden?

In der siebten Folge beschreibt Georgia Hinds, Rechtsberaterin beim Internationalen Komitee vom Roten Kreuz (IKRK), wie das IKRK autonome Waffensysteme definiert, welche Entwicklungen das IKRK beobachtet und welche derzeitig eingesetzten Systeme die Kriterien eines autonomen Waffensystems erfüllen. Das IKRK legt dar, welche Klassen von autonomen Waffensystemen verboten werden sollten und wie die Einsatzumgebung und die Parameter für die erlaubten Systeme zu begrenzen sind. Georgia Hinds beschäftigt sich beim IKRK mit den rechtlichen und humanitären Auswirkungen von autonomen Waffen, KI und anderen neuen Technologien der Kriegsführung.

Welche aussenpolitische Position vertritt die Schweiz hinsichtlich autonomer Waffen?

In der achten Folge berichtet Reto Wollenmann vom Eidgenössischen Department für auswärtige Angelegenheiten (EDA) über den aktuellen Stand des Genfer Prozesses, in dem eine Regierungsexpertengruppe der Vereinten Nationen die internationale Regulierung von autonomen Waffensystemen verhandelt. Im Zentrum des Gespräches stehen dabei die Standpunkte der Schweiz bezüglich Entwicklung und Einsatz von autonomen Waffen sowie die von der Schweiz verfolgten Ansätze zur Sicherstellung menschlicher Kontrolle. Reto Wollenmann ist stellvertretender Sektionschef für Rüstungskontrolle, Abrüstung und Cybersicherheit im EDA.

In der letzten Folge zieht Raúl Gander vom Schweizer Drohnen- und Robotik-Zentrum (SDRZ) ein Fazit der Videopodcast-Serie. Die spannenden und tiefgründigen Gespräche mit Expertinnen und Experten aus verschiedenen universitären Disziplinen, Verwaltungseinheiten und Organisationen haben gezeigt, wie vielschichtig und komplex das Schwerpunktthema dieser Videopodcast-Reihe zur Sicherstellung menschlicher Kontrolle über autonome Waffensysteme ist.