Umgang mit Killerrobotern

Tagung, Evang. Akademie Loccum, 27.-29. Januar 2020

von Thea Riebe

Autonome Waffensysteme werden die Dynamik bewaffneter Konflikten verändern und bergen neue Risiken für die strategische Stabilität und Sicherheit der internationalen Gemeinschaft. Der Druck zu immer mehr Autonomisierung birgt die Gefahr eines Rüstungswettlaufs, in dessen Verlauf durch den Zwang zu immer schnelleren Entscheidungen der Mensch zunehmend zugunsten von autonomen Waffensystemen verdrängt werden könnte. Um dies zu verhindern, diskutieren Diplomat*innen und Expert*innen im Rahmen der UN Convention on Certain Conventional Weapons (CCW) sowie innerhalb der Nationalstaaten und in Nichtregierungsorganisationen intensiv darüber, wie solche autonomen Waffensysteme reguliert oder verboten werden können.

Die Tagung »Killerroboter – Überlegungen zum zukünftigen Umgang mit automatisierten Waffensystemen« der Evangelischen Akademie Loccum im Januar 2020 bot ein Diskussionsforum zu aktuellen Ansätzen der Regulierung von autonomen Waffensystemen. Dem Organisationsteam gelang es, viele Expert*innen aus der Wissenschaft und Praxis zusammenzubringen, u.a. Mitarbeiter*innen des Auswärtigen Amtes, der Bundeswehr und des Verteidigungsministeriums, Vertreter*innen von Polizei, internationalen Organisationen und Gremien wie NATO und UN, Mitglieder der Campaign to Stop Killer Robots und von Human Rights Watch sowie Mitarbeiter*innen von Airbus und deren Projekt »Future Combat Air System«. Da die Konferenz unter der Chatham-House-Regel stattfand, die festlegt, dass in Konferenzberichten keine Aussagen einer bestimmten Person oder Institution zugeordnet werden dürfen, werden im Folgenden keine direkten Zitate verwendet.

Am ersten Tag wurde die Konferenz mit Beträgen über Grundlagen und Fachperspektiven eröffnet. Die Keynote wurde durch Marcel Dickow, Leiter der Forschungsgruppe Sicherheitspolitik der Stiftung Wissenschaft und Politik (SWP) und Leiter des »International Panel on the Regulation of Autonomous Weapons«, gehalten. Er stellte grundlegende Herausforderungen für die internationale Sicherheit und die Regulierung von autonomen Systemen dar. Anschließend beschäftigten sich die ersten beiden Sessions mit der Frage, wie der technische Fortschritt in den Bereichen Künstliche Intelligenz, Robotik und Sensorik die zukünftige Entwicklung von autonomen Waffen beeinflusst und welche militärischen Anforderungen die zukünftige Kriegsführung in Bezug auf autonome Funktionen hat. Der militärische Bedarf einer zukunftsfähigen Armee wurde von Brigadegeneral Gerald Funke, Unterabteilungsleiter Planung I im Bundesministerium der Verteidigung, und Dr. Jean-Christophe Noël vom Security Studies Center des Institut Français Des Relations Internationales (Paris) diskutiert. In dieser Session zu den Risiken und Chancen sowie zum Bedarf wurde deutlich, dass nicht nur strategische Fragen der internationalen Sicherheit zu bedenken sind (security), sondern auch die technische Sicherheit der Anwendungen (safety) einbezogen werden muss.

In der folgenden Session wurden die strategischen, völkerrechtlichen und friedens­ethischen Bewertungen und erwarteten Konsequenzen autonomer Waffensysteme durch Frank Sauer, Senior Researcher der Bundeswehr Universität München, Dr. Henning Lahmann vom Digital Society Institute der European School of Management and Technology (Berlin) und Peter Asaro, Associate Professor an der School of Media Studies at The New School (New York) sowie Mitgründer und stellvertretender Vorsitzender des International Committee for Robot Arms Control (ICRAC), eingeführt. Hier wurde u.a. die sinkende Hemmschwelle zum Einsatz autonomer Waffensysteme diskutiert, welche schrittweise dazu führen könnte, dass bei militärischen Einsätzen autonome Waffensysteme Entscheidungen treffen und nicht mehr der Mensch. Völkerrechtlich und ethisch ist der Einsatz von letalen autonomen Waffensystemen (LAWS) weder verantwortbar noch mit den Menschenrechten vereinbar, da Roboter keine moralischen Agenten sind und auch keine Verantwortung übernehmen können.

Am zweiten Tag gab der nordmazedonische Botschafter Ljupco Jivan Gjorgjinski, Vorsitzender der Regierungsexpertengruppen zu letalen autonomen Waffensystemen der CCW, den Teilnehmer*innen einen Einblick in die Probleme für die Regulierung autonomer Waffensysteme innerhalb der CCW. In der Diskussion wurde deutlich, dass die Verständnisse und Interessen der Staaten in der UN einen Konsens über die Definition zentraler Begriffe, wie »Autonomie« und »autonome Systeme«, erschweren. Mary Wareham, Koordinatorin der Campaign to Stop Killer Robots in Washington D.C., und Anja Dahlmann, Mitglied der International Security Research Division der SWP, ergänzten die Diskussion um die Perspektive einer Nichtregierungsorganisation und die wissenschaftliche Analyse des Diskurses. Hier werde zunehmend von »Systemen mit autonomen Funktionen« statt von »autonomen Systemen« gesprochen, um den Diskursgegenstand auf die relevanten Funktionen, wie den Zielauswahlprozess, einzugrenzen. Dabei seien nicht nur der Verlauf und die zentralen Akteure der Regulierungsdebatte Gegenstand, sondern auch die Haltung zentraler Staaten, wie den USA, China, Russland, Deutschland und der EU. Das Konzept der »meaningful human control«, welches von IRAC und der Campaign to Stop Killer Robots als Maßstab zur Sicherstellung menschlicher Entscheidungskontrolle eingefordert wird, findet auch bei vielen Staaten kaum Unterstützung und wird sowohl durch NGOs als auch unterstützende Staaten unterschiedlich interpretiert. Auf Grund diplomatischer Verwerfungen zwischen den USA, Russland und China und inhaltlicher Differenzen ist ein Konsens zur Regulierung von letalen autonomen Waffensystemen in den Vereinten Nationen nicht in Sicht.

Anschließend wurde die Diskussion auf mögliche Analogien zu anderen Rüstungskontrollregimen gelenkt, wie dem Biowaffenübereinkommen, das durch Elisande Nexon von der Fondation Pour La Recherche Stratégique (Paris) vorgestellt wurde. Die Lehren der konventionellen Rüstungskontrolle in Europa diskutierte Oberst a.D. Wolfgang Richter von der Forschungsgruppe Sicherheitspolitik an der SWP.

Die Loccumer Konferenz zu autonomen Waffensystemen brachte nicht nur Expert*innen aus unterschiedlichsten Domänen zusammen, sondern experimentierte auch mit interaktiven Formaten, wie dem Ideenworkshop, in welchem ein*e Impulsgeber*in einen Vorschlag zur Rüstungskontrolle von autonomen Waffen unterbreitete und dieser im Anschluss von einem*r weiteren Teilnehmer*in kommentiert wurde. Als Kommentatorin durfte ich Prof. Daniel Amoroso, Professor für internationales Recht an der Universität di Cagliari, kommentierten. Er schlug basierend auf seinem 2019 mit G. Tamburrini verfassten IRAC-Bericht »What makes human control over weapons systems ‚meaningful‘?« vor, die Autonomisierung in fünf Stufen zu klassifizieren, welche je nach Fähigkeit und Einsatzbereich reguliert und unter bestimmten Bedingungen eingesetzt werden könnten, beispielsweise zum Schutz von Menschen, wie im deutschen Nächstbereichsschutzsystem MANTIS. Dieser differenzierte Ansatz wurde positiv aufgenommen und durch meinen Beitrag um Fragen der Datenethik und des Datenschutzes ergänzt. In der zivilen Forschung und Entwicklung von autonomen Systemen entstehen durch den hohen Dual-use von Daten und Algorithmen bereits Ansatzpunkte für eine ethische und soziale Technikfolgenabschätzung, welche auch auf die militärischen Anwendung Auswirkungen hat. Ein weiterer Impuls wurden durch Dr. Jürgen Altmann gegeben, der ein Vorgehen zur nachträglichen Verifikation durch ein Blackbox-System vorschlug, welches im Anschluss an einen Einsatz die menschliche Kontrolle überprüfen könnte.

Nach dem Ideenworkshop fand ein Szenarienworkshop statt. Hier wurden die Teilnehmer*innen in Gruppen aufgeteilt, die die zentralen Akteure des Regulierungsprozesses repräsentierten, u.a. die USA, Deutschland, die NATO, die Blockfreien Staaten, das Internationale Komitee des Roten Kreuzes sowie Google als Vertreter der IT-Industrie. Die Teilnehmer*innen sollten Handlungsempfehlungen für die jeweiligen Akteure erarbeiten; diese wurden am letzten Konferenztag diskutiert.

Auf der Konferenz wurde also aus unterschiedlichen Perspektiven diskutiert, welche strategischen, rechtlichen, ethischen und sicherheitsrelevanten Implikationen durch die zunehmende Automatisierung von Waffensystemen entstehen, wie menschliche Kontrolle sichergestellt werden kann und welche Fragen von »safety« und »security« im Bereich der Systeme mit autonomen Funktionen zu bedenken sind. Es wurde deutlich, dass es in Deutschland zwischen den Regierungsparteien CDU/CSU und SPD sowie zwischen dem Auswärtigem Amt und dem Verteidigungsministerium keine einheitliche Haltung zur Regulierung gibt. Es liegen auf politischer Ebene aber durchaus Vorschläge vor, um den Einsatz letaler autonomer Waffensysteme zu regulieren. Nur zwei Tage nach der hier besprochenen Tagung wurden im Bundestag entsprechende Anträge der Fraktionen Bündnis 90/Die Grünen und Die Linke diskutiert und mit den Stimmen der Koalitionsparteien abgelehnt.

Thea Riebe