--------------
Die Bewaffnung von Drohnen für
die Bundeswehr stoppen – autonome Waffensysteme
ächten!
Öffentlicher
Appell von Forscher*innen der Künstlichen Intelligenz
und Informatik
Sehr geehrte Vorsitzende der
Parteien SPD, Bündnis 90 die Grünen und FDP, sehr
geehrte
Verhandlungsführende der
Koalitionsverhandlungen, sehr geehrte Mitbürger*innen der
Bundesrepublik,
wir wenden uns als Forscher*innen
der Künstlichen Intelligenz und
Informatik und als Bürger*innen
an die Politik und die Öffentlichkeit, damit die
Bewaffnung von Drohnen für die
Bundeswehr aus humanitären wie aus
sicherheitspolitischen Gründen
gestoppt wird.
Als Forscher*innen der
Künstlichen Intelligenz (KI) und Informatik sprechen wir
uns
entschieden gegen autonome
Waffensysteme aus, so wie viele Tausend unserer
intern ationalen Kolleg*innen.
Eine Maschine “sieht” einen Menschen nur als eine lange
Liste aus Zahlen, und “versteht”
den Wert eines Menschenlebens nicht. Sie kann die
weitreichenden Auswirkungen
ihrer “Entscheidungen” nicht “begreifen”. Die Tötung von
Menschen sollte niemals aufgrund
algorithmischer Formeln automatisiert ablaufen. Eine
solche Entmenschlichung der
Entscheidung über Leben und Tod durch autonome
Waffensysteme muss weltweit
geächtet werden! Zudem sind die heutigen KI-Algorithmen
bei
weitem nicht so objektiv und
robust, wie es oft den Anschein macht. In realen
Situationen mit
realen Daten können Algorithmen
unzuverlässig, fehlerhaft und undurchschaubar sein.
Soziale Ungerechtigkeiten und
Vorurteile werden durch Algorithmen oft verstärkt.
Die Revolution in der
Künstlichen Intelligenz hat eine algorithmen-gesteuerte
Kriegsführung
in absehbarer Zukunft möglich
gemacht. Bisher gibt es jedoch keine nationalen oder
internationalen Kontrollregime,
die dieser bereits stattfindenden Entwicklung Einhalt
gebieten.
Die Bewaffnung von Drohnen macht
eine autonome Waffenführung prinzipiell möglich und
stellt einen kritischen
Wendepunkt dar. Der wissenschaftlich-technologische
Stand ist
mittlerweile so weit
fortgeschritten, dass jede moderne ferngelenkte
bewaffnete Drohne nur
ein Software-Update von einer
vollautonomen tödlichen Waffe entfernt ist, ohne dass
dies
nachgewiesen werden kann!
Bewaffnete Drohnen müssen jetzt vermieden werden, bevor
der Entwicklung hin zu
vollautonomen Waffen kein Einhalt mehr geboten werden
kann. Im
öffentlichen Diskurs über die
Bewaffnung von Drohnen wird die Gefahr einer
schleichenden
Automatisierung der
Kriegsführung bisher unzureichend reflektiert – diese
Debatte muss
geführt werden! Denn mit der
Bewaffnung von Drohnen wird eine kritische Schwelle zur
Automatisierung der
Kriegsführung überschritten: hin zur Entwicklung von
Waffen, deren
Angriff auf Menschen
automatisiert abläuft, ohne weitere menschliche
Entscheidung,
Aufsicht oder Möglichkeit eines
Abbruchs. Die dringend gebotene internationale Ächtung
von vollautonomen letalen
Waffen, die sich auch die bisherige Bundesregierung auf
die Fahnen schreibt, muss daher
bewaffnete Drohnen einschließen.
Bereits der Einsatz von vom
Menschen gesteuerten bewaffneten Drohnen hat die
Schwelle
zum Einsatz militärischer Gewalt
gesenkt und den Krieg weiter entgrenzt, Drohnenangriffe
finden dauerhaft und häufig ohne
Kriegserklärung statt. Die technologische Hochrüstung
mit
bewaffneten Drohnen hat
militärisch und technologisch überlegenen Staaten wie
den USA
außergerichtliche Tötungen
vereinfacht, die fast ausschließlich People of Colour
treffen.
Autonome Waffen würden die
Möglichkeit globaler Überwachung und Tötungen als
potentielle Gefahr definierter
Menschen verstärken und die Kontrolle über die
Elimination
dieser Menschen nicht nur
rechtlichen Normen sondern auch zunehmend menschlichem
Einfluss entziehen.
Die zunehmende
Automatisierung von bewaffneten Drohnen verschärft
gleichzeitig die
Gefahr einer militärischen
Konfrontation zwischen Staaten, die mit solchen Waffen
ausgerüstet sind. Wird aufgrund
eines realen militärischen Zwischenfalls oder eines
Fehlalarms ein autonomes
Waffensystem aktiviert, wird sich eine militärische
Eskalation
nicht mehr aufhalten lassen.
Damit droht eine Verschärfung globaler Instabilität.
Diese Szenarien sind keine ferne
Dystopie – im Juni diesen Jahres haben die Vereinten
Nationen in einem Bericht
bekannt gegeben, dass in Libyen vermutlich eine Drohne
einen
vollautonomen Angriff
durchgeführt hat. Sicher bestätigen, ob dieser Angriff
tatsächlich von
einer vollautonomen Waffe
durchgeführt wurde, konnten die Vereinten Nationen
nicht.
Dieser Vorfall zeigt
exemplarisch: Mit einer Verbreitung von bewaffneten
Drohnen ist die
globale Ausweitung autonomer
Waffen auch über die technologisch führenden Staaten
hinaus absehbar und bisher weder
zu kontrollieren noch zu stoppen. Eine Nicht-Bewaffnung
von Drohnen kann politisch
entschieden und auf internationaler Ebene kontrolliert
werden,
die schleichende Entwicklung hin
zu immer autonomeren Waffen aufgrund immer
komplexerer Algorithmen ist
dagegen ein intransparenter Prozess, der sich weitgehend
der
Möglichkeit
öffentlich-demokratischer, geschweige denn
internationaler Kontrolle entzieht.
Angesichts der rasanten
Entwicklung der Künstlichen Intelligenz ist die
Entwicklung und
Verbreitung von modernen
bewaffneten Drohnen der Dammbruch für einen globalen
Rüstungswettlauf hin zu
autonomer Kriegsführung, der jetzt gestoppt werden kann
und
muss. Die Lösung der drängenden
Zukunftsfragen macht globale zivile Zusammenarbeit für
Sicherheit und menschliche
Entwicklung unumgänglich: Ein Bruchteil der Mittel, die
aktuell
für die Technologisierung und
Automatisierung des Krieges verwendet werden, würden
ausreichen, um in globalem
Ausmaß Sicherheit und menschliche Entwicklung umfassend
zu
befördern. Allein das von der
französischen, deutschen und spanischen Regierung bis
2040
geplante „Future Combat Air
System“, ein auf teilautonomen, bewaffneten
Drohnen-Schwärmen basierenden
Kampfsystem, soll bis zu 500 Milliarden Euro kosten.
Schon die Kosten dieses
Projektes entsprechen dem doppelten der Mittel, die nach
den
Vereinten Nationen jährlich
notwendig wären, um weltweit den Hunger zu beenden. Der
Stopp der Ausbreitung von
bewaffneten Drohnen und ihre internationale Abrüstung
sind für
die Realisierung der sozialen
wie der politischen Menschenrechte, für eine
menschenwürdige Zukunft auf
diesem Planeten geboten.
Wir appellieren daher an die
Vertreterinnen und Vertreter der Parteien im deutschen
Bundestag, an die Wissenschaft
und die Zivilgesellschaft: Stoppen Sie die
Bewaffnung von Drohnen für die
Bundeswehr. Setzen Sie sich für einen sofortigen
Stopp der Verbreitung von
bewaffneten Drohnen und für eine Ächtung von
bewaffneten Drohnen und autonomen Waffensystemen ein.
Gezeichnet,
Forscher*innen der KI und
Informatik:
Dr. Jakob Foerster, Universität
Oxford
Prof. Dr. Hans-Jörg Kreowski,
Universität Bremen
Dr. Maximilian Igl
Christian Schroeder de Witt,
Universität Oxford
Luisa Zintgraf, Universität
Oxford
Prof. Dr.-Ing. Dorothea Kolossa,
Ruhr-Universität Bochum
Prof. Dr. Karl Hans Bläsius
Prof. Dr. Christoph Dalitz,
Hochschule Niederrhein
Prof. Dr. Ulrike Erb Hochschule,
Bremerhaven
Christian Heck, Kunsthochschule
für Medien Köln
Ao.Univ.Prof.i.R. Dr. Wolfgang
Hofkirchner, Technische Universität Wien
Aaron Lye, Universität Bremen
Prof. Dr. Julia Padberg,
Hochschule für Angewandte Wissenschaften Hamburg
Rainer Rehak,
Weizenbaum-Institut für die vernetzte Gesellschaft
Berlin
Prof. Dr. Britta Schinzel,
Universität Freiburg
Prof. Dr. Jörg Siekmann,
Universität des Saarlandes
Prof. Dr. Andreas Spillner,
Hochschule Bremen
Prof. Dr. Christian Stary,
Johannes Kepler Universität Linz
Prof. Dr. Werner Winzerling,
Hochschule Fulda
Prof. Dr. Eberhard Zehendner,
Friedrich-Schiller-Universität Jena
Prof.Dr. Wolfgang Coy,
Humboldt-Universität zu Berlin
Prof. Dr. Prof. h.c. Otthein,
Herzog Universität Bremen
Prof. Dr. Frieder Nake,
Universität Bremen
Prof. Dr. Karin Vosseberg,
Hochschule Bremerhaven
Prof. Tim Rocktäschel, Ph.D.
University College London
Weitere Unterstützende:
Prof.
Dr. Franz Kasper Krönig, Fakultät für Angewandte Sozialwissenschaften, TH Köln