Automatisiertes Töten

KARSTEN MONTAG, 7. September 2026, 1 Kommentar, PDF

Künstler haben die Entwicklung schon lange kommen sehen. In der Literatur taucht ein autonom tötender Roboter bereits Ende des 19. Jahrhunderts auf. In der Kurzgeschichte „Moxon’s Master“ des US-amerikanischen Schriftstellers Ambrose Bierce bringt ein Schachroboter seinen Schöpfer nach einer verlorenen Schachpartie um. In Edmond Hamiltons Novelle „The Metal Giants“ von 1926 baut ein künstliches Gehirn eine Armee von 90 Meter großen Robotern, die ganze Städte in den USA zerstören – ein Vorgriff auf dystopische Filme wie „Terminator“ von 1984 oder „The Matrix“ aus dem Jahr 1999. In beiden Filmen sowie ihren Nachfolgeproduktionen bekämpft und kontrolliert eine künstliche Superintelligenz die Menschheit mit autonomen Waffensystemen.

Die einem Hund nachempfundene Bodendrohne in der Folge „Metalhead“ (deutscher Titel: „Metallkopf“) der Fernsehserie „Black Mirror“ von 2017 macht in einer postapokalyptischen Welt in einer Art und Weise Jagd auf Menschen, wie sie sich derzeit tagtäglich ereignet, wenn auch mit immer noch von Menschen gesteuerten FPV-Drohnen (FPV: „First Person View“ – zu deutsch: „Ich-Perspektive“). Während der Einsatz von Bodendrohnen in der Ukraine derzeit noch in den Kinderschuhen steckt, zeigt der 2017 vom „Future of Life Institute“ veröffentlichte Kurzfilm „Slaughterbots“ eine erschreckend realistische Zukunftsvision von Schwärmen autonomer Minidrohnen, die Jagd auf einzelne Menschen machen.

Die Vorstellung von Maschinen, die von künstlicher Intelligenz (KI) betrieben werden und selbständig Menschen töten, bewog den US-Autor Isaac Asimov dazu, Anfang der 1940er Jahre die „Robotergesetze“ zu formulieren. Darin ist es den Maschinen strengstens untersagt, Menschen zu töten oder deren Tod durch Untätigkeit zuzulassen. Wie weit die Menschheit von einer derartigen Kontrolle KI-gesteuerter Maschinen entfernt ist, zeigt die Entwicklung in der Ukraine.

Science Fiction wird zur Realität

Anfang Juni veröffentlichte das britische Wissenschaftsmagazin „New Scientist“ einen Beitrag, in dem der Einsatz von ukrainischen KI-gesteuerten „Terminator“-Drohnen bei der Tötung von russischen Soldaten bestätigt wird. Der Vorfall soll sich 2024 in der Nähe der Städte Bachmut (russisch: Artjomowsk) und Tschassiw Jar (Tschassow Jar) ereignet haben. Demnach habe der ukrainische Drohnenhersteller Alexander Kochanowskij gegenüber dem Magazin geäußert, dass zehn vollkommen autonome Quadcopter-Drohnen (Drohnen mit vier Rotoren) so programmiert waren, zur Frontlinie zu fliegen und dann in den „Terminator-Modus“ zu wechseln, in dem ein KI-Modell nach Zielen sucht und diese angreift. Bei dem Einsatz seien laut Kochanowskij mehrere russische Soldaten ums Leben gekommen.

_{Abbildung 1: Ukrainische FPV-Quadcopter-Drohne mit panzerbrechender Munition | Bild: Ukrainisches Verteidigungsministerium, CC BY 4.0}

Nach diesem Test sei das System nie mehr in größerem Umfang eingesetzt worden, meinte der Drohnenhersteller. Die Vorschriften in der Ukraine würden einen vollständig autonomen Betrieb verbieten und verlangen, dass Menschen die Ziele in der letzten Phase des Angriffs überprüfen. Die ukrainische Regierung sei sich jedoch der wachsenden Fähigkeiten von KI bewusst und mit Rüstungsunternehmen darüber im Gespräch, ob die Vorschriften gelockert werden sollten oder nicht, erläuterte Kochanowskij. Ob solche Vorschriften wirklich existieren, ist bislang nicht offiziell bestätigt worden.

Auch die russische Armee hat Mitte 2026 autonome Drohnen vom Typ „Molnija“ bei der Zerstörung von Zielen in der Region Saporischschja eingesetzt. Die mit einem KI-Steuerungssystem nachgerüsteten günstigen Festflügeldrohnen haben jedoch offenbar nicht gezielt Menschen angegriffen, sondern Infrastruktureinrichtungen. Es ist bisher kein direkter Angriff dieses Drohnentyps auf einzelne Menschen dokumentiert.

_{Abbildung 2: Russische „Molnija“-Drohne Typ 2 | Bild: Russisches Verteidigungsministerium, Lizenz: CC BY 4.0}

Typen autonomer Waffensysteme

In den USA werden autonome Waffensysteme in drei Autonomiegrade unterteilt: vollautonome Systeme („human out of the loop“), überwachte autonome Systeme („human on the loop“) und semi-autonome Systeme („human in the loop“). Vollautonome Waffensysteme wählen nach der Aktivierung Ziele selbständig aus und attackieren sie, ohne dass ein menschlicher Bediener weiter eingreift. Bei überwachten autonomen Systemen haben die Bediener die Möglichkeit, die autonome Zielbekämpfung des Systems in Echtzeit zu beobachten und zu stoppen. Semi-autonome Systeme greifen nur Ziele oder Zielgruppen an, die zuvor von einem menschlichen Bediener ausgewählt wurden. Zur letzteren Kategorie gehören neben Drohnen unter anderem auch lenkgesteuerte Raketen oder Marschflugkörper.

Ausgehend von diesen Unterscheidungen handelte es sich bei den ukrainischen Quadcopter-Drohnen mit „Terminator-Modus“ eindeutig um ein vollautonomes Waffensystem. Bei der autonom gesteuerten russischen „Molnija“-Drohne ist eher davon auszugehen, dass die Ziele zuvor von einem Menschen festgelegt wurden – es sich also um ein semi-autonomes Waffensystem handelt. Allerdings ist nicht bekannt, ob die von Russland eingesetzte Technologie auch gezielt einzelne Menschen angreifen könnte. Nichtsdestotrotz ist es selbstverständlich möglich, dass bei Angriffen mit semi-autonomen Waffensystemen Menschen zu Schaden kommen können oder dies sogar gewollt ist – beispielsweise bei einem gezielten Angriff auf eine Unterkunft, in der gegnerische Soldaten vermutet werden.

Treiber der Entwicklung: militärische Unterlegenheit

Einer der wichtigsten Gründe, warum insbesondere die Ukraine die Drohnentechnologie weiterentwickelt, ist die Unterlegenheit der Armee, der Rüstungsindustrie sowie der bloßen Anzahl an Angriffswaffen gegenüber Russland. In einem Interview Anfang August schätzte John Mearsheimer, geopolitischer Analyst und Politikwissenschaftler an der Universität von Chicago, die zahlenmäßige Überlegenheit der russischen im Verhältnis zu den ukrainischen Soldaten auf zwei bis drei zu eins. Die russischen Verluste seien – im Gegensatz zu den Behauptungen in westlichen Medien – um mindestens die Hälfte geringer als die ukrainischen. Als Indizien dafür nannte Mearsheimer die Überlegenheit der russischen Artillerie im Verhältnis von fünf bis zehn zu eins sowie die Tatsache, dass beim Austausch von toten Soldaten zwischen den Konfliktgegnern „weitaus mehr“ tote Ukrainer von den Russen zurückgegeben würden als umgekehrt.

Auch beim Luftkrieg sieht Mearsheimer ein „massives Ungleichgewicht“, das in der Überlegenheit der russischen Rüstungsindustrie gründe. Während die russische Armee die Ukraine mit ballistischen Raketen, Marschflugkörpern, Drohnen sowie mit einem „enormen Arsenal an Präzisionsbomben“ angreife, attackiere die ukrainische Seite Russland fast ausschließlich mit Drohnen.

Die Einschätzung Mearsheimers werden unter anderem von ukrainischen Soldaten, die von einer chronischen Unterbesetzung der Einheiten ihrer Armee berichten, gestützt. Mehrere Medienberichte bestätigen zudem, dass die von der Regierung in Kiew initiierte Kriegsdoktrin „Drone Line“ zum Ziel hat, die Unterlegenheit der ukrainischen Armee auszugleichen.

Automatisierung der Steuerung wegen Störsendern

Die Möglichkeit, mit Störsendern die Funkverbindung zwischen Drohnenpilot und FPV-Drohne zu unterbrechen, stellt eine weitere starke Motivation dar, die KI-Steuerung voranzutreiben. Der Einsatz von FPV-Drohnen war bislang deshalb so erfolgreich, weil die Piloten, in geschützten Unterständen, mehrere Kilometer von der Frontlinie entfernt, mit handelsüblichen Quadcopter-Drohnen im Wert von wenigen Hundert Dollar und mit Sprengstoff bestückt, Panzer im Wert von mehreren Millionen Dollar zerstören und Soldaten töten konnten. Voraussetzung für die Steuerung ist lediglich eine ständige Verbindung zwischen Bediener und Drohne.

_{Abbildung 3: FPV-Drohnenpilot | Bild: Russisches Verteidigungsministerium, Lizenz: CC BY 4.0}

Die Abwehr von FPV-Drohnen mittels Störsender ist jedoch mittlerweile weit fortgeschritten, wie ein Beitrag des chinesischen Herstellers Dewin zeigt. Demnach gebe es bei elektronischen Abwehrmaßnahmen drei Hauptansätze, die zusammenwirken: das Aufspüren von Bedrohungen, die Störung der Kommunikation und das Täuschen feindlicher Systeme. Militärische Teams würden oft damit beginnen, den Luftraum nach den Frequenzen abzusuchen, auf denen die gegnerischen Drohnen gesteuert werden. Sobald diese identifiziert sind, können gezielte Störsignale eingesetzt werden. Diese überfluten die Frequenzbänder, auf denen der Pilot mit der Drohne kommuniziert und die Drohne die Bildübertragung sendet, mit starken Radiostörungen. Richtantennensysteme könnten – im Gegensatz zu Systemen, die in alle Richtungen senden – Signale bis zu einer Entfernung von drei Kilometern blockieren.

Die neueste Generation elektronischer Kriegsführungsausrüstung beinhalte zudem GPS-Spoofing-Funktionen, die es den Bedienern ermöglichen, der Drohne einen anderen Ort oder eine andere Zeit vorzutäuschen. Was als große Anti-Drohnen-Systeme, montiert auf Fahrzeugen, begann, habe sich im Laufe der Zeit dramatisch verändert. Heute würden Soldaten kompakte Versionen dieser Systeme direkt am Körper tragen. Frühere Systeme hätten noch Lastwagen zur Stromversorgung und riesige Antennen benötigt, weshalb sie nur an festen Kontrollpunkten oder zum Schutz von Konvois nützlich waren. Dank Verbesserungen in der Hochfrequenztechnik seien die Geräte mittlerweile deutlich kleiner. Moderne tragbare Störsender wögen weniger als sieben Kilogramm und könnten Signale bis zu einer Entfernung von etwa 500 Metern blockieren, so Dewin.

Eine Möglichkeit, die Funkstörung zu umgehen, stellen jedoch FPV-Drohnen dar, die über ein Glasfaserkabel gesteuert werden. Die Drohnen führen eine Rolle mit dem sehr leichten und dünnen Kabel mit sich, das sich im Laufe des Fluges abspult. An der Front sind damit Entfernung von 20 bis 30 Kilometern möglich. Da sowohl die Steuerungs- als auch die Bilddaten über das Kabel gesendet werden, können sie nicht durch Funkstörung beeinflusst werden.

_{Abbildung 4: Ukrainische FPV-Quadcopter-Drohne mit Glasfaserkabel | Bild: Ukrainisches Verteidigungsministerium, Lizenz: CC BY 4.0}

Allerdings hat diese Form der Steuerung einige wesentliche Nachteile. Das Kabel kann sich in Ästen oder anderen Hindernissen auf dem Weg verheddern und abreißen. Wird die Drohne rechtzeitig entdeckt, können die gegnerischen Soldaten das Kabel mit einer Schere oder einem Messer einfach durchtrennen und die Verbindung zum Piloten ist sofort unterbrochen. Schlussendlich brauchen die gegnerischen Soldaten lediglich das Kabel zurückverfolgen, um den Unterstand der Drohnenpiloten ausfindig zumachen. Nichtsdestotrotz kommt diese Form der Steuerung an der Front in der Ukraine massiv zum Einsatz.

Halbautonome KI-Drohnen bereits an der Front

Ein im Januar im Magazin „Forbes“ veröffentlichter Bericht beschreibt die Entwicklung von autonomen ukrainischen Flugdrohnen. Demnach seien Anfang 2024 mit günstigen Prozessoren und Kameras ausgelieferte semi-autonome Drohnen in der Praxis für den Kampfeinsatz nicht bereit sowie unzuverlässig gewesen. Die KI sei nicht in der Lage gewesen, die spezifischen Schwachstellen der Zielobjekte – wie beispielsweise die Rückseite des Turms eines Panzers – zu finden. Drohnenpiloten hätten die autonome Funktion der weiterhin über Funksignale von Menschen steuerbaren Flugobjekte nur dann genutzt, wenn die Verbindung aufgrund von Störsendern abzubrechen drohte. Seitdem hätten die ukrainischen KI-Entwickler das System aber verbessert, so der Forbes-Bericht weiter. Rund einhundert ukrainische Unternehmen sollen mithilfe der Plattform „Brave1 Dataroom“, an der unter anderem auch das US-Unternehmen „Palantir Technologies“ beteiligt ist, Modelle künstlicher Intelligenz testen und trainieren.

Das ukrainische Unternehmen „The Fourth Law“ (TFL) hat das Autonomie-Modul TFL-1 entwickelt, das an FPV-Drohnen von Drittanbietern angebracht werden kann, um autonom Ziele anzugreifen. Das Basismodul kostet nach Angaben des Herstellers nur 150 US-Dollar. Die damit ausgerüstete und von TFL angebotene Drohne „Lupynis-10-TFL-1“ kostet lediglich 480 US-Dollar. Das in Kooperation mit dem ukrainischen Drohnenhersteller Vyriy produzierte Modell „Vyriy-10-TFL-1“ soll zusammen mit dem Autonomie-Modul TFL-1 umgerechnet sogar nur 440 US-Dollar kosten. Dieser Preis liege niedriger als der Durchschnittspreis von FPV-Drohnen ohne Autonomie auf dem Markt, so TFL.

Nach Angaben des Herstellers soll das TFL-1-Modul die Steuerung von Drohnen auf den letzten 500 Metern des Fluges übernehmen und das Ziel autonom angreifen können. Dadurch werde der Erfolg von FPV-Drohnenmissionen um das zwei- bis fünffache gesteigert – ein weiteres Motiv, den Einsatz von KI zur autonomen Steuerung von Waffensystemen voranzutreiben. Die ukrainischen Streitkräfte würden die Produkte von TFL bereits in großem Umfang einsetzen, da sie ihnen helfen würden, Probleme im Zusammenhang mit der elektronischen Kriegsführung und den Einschränkungen des Funkhorizonts zu lösen und gleichzeitig die Präzision ihrer Piloten zu verbessern. Die von dem Autonomie-Modul anvisierten Ziele können nach Angaben des Herstellers auch beweglich sein, was potentiell Menschen einschließt.

Diese Angaben von TFL widersprechen den Informationen in dem Beitrag von „New Scientist“, die ukrainischen Vorschriften würden verlangen, dass Menschen die Ziele in den letzten Phasen des Angriffs überprüfen. Denn gemäß den Beschreibungen des Herstellers gehören Drohnen, die mit dessen Autonomie-Modul ausgerüstet sind, zu den semi-autonomen Waffensystemen, die in der Endphase des Angriffs nicht mehr von einem Menschen gesteuert werden. Dies ist insbesondere dann der Fall, wenn die Funkverbindung aufgrund von Störsendern unterbrochen ist.

Autonome Drohnenschwärme: Firma in Deutschland an Entwicklung beteiligt

Mitte Juli vermeldete die „Frankfurter Allgemeine Zeitung“ (FAZ) einen Großauftrag für das „amerikanisch-europäische“ Unternehmen Auterion und den ukrainischen Drohnenproduzenten Skyfall über 50.000 Drohnen für die Ukraine. Skyfall soll laut FAZ in diesem Kooperationsprojekt die Quadcopter-Drohne vom Typ „Shrike“ liefern, Auterion soll die Drohne mit seinem Autonomie-Modul „Skynode“ ausrüsten.

Auterion bewirbt „Skynode“ als „weit mehr als nur ein Drohnen-Autopilot“. Es verwandele „jedes robotergesteuerte Fahrzeug von einer bloßen mobilen Kamera in ein vernetztes, autonomes System“. Gegenüber der FAZ hat Auterion-Präsident Lorenz Meier geäußert, sein Unternehmen sei bisher das einzige, das ein System zur KI-Steuerung von Drohnenschwärmen liefern könne. Auf der Auterion-Plattform könne man die Zahl der Drohnen in einem Verbund fast beliebig erhöhen, so Meier. Man habe bereits 22 Drohnen in einem Schwarm gesteuert und könne bald auch 50 demonstrieren. Die nächste Stufe seien „Zusammenschlüsse einzelner Schwärme zu koordinierten Superschwärmen“, um ganze Frontabschnitte anzugreifen, heißt es im Beitrag der FAZ. Dieses Szenario erinnert sehr an die dystopische Zukunftsvision, wie sie im anfangs genannten Kurzfilm „Slaughterbots“ dargestellt wird.

Meier beteuere jedoch, so die FAZ, dass die Zielauswahl und der Startbefehl bei allem Trend hin zu Automatisierung auch in Zukunft weiter allein beim Soldaten lägen. Das sei aus ethischen Gründen sehr wichtig. Die Ziele würden von teilautonomen Systemen zwar erkannt und vorgeschlagen, aber ausgewählt würden sie vom Bediener.

Die Hauptniederlassung von Auterion in Europa befindet sich in München. Dort betreibt das Unternehmen ein „Softwareentwicklungszentrum“, während der Standort für den zivilen Geschäftsbereich von Auterion in Zürich angesiedelt ist.

Auch China forscht an der autonomen Steuerung von Drohnenschwärmen. Das Programm mit dem Namen „Atlas“, in dem ein Pilot bis zu 96 Drohnen gleichzeitig steuert, wurde im März mit einem offiziellen Video der Öffentlichkeit vorgestellt.

Einsatz von KI in Mittel- und Langstreckendrohnen

Bei Mittel- und Langstreckendrohnen dient die KI-Steuerung zunächst dazu, das Zielgebiet auch bei der Störung von Satellitennavigationssystemen wie GPS oder bei der Störung von satellitengestützten Internetverbindungen anfliegen zu können. Der Bordcomputer gleicht autonom aktuelle Aufnahmen und Sensordaten mit vorher übertragenen Satellitenbildern und weiteren geografischen Informationen ab, um die Drohne zu navigieren.

_{Abbildung 5: US-Langstreckendrohne vom Typ LUCAS mit einer Reichweite von 800 Kilometern | Bild: U.S. Central Command, Public Domain}

Des Weiteren kann die KI-Steuerung zur „last-mile navigation“ („Navigation für die letzte Meile“) eingesetzt werden. Die Waffensysteme greifen damit vorher festgelegte Ziele oder Zieltypen autonom an, ohne dass ein Bediener eingreifen muss. Dies schließt die autonome Zielerkennung sowie die Verfolgung beweglicher Ziele ein.

Semi- oder vollautonom? Die Grenzen verschwimmen

Die Entfernung von 500 Metern zum Ziel, die der ukrainische Hersteller TFL für sein Modul angibt, bevor die KI die letzte Phase des Angriffs übernimmt, stimmt auffällig mit der Distanz überein, auf die moderne tragbare Störsender die Steuersignale von FPV-Drohnen blockieren können. Dies ist ein deutlicher Hinweis darauf, dass neben militärischem Gerät auch gegnerische Soldaten Ziele dieser semi-autonomen Waffensysteme sind.

Das TFL-1-Modul verfügt über eine Tageslichtkamera mit einer Auflösung von 1920×1080 Pixeln. Ein Mensch in Tarnkleidung, aufgenommen aus einer Entfernung von 500 Metern, ist auf einem kleinen Bildschirm unter diesen Voraussetzungen für das menschliche Auge so gut wie nicht von der Umgebung unterscheidbar.

_{Abbildung 6: Mensch mit Tarnkleidung in einer Entfernung von 500 Metern bei einer Auflösung von 1920×1080 Pixeln, von ChatGPT erstelltes Symbolbild}

Erst auf einem stark vergrößerten Bildausschnitt ist bei dieser Auflösung eine menschliche Kontur erkennbar.

_{Abbildung 7: Mensch mit Tarnkleidung in einer Entfernung von 500 Metern bei einer Auflösung von 1920×1080 Pixeln, Bildausschnitt, von ChatGPT erstelltes Symbolbild}

Der Drohnenpilot ist bei der Auswahl des Zieles somit stark auf die KI angewiesen. Die Abhängigkeit vervielfacht sich, wenn der Pilot zukünftig einen Drohnenschwarm steuert, der mehrere Ziele gleichzeitig oder ganze Frontabschnitte angreift. Dieser Prozess der KI-gestützten Zielauswahl erinnert entfernt an die Generierung von Angriffszielen durch das System „Lavender“ bei der Bombardierung mutmaßlicher Hamas-Kämpfer im Gazastreifen durch die israelische Armee. Ähnlich wie bei dem israelischen System dürfte es auch für einen Drohnenpiloten an der Front nur schwer möglich sein, innerhalb von kurzer Zeit zu überprüfen, ob es sich bei den von der KI vorgeschlagenen Zielen möglicherweise um Zivilisten oder Angehörige der eigenen Armee handelt.

Fraglich ist auch, wie sich KI-gesteuerte Drohnen verhalten, wenn sie als „Loitering Munition“ (zu deutsch: „lungernde Munition“) eingesetzt werden und der Funkkontakt zu den Piloten aufgrund von Störsendern verloren geht. Loitering Munition kann im Grunde wie Bodenminen verwendet werden, um Abschnitte der Front zu sichern oder gegnerische Ziele auch in großer Entfernung anzugreifen.

Es widerspricht der Logik der Kriegsführung, dass KI-gesteuerte Drohnen, die zur Überwachung eines Frontabschnitts oder zum Angriff auf ein Ziel eingesetzt werden, ihren Dienst einstellen, wenn der Gegner mit einem Störsender ausgerüstet diesen Abschnitt durchquert, beziehungsweise das Ziel durch Funkstörung geschützt ist. Der Sinn der autonomen Steuerung besteht ja darin, dass die Waffensysteme einsatzfähig bleiben, wenn die Funkverbindung zum Bediener abreißt. Die Werbevideos der Hersteller gehen auf diesen Grenzfall nicht ein oder vermitteln den Eindruck, dass ein menschlicher Bediener stets die Möglichkeit habe, den Angriff jederzeit abzubrechen.

Stand der Verhandlungen zu einem internationalen Kontrollvertrag für autonome Waffensysteme

Bereits 2013 einigten sich die Unterzeichner der Konvention über bestimmte konventionelle Waffen (Convention on Certain Conventional Weapons, CCW) – darunter die USA, Russland, die Ukraine, China und fast alle europäischen Staaten – auf ein Mandat zu tödlichen autonomen Waffensystemen (Lethal Autonomous Weapons Systems, LAWS). 2016 beschlossen die Vertragsparteien, eine „Gruppe von Regierungsexperten für neue Technologien im Bereich der tödlichen autonomen Waffensysteme“ einzurichten (Group of Governmental Experts on Lethal Autonomous Weapons Systems, GGE on LAWS), die seitdem jährlich zusammentritt.

2023 wurde die Gruppe beauftragt, im Konsens Elemente eines möglichen „Instruments“ im Zusammenhang mit tödlichen autonomen Waffensystemen zu entwickeln. Darin geht es zunächst darum, die Waffensysteme, deren Eigenschaften sowie deren mögliche Begrenzungen zu definieren. Falls die Gruppe in ihren Beratungen einen Konsens erreicht, könnte sich daraus ein rechtlich verbindliches CCW-Protokoll oder eine politische Erklärung entwickeln. Erst danach könnten die eigentlichen Verhandlungen zu einem völkerrechtlich bindenden Vertrag zur Kontrolle von autonomen Waffensystemen beginnen. Dieser Vertrag müsste dann noch von den UN-Mitgliedsstaaten unterzeichnet und ratifiziert werden, bevor er Gültigkeit erlangte.

Die Zusammenfassung der Ergebnisse der letzten Sitzung der GGE on LAWS im März zeigt, dass die weiter oben dargestellten Grenzfälle genau die Knackpunkte sind, bei denen die Gruppe derzeit Schwierigkeiten hat, einen Konsens zu finden.

Ein Streitpunkt bei der Formulierung der Definition der Waffensysteme ist etwa deren Fähigkeit, Ziele selbständig „identifizieren“ zu können – im Gegensatz zur vorherigen Auswahl durch einen Bediener. Einige Teilnehmer warnten davor, dass „bestehende Systeme wie Fire-and-Forget- und zielsuchende Flugkörper“, die „im Einklang mit dem humanitären Völkerrecht eingesetzt“ würden, unter diese Definition fallen könnten. Sie wollen Waffensysteme von einem zukünftigen Kontrollvertrag ausschließen, wenn das für die Planung, Entscheidung über oder Durchführung des Angriffs zuständige Personal die konkreten Ziele auswählt, die das System bekämpfen soll. Andere Teilnehmer befürworteten ein ausdrückliches Verbot antipersoneller autonomer Waffensysteme.

Die ungenaue Unterscheidung zwischen teilautonomen und vollautonomen Waffensystemen zieht sich durch das gesamte Dokument. Es geht offenbar vor allem darum, dass sich autonome Waffensysteme nicht verselbständigen können – und nicht etwa darum, sie zu verbieten. Dahinter scheint die Befürchtung zu stecken, eine KI könne sich gegen die Menschheit richten und dabei autonome Waffen verwenden – ähnlich wie in den anfangs genannten Dystopien „The Metal Giants“, „Terminator“ und „Matrix“.

Insbesondere die Möglichkeit, weiterreichende autonome Tötungsmaschinen zur „Entwicklung von Gegenmaßnahmen“ in einer „erforderlichen Mindestmenge“ zu erlauben, erinnert an den Geist der Biowaffenkonvention und deren Lücken. Ähnlich wie Biolabore, die offiziell Gain-of-function-Forschung betreiben, um angebliche künftige Gefahren abzuwehren, dabei jedoch potentielle Biowaffen herstellen, kann auf diese Weise auch die autonome Steuerung von Tötungsmaschinen trotz eines Kontrollvertrages vorangetrieben werden.

Der österreichische Oberst und Historiker Markus Reisner, der in den Medien häufig den Kriegsverlauf in der Ukraine einordnet und der 2018 zum Thema „Roboterkriege“ („Robotic Wars“) promovierte, war schon damals der Auffassung, die Entwicklung hin zu autonomen Waffensystemen sei nicht mehr aufzuhalten. Gleichwohl sei es „höchst fragwürdig“, ethische Entscheidungen auf dem Gefechtsfeld an autonome Roboter auszulagern. 2018 sah Reisner die USA technologisch noch als „exklusiven Vorreiter“ mit riesigem Vorsprung vor anderen Nationen in der Drohnenkriegsführung. Das allerdings ist mittlerweile wohl Vergangenheit.

Titelbild: Drohne des ukrainischen Herstellers The Fourth Law mit KI-Autonomiemodul | Bild: Screenshot Werbevideo TFL

Über den Autor: Karsten Montag, Jahrgang 1968, hat Maschinenbau an der RWTH Aachen, Philosophie, Geschichte und Physik an der Universität in Köln sowie Bildungswissenschaften in Hagen studiert. Er war viele Jahre Mitarbeiter einer gewerkschaftsnahen Unternehmensberatung, zuletzt Abteilungs- und Projektleiter in einer Softwarefirma, die ein Energiedatenmanagement- und Abrechnungssystem für den Energiehandel hergestellt und vertrieben hat.