KI Waffen ohne Sinn

TLDR: Am 5. September 2026 einigten sich 128 Vertragsstaaten der UN-Waffenkonvention (Convention on Certain Conventional Weapons, CCW) in Genf nach mehr als zehn Jahren Verhandlung auf einen gemeinsamen Text zu autonomen Waffensystemen. Das klingt nach einem historischen Moment, und in gewisser Weise ist es einer: Der Text könnte die Grundlage für den ersten völkerrechtlichen Vertrag der Geschichte werden, der sich explizit mit künstlicher Intelligenz befasst. Wer aber genau hinschaut, findet in diesem Text ein Wort, das fehlt. Und dieses Fehlen sagt mehr über den Zustand der internationalen KI-Regulierung aus als jede Zeile, die tatsächlich drinsteht.

Worum es geht: KI Waffen die selber entscheiden

Der Fachbegriff lautet LAWS, Lethal Autonomous Weapons Systems. Gemeint sind Waffen, die ein Ziel eigenständig erkennen, auswählen und bekämpfen können, ohne dass ein Mensch im Moment der Entscheidung eingreift. Die Maschine trifft die letzte Entscheidung über Leben und Tod.

Das ist kein Zukunftsszenario mehr. Systeme mit unterschiedlichem Grad an Autonomie werden bereits in aktiven Konflikten eingesetzt oder erprobt: in der Ukraine, im Sudan und im Gazastreifen. Loitering Munitions, die selbständig über einem Gebiet kreisen und Ziele suchen. Drohnenschwärme. Unbemannte Überwasserboote. Bodenroboter mit aufmontierten Waffensystemen. Was Regierungen seit über einem Jahrzehnt als "Killerroboter" diskutieren, ist technisch längst keine Theorie mehr, sondern Beschaffungsrealität.

Genau deshalb verhandelt die CCW seit 2013 über Leitplanken: Was soll verboten werden (rote Linien), und was soll reguliert werden (Mindeststandards für alles andere, was erlaubt bleibt).

Die zentrale Passage des am 3. September finalisierten Texts (CCW-GGE.1/2026/CRP.1/Rev.1) lautet in Paragraf 33:

"To uphold compliance with international law applicable in armed conflict, in particular the principles and requirements of distinction, proportionality and precautions in attack, control and human judgement with regard to LAWS are needed."

Auf Deutsch: Kontrolle und menschliches Urteilsvermögen sind bei LAWS notwendig, um das humanitäre Völkerrecht einzuhalten. Paragraf 34 konkretisiert das mit einer Liste möglicher Massnahmen: LAWS sollen unter einer verantwortlichen Befehlskette stehen, Einsatzbereich, Zieltypen, Dauer und geografischer Radius sollen begrenzt werden, und es soll Möglichkeiten geben, in den Betrieb einzugreifen oder das System rechtzeitig zu deaktivieren.

Klingt vernünftig. Das Problem liegt nicht in dem, was dort steht, sondern in dem, was in letzter Minute gestrichen wurde.

Das fehlende Wort: meaningful (sinnvoll)

Der ursprüngliche Verhandlungsstand sah vor, von "meaningful human control", von bedeutsamer menschlicher Kontrolle, zu sprechen. Genau dieses Wort, "meaningful", ist in der finalen Fassung verschwunden. Übrig bleiben "control" und "human judgement", ohne Qualifikator.

Das ist kein semantisches Detail. Elizabeth Minor von Stop Killer Robots hatte genau das vor der letzten Verhandlungsrunde vorausgesagt: Der Fortschritt der letzten Jahre könne "durch zunehmend qualifizierte Sprache verwässert" werden. Ohne das Wort "meaningful" lässt sich praktisch jede Form von Kontrolle als ausreichend deklarieren, und sei es ein Häkchen, das ein Kommandant Wochen vor dem Einsatz einer Software gesetzt hat. Die Verpflichtung bleibt bestehen, ihre Substanz nicht.

Nicole van Rooijen, Geschäftsführerin von Stop Killer Robots, kommentierte den fertigen Text gegenüber Reuters entsprechend deutlich: "Es ist wirklich schade, dass die gesamte Arbeit, die Staaten in den letzten drei Jahren in diesen Text investiert haben, in den letzten Stunden substanziell verwässert wurde."

Menschenrechtsorganisationen wie Human Rights Watch dokumentierten nach Abschluss der Verhandlungen eine ganze Reihe weiterer Streichungen gegenüber früheren Entwürfen:

Verweise auf die Design- und Entwicklungsphase von LAWS wurden entfernt, obwohl gerade dort viele Autonomieentscheidungen faktisch schon getroffen werden, lange bevor ein System zum Einsatz kommt. Der Geltungsbereich wurde vom gesamten Völkerrecht auf das humanitäre Völkerrecht im engeren Sinn verkleinert. Sprache zu ethischen Erwägungen fiel komplett weg. Und die Anforderungen an Vorhersagbarkeit, Zuverlässigkeit, Erklärbarkeit und Rückverfolgbarkeit, technische Eigenschaften, die in jeder seriösen KI-Governance-Diskussion als Minimalstandard gelten, wurden gestrichen.

Diese Streichungen tragen dieselbe Handschrift wie das fehlende "meaningful": Man einigt sich auf den Wortlaut eines Prinzips und entfernt gleichzeitig die Passagen, die es überprüfbar gemacht hätten.

Wer daran gearbeitet hat zeigt eine Verantwortungslücke

Nach übereinstimmenden Berichten waren es vor allem die USA und Russland, die bis in die Schlussverhandlungen hinein auf national statt international bindende Leitlinien drängten und gezielt Formulierungsspielraum bei der Ausübung menschlichen Urteilsvermögens einforderten. Beide Staaten gehören zu den grössten Entwicklern und Nutzern autonomer Waffensysteme, was ihre Position wenig überraschend, aber folgenreich macht.

Bemerkenswert: 76 Staaten, eine Mehrheit der stimmberechtigten CCW-Mitglieder, sprachen sich trotz des verwässerten Texts dafür aus, formelle Vertragsverhandlungen aufzunehmen. Der politische Wille für mehr ist also vorhanden, er konnte sich in dieser Verhandlungsrunde nur nicht gegen die Vetomacht der grossen Militärstaaten durchsetzen.

Der tiefere Grund, warum diese Detailfrage zählt, liegt in der Verantwortungskette. Wenn ein Algorithmus entscheidet, wer stirbt, wer haftet dann? Der Programmierer, der das Modell trainiert hat? Die operative Einheit, die es einsetzt? Der Kommandant, der die Freigabe erteilt hat? Oder der Staat als Ganzes?

Auf diese Frage gibt es bislang keine saubere Antwort. Genau diese Lücke untergräbt die Durchsetzbarkeit des humanitären Völkerrechts insgesamt. Ein Prinzip wie "menschliche Kontrolle" funktioniert als Zurechnungsanker nur dann, wenn sich im Ernstfall zeigen lässt, wer die Kontrolle tatsächlich ausgeübt hat oder hätte ausüben müssen. Ein unqualifiziertes "control" lässt genau diese Zurechnung offen. Damit bleibt auch die Verantwortung diffus.

Der Text ist rechtlich nicht bindend. Er ist der Bericht einer Expertengruppe, kein Vertrag. Die eigentliche Weichenstellung fällt an der CCW-Überprüfungskonferenz im November 2026: Dort entscheiden die Vertragsstaaten, ob sie auf Basis dieses Texts formelle Verhandlungen über ein rechtlich bindendes Instrument aufnehmen, oder ob die Diskussion in eine weitere Expertenrunde vertagt wird. Sollte im November tatsächlich ein Verhandlungsmandat beschlossen werden, wäre das der erste Schritt zu etwas, das es bislang nicht gibt: einem internationalen Vertrag, der explizit den Einsatz von künstlicher Intelligenz in tödlicher Absicht regelt.

Und jetzt?

Für alle, die sich beruflich mit KI beschäftigen, lohnt sich der Blick über den Waffenkontext hinaus. Das Muster ist wiedererkennbar. Derselbe Mechanismus prägt weite Teile der zivilen KI-Regulierung: Man einigt sich öffentlichkeitswirksam auf ein Prinzip, dessen Formulierung im Verhandlungsprozess so lange abgeschliffen wird, bis die Substanz verschwindet, während der Name des Prinzips überlebt. Die Schlagzeile lautet dann "historische Einigung". Die Substanz steckt im Kleingedruckten, oder eben in dem Wort, das fehlt.

Wer LAWS beobachtet, beobachtet damit auch, wie robust oder wie formbar der Anspruch auf menschliche Kontrolle über KI-Systeme generell ist, sobald wirtschaftliche und militärische Interessen unter Zeitdruck aufeinandertreffen. Die Antwort, die Genf am 5. September gegeben hat, ist ernüchternd: Der Anspruch bleibt bestehen. Bedeutsam sein muss er nicht mehr.

Und darum bin ich nach wie vor überzeugt: Die Zukunft gehört nicht mehr dem Tippen und Klicken, sondern dem gemAInsamen Aushandeln von Regeln zwischen Menschen und Maschinen, gerade dort, wo es um Leben und Tod geht. Also wenn Du reden willst, und wenn Du mit mir zusammenarbeiten willst: melde Dich gerne www.rogerbasler.ch

Disclaimer

Dieser Artikel wurde nach eigener Recherche und mit KI-gestützter Auswertung von Primär- und Medienquellen (Reuters, Human Rights Watch, Stop Killer Robots, WION) zusammengestellt und kritisch geprüft. Der Textauszug aus Paragraf 33 und 34 des Verhandlungsdokuments (CCW-GGE.1/2026/CRP.1/Rev.1) stammt aus Screenshots des Originaldokuments, die mir vorlagen, und wurde mit den unten verlinkten Quellen gegengeprüft. Dieser Artikel ist rein edukativ, keine Rechtsberatung und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.

Quellen (APA)

Human Rights Watch. (2026, 7. September). UN talks on killer robots ends with calls for negotiations growing. https://www.hrw.org/news/2026/09/07/un-talks-on-killer-robots-ends-with-calls-for-negotiations-growing

Mathur, P. (2026, 6. September). What are 'killer robots'? 128 countries reach agreement after Geneva talks on autonomous weapons. WION. https://www.wionews.com/world/what-are-killer-robots-128-countries-reach-agreement-after-geneva-talks-on-autonomous-weapons-1788699999423

Reuters. (2026, 5. September). States reach agreement at autonomous weapons talks in Geneva. Investing.com. https://www.investing.com/news/stock-market-news/states-reach-agreement-at-autonomous-weapons-talks-in-geneva-4890192

UK Campaign to Stop Killer Robots. (2026, 1. September). Human control is hanging by a thread: The final GGE session on autonomous weapons systems. https://ukstopkillerrobots.org.uk/2026/09/01/2709/