Killerroboter: Kontrollklauseln am Vortag der Einigung gestrichen
Auf diesem Text beruht, was Genf diese Woche entscheidet.

Was der Text am Vortag seiner Annahme verlor
Killerroboter, wie Nichtregierungsorganisationen sie nennen, sind Waffen, die nach ihrer Aktivierung ein Ziel erkennen, auswählen und angreifen, ohne dass ein Mensch eingreift. Seit 2024 sucht eine von der UNO eingesetzte Gruppe von Regierungsexperten nach gemeinsamen Regeln für sie. Am 4. September nahm sie ihren Abschlussbericht im Konsens an.
Wir haben den Berichtsentwurf vom 3. September mit der Fassung verglichen, die am Folgetag angenommen wurde. Am Vortag enthielt der Text noch präzise Sätze zur Rolle des Menschen. Mehrere davon fehlen in der endgültigen Fassung:
- dass die rechtlichen Pflichten von einem Menschen geprüft und ethische Erwägungen berücksichtigt werden;
- dass Ziel- und Einsatzparameter nicht ohne Genehmigung eines Menschen wesentlich geändert werden dürfen;
- dass das Verhalten dieser Waffen vorhersehbar und bis zu den verantwortlichen Personen rückverfolgbar sein muss;
- das Verbot, sie einzusetzen, wenn ihre Wirkungen nicht absehbar und begrenzbar sind.
Ein weiterer Satz hat sein Verb gewechselt. Staaten „müssen“ interne Mechanismen einrichten, um Vorfälle zu bearbeiten; in der angenommenen Fassung sind sie dazu „ermutigt“.
Geblieben ist der Grundsatz: Menschliche Kontrolle und menschliches Urteil sind nötig, ausgeübt „direkt oder indirekt“. Das Geländer steht noch, aber mehrere Streben fehlen.
Wer hat die Streichungen erreicht? Die letzten Verhandlungen der Gruppe sind nicht öffentlich. Human Rights Watch, die die Gespräche verfolgte, schreibt, dass einige Staaten, darunter Russland und die USA, den Text abgeschwächt hätten, indem sie Änderungen an breit unterstützten Bestimmungen verlangten.
Eine Lücke in eckigen Klammern
Auf diesem Bericht fußt die Konferenz, die am Montag im Genfer Palais des Nations begonnen hat. Die Konvention über bestimmte konventionelle Waffen ist ein UN-Abkommen, das bereits Waffen wie Minen oder Brandwaffen regelt, Protokoll für Protokoll. Alle fünf Jahre treffen sich ihre Vertragsstaaten zu einer Überprüfungskonferenz. Die siebte dauert bis Freitag, den 20. November, unter dem Vorsitz des Schweizer Botschafters Julien Thöni.
Der Text, der die Woche abschließen soll, ist fast fertig. Universalisierung, Finanzen, Sitzungskalender für 2027: das meiste steht. Bis auf ein Thema.
Im Entwurf der Abschlusserklärung, den die UNO am 13. November verbreitet hat, steht an der Stelle, an der die Staaten sagen sollen, was sie mit autonomen Waffen vorhaben, nur „[Placeholder on LAWS]“. LAWS ist das englische Kürzel für letale autonome Waffensysteme. Diese Lücke haben 128 Staaten bis Freitag Zeit zu füllen.
Ein Instrument, aber welches?
Der Bericht vom 4. September umfasst rund zwanzig Absätze, die diese Waffen definieren, festhalten, dass das Kriegsvölkerrecht uneingeschränkt für sie gilt, und Maßnahmen menschlicher Kontrolle auflisten. Die UNO beschreibt sie als „Elemente eines Instruments, ohne dessen Art vorwegzunehmen“.
Diese Formel ist der Schlüssel zur Einigung. Ein „Instrument“ kann ein Vertrag sein, der seine Unterzeichner bindet, oder eine Erklärung guter Praxis, die niemanden bindet. Weil die Gruppe sich nicht festlegte, konnten alle zustimmen. Die Konferenz dieser Woche muss die Entscheidung nun treffen.
Die Debatte über militärische KI verläuft oft zwischen einem Unternehmen und einer Regierung, etwa zwischen Anthropic und dem Pentagon. Hier müssen Staaten selbst sagen, welche Regeln sie für sich akzeptieren.
Zwei Texte und das Gewicht des Konsenses
Auf der Seite der Konferenz sind zwei Mandatsvorschläge veröffentlicht. Der erste, ohne angegebenen Verfasser, will die Gruppe beauftragen, „ein neues Protokoll zu verhandeln“, zur Konvention, also einen rechtsverbindlichen Text, und 2028 einen Entwurf vorzulegen.
Der zweite stammt von den USA, in einem Arbeitspapier vom 4. November. Washington würdigt darin die geleistete Arbeit und schlägt vor, „ein nicht bindendes Instrument“ zu erarbeiten. Eine Version 1.0 würde 2029 verabschiedet, ein Abschlussbericht wäre für 2031 vorgesehen.
Die Begründung: Ein unverbindlicher Text gelte sofort für alle, lasse sich im Tempo der Technik aktualisieren und warte nicht auf Jahre der Ratifizierung. Das Papier fügt hinzu, es sei „nicht nachgewiesen“, dass diese Waffen eine Kategorie bilden, die neue Verbote rechtfertigt. Im September hatte Washington im Sicherheitsrat bereits den KI-Chefs, die um Regeln baten, eine Absage erteilt.
Der Abstand zwischen beiden gleicht dem zwischen Straßenverkehrsordnung und Präventionsbroschüre. Beide sagen, dass man bei Rot anhalten soll. Nur eine regelt, was passiert, wenn man es nicht tut.
Der Konsens begünstigt dabei die Vorsicht. Der Expertenbericht empfiehlt, dass die Konferenz im Konsens über das weitere Vorgehen entscheidet, und auch die beiden Vorschläge sehen künftige Arbeit im Konsens vor. Im Konsens werden keine Stimmen gezählt: Es genügt, dass ein Staat widerspricht, und nichts wird beschlossen.
Frankreich will verhandeln, lässt aber offen, worüber
Le Monde titelt am Montag, Frankreich „versuche, die Tür einen Spalt zu öffnen“ (aus dem französischen Titel) für eine Regulierung. Welche Tür gemeint ist, zeigt die Mitteilung des Quai d'Orsay vom 10. September (aus dem französischen Text). Paris wünscht darin, dass die Konferenz „ein neues Verhandlungsmandat“ für die Expertengruppe annimmt. Das erklärte Ziel: „Gespräche aufzunehmen über die Schaffung eines künftigen internationalen Instruments, das vollständig autonome Waffensysteme verbietet und Systeme mit autonomen Funktionen regelt“.
Die Mitteilung verwendet weder „Vertrag“ noch „Protokoll“ noch „rechtsverbindlich“. Sie endet mit dem Willen, „ein Mandat zu finden, das den Konsens zusammenführen kann“, also eines, das auch für jene annehmbar ist, die keinen verbindlichen Text wollen. Automated Decision Research, eine der Kampagne Stop Killer Robots nahestehende Beobachtungsstelle, führt Frankreich bei der Frage eines rechtsverbindlichen Instruments denn auch als „nicht erklärt“. Paris hat allerdings die gemeinsamen Erklärungen unterzeichnet, die den Text für verhandlungsreif halten.
Verhandeln ja. Ob das Ergebnis verpflichtet, noch nicht. Dieser Vorbehalt lässt Paris die Möglichkeit, mit den Befürwortern eines Protokolls ebenso zu sprechen wie mit Washington, und genau das beschreibt das Bild der angelehnten Tür vielleicht am besten.
Eine Mehrheit ist noch kein Konsens
Nach der Zählung derselben Beobachtungsstelle, aktualisiert am 4. September, haben 76 Staaten erklärt, Verhandlungen auf Grundlage dieser Elemente zu unterstützen. Siebzig davon sind Vertragsparteien der Konvention, also eine Mehrheit der 128. Im August erneuerten der UN-Generalsekretär und die Präsidentin des Internationalen Komitees vom Roten Kreuz ihren Aufruf zu einem rechtsverbindlichen Instrument und nannten die Konferenz eine äußerst wichtige Gelegenheit.
Aber eine Mehrheit füllt keine leere Stelle. Ohne gemeinsame Formel bis Freitag kann die Konferenz ohne Verhandlungsmandat auseinandergehen oder mit einem Mandat, das die Diskussion verlängert, ohne die Art des Textes festzulegen.
Am Freitag wird man wissen, ob sich die Lücke in den eckigen Klammern mit einem Verb füllt, „verhandeln“, oder mit einem Adjektiv, „nicht bindend“.
War dieser Artikel hilfreich?
Behandelte Themen:
Häufig gestellte Fragen
Was sind die Killerroboter, über die in Genf verhandelt wird?
Was ist im September aus dem Expertentext verschwunden?
Welche Vorschläge liegen in Genf auf dem Tisch?
Unterstützt Frankreich einen Vertrag über autonome Waffen?
Wie viele Staaten wollen Regeln aushandeln?

Katja Liersch
Mitgründerin & Journalistin
Katja ist Journalistin und TV-Produzentin. Mit jahrzehntelanger Erfahrung in den Mainstream-Medien bringt sie bei Declic Media die Perspektive derjenigen ein, die KI entdecken: neugierig, anspruchsvoll und pragmatisch. Sie sorgt dafür, dass jeder Inhalt wirklich alle anspricht.
Alle Artikel von Katja →