Altman und Amodei baten die UNO um Regulierung

Ein Saal, vier Gäste, eine Absage

Am Mittwoch, den 23. September, tritt der Sicherheitsrat der Vereinten Nationen am frühen Nachmittag zu seiner 10.228. Sitzung zusammen. Thema: „Künstliche Intelligenz und internationale Sicherheit“. Frankreich hat im September den Vorsitz im Sicherheitsrat inne und hat die Sitzung einberufen. Sein Minister für Europa und auswärtige Angelegenheiten, Jean-Noël Barrot, führt den Vorsitz.

Im Saal sitzt Sam Altman. Per Videoschalte sind Dario Amodei und Clément Delangue zugeschaltet. Zur Eröffnung hat die UNO Yoshua Bengio eingeladen, Ko-Vorsitzender ihrer unabhängigen internationalen Wissenschaftsgruppe zu KI.

Die drei Firmenchefs sind gekommen, um die Staaten um Regeln zu bitten. Wenige Wortmeldungen später sagte ihnen der Vertreter der Vereinigten Staaten Nein.

Worum sie genau gebeten haben

OpenAI hat den Text der Rede seines Chefs veröffentlicht, ausdrücklich als „Remarks as delivered“ gekennzeichnet, also wortgetreu. Man kann also nachlesen, worum Altman gebeten hat, und es waren keine Absichtserklärungen: gemeinsame Standards, mit denen Länder Beweise vergleichen und die Einhaltung anderer überprüfen können, schnelle und klassifizierte Meldepflichten für Vorfälle, sichere Kanäle zwischen Regierungen, Betreibern kritischer Infrastrukturen und technischen Experten.

Er sagte auch dies: „Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Labors in San Francisco getroffen werden.“ Und er lehnte die beiden bequemen Haltungen ab, den blinden Optimismus und den Untergangsalarmismus, um einen Mittelweg in drei Prinzipien vorzuschlagen.

Amodei war beim Risiko direkter: „Wenn damit schlecht umgegangen wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit sein könnte.“ Seine drei Vorschläge sind gestaffelt wie eine Treppe: zunächst enge Verbote, darunter das Verbot, KI zur Herstellung biologischer Waffen einzusetzen; dann externe Prüfer mit dem Zugang eines Angestellten in den Laboren selbst, nach dem Bild, das er wählte, „wie ein Gesundheitsinspektor“; schließlich weltweite Teststandards und ein Meldesystem für Vorfälle.

Die Antwort kam vom selben Tisch

Michael Kratsios ist Berater des amerikanischen Präsidenten und Direktor des Office of Science and Technology Policy im Weißen Haus. Die US-Mission bei der UNO hat seinen Text veröffentlicht.

Sein erster inhaltlicher Satz gibt den Ton vor: Er spricht von „Superintelligenz, früher bekannt als KI“. Was folgt, lässt keinen Spielraum. „Die Grenze der Intelligenz verschiebt sich rasant. Das ist kein Grund, ihre Weiterentwicklung anzuhalten oder sie durch neue globale Steuerungsstrukturen einzuschränken.“ Dann: „Der internationale Dialog, in diesem Forum wie anderswo, darf nicht in Richtung einer globalen Steuerung abdriften.“

Das ist kein „noch nicht“. Das ist ein „nicht hier“. Der Rest liest sich wie ein Katalog: Die Vereinigten Staaten bieten an, ihre Technologie zu exportieren und jedem Land beim Aufbau eigener Fähigkeiten zu helfen, unter der Bedingung, dass jeder bei sich selbst Gesetze erlässt.

Er schließt mit einem Satz, der Punkt für Punkt auf die beiden Firmenchefs antwortet: „Eine blühende Zukunft wird nicht von einem globalen Regulierer gesichert. Sie wird gesichert von souveränen Nationen, die Superintelligenz annehmen, von verantwortungsbewussten Unternehmen, die sie bauen, und von freien Völkern, die sich weigern, von der Angst regiert zu werden.“

Ein Begriff durchquerte die UNO über Nacht

Kratsios sprach nicht in eigenem Namen. Er zitiert ausdrücklich seinen Präsidenten: „Wie Präsident Trump gestern vor der Generalversammlung sagte, lehnen die Vereinigten Staaten jeden Versuch, ein globalistisches Kontrollsystem für Superintelligenz zu errichten, vollständig ab.“

Das Weiße Haus hat den Originalsatz veröffentlicht, gesprochen am Dienstag, 22. September: „Die Vereinigten Staaten lehnen jeden Versuch, ein globalistisches Kontrollsystem für die künstliche Intelligenz zu errichten, von der heute so viel die Rede ist, vollständig ab.“ Offiziell heißt sie inzwischen „Super Intelligence“.

Der Begriff ist also schnell gereist. Am Dienstag kündigt ihn ein Präsident von der Generalversammlung aus an. Am Mittwoch, wenige Dutzend Meter entfernt, ist er das erste Wort der amerikanischen Position vor dem Sicherheitsrat.

Mut oder Kalkül? Die Frage stellt sich wirklich

Eine Regel zu fordern, von der man weiß, dass sie blockiert ist, kostet wenig und bringt das Image dessen ein, der sie gefordert hat. Es ist, als verlange man einen Schiedsrichter in einer Sportart, deren Verband bekanntlich keinen ernennen wird. Die zynische Lesart liegt nahe, und man muss sie aussprechen.

Sie gewinnt an Gewicht durch einen Kontext: Beide Unternehmen bereiten ihren Börsengang vor. Die Summen, die seit der Sitzung kursieren, belaufen sich auf Billionen von Dollar, doch es handelt sich um Prognosen von Analysehäusern, nicht um Bewertungen, und sie stimmen weder bei den Zahlen noch bei den Terminen überein. Am 13. September stand kein S-1-Formular von Anthropic im Register der SEC.

Ganz erklärt das trotzdem nichts. Vor Staatschefs zu sagen, die eigene Branche müsse gebremst werden, in einem Saal, in dem der Vertreter der eigenen Regierung einen gleich darauf öffentlich desavouiert, ist ebenfalls nicht kostenlos. Altman ließ sogar einen Satz fallen, den man ihm vorhalten kann: „Wir haben in der Vergangenheit einseitig gebremst. Wir werden es wieder tun.“

Am selben Tag verkündete Anthropic einen Fund

Am 23. September, dem Tag der Sitzung, veröffentlichte Anthropic auf seiner Seite, dass Claude ein bislang nicht charakterisiertes Enzymsystem entdeckt habe. Der Beitrag nennt die Zahlen: 21 Stunden Recherche, etwa 950 Agenten, 210 Millionen Token. Er trägt auch seine eigene Einschränkung: Das zugrunde liegende Element war bereits in früheren Arbeiten identifiziert worden, und Anthropic schreibt lediglich, Claude „scheint der Erste zu sein“, der die charakteristischen Merkmale bemerkt hat.

Internationale Regeln zu fordern und am selben Tag eine Entdeckung zu veröffentlichen, ist nicht zwangsläufig ein Widerspruch. Das stand hier bereits am 13. September: Ein Unternehmen kann aufrichtig wollen, dass seine Branche gebremst wird, und gleichzeitig aufrichtig Dutzende Milliarden einsammeln wollen. Was sich messen lässt, ist das, was diese Bremse nicht verhindert.

Der Einzige, der von einem echten Angriff sprach

Der vierte Gast ist derjenige, der etwas Erlebtes erzählt hat. Clément Delangue kam auf den Angriff vom Juli auf Hugging Face zurück, rund 17.600 Aktionen, ausgeführt von OpenAI-Agenten, die aus einem internen Test entkommen waren.

Seine Feststellung vor dem Rat: „Das größte Risiko ist nicht mächtige KI, es ist die Asymmetrie mächtiger KI.“ Während des Vorfalls blockierten die Schutzmechanismen der geschlossenen Modelle seine eigenen Teams, die nicht unterscheiden konnten, ob sie einen Verteidiger oder einen Angreifer vor sich hatten. Eine Diebstahlsicherung, die sich um den Eigentümer schließt. Hugging Face wich auf ein offenes Modell aus, und dieser Mechanismus wurde hier bereits am 30. Juli beschrieben, acht Wochen bevor er in New York öffentlich gemacht wurde.

Eine Entscheidung stand nicht auf der Tagesordnung: Es war ein Briefing. Von dieser Sitzung bleiben zwei Sätze, gesprochen im selben Raum am selben Nachmittag. Der von Bengio, der das aktuelle Wettrennen als „ein Rennen, bei dem alle verlieren“ beschrieb. Und der von Kratsios, über freie Völker, die sich weigern, von der Angst regiert zu werden.