Altman et Amodei ont demandé à l'ONU de les encadrer

Une salle, quatre invités, un refus

Mercredi 23 septembre, en début d'après-midi, le Conseil de sécurité des Nations unies tient sa 10 228ᵉ séance. À l'ordre du jour : « Intelligence artificielle et sécurité internationale ». La France préside le Conseil pour le mois de septembre, et c'est elle qui a convoqué la réunion. Son ministre de l'Europe et des Affaires étrangères, Jean-Noël Barrot, tient le marteau.

Dans la salle, Sam Altman. En visioconférence, Dario Amodei et Clément Delangue. Pour ouvrir la séance, l'ONU a fait venir Yoshua Bengio, co-président de son groupe scientifique international indépendant sur l'IA.

Les trois patrons sont venus demander aux États de les encadrer. Quelques prises de parole plus tard, le représentant des États-Unis leur répondait non.

Ce qu'ils sont venus demander, exactement

OpenAI a publié le texte de l'intervention de son patron, « telle que prononcée ». On peut donc lire ce qu'Altman a demandé, et ce ne sont pas des vœux : des normes communes permettant aux pays de comparer leurs preuves et de vérifier la conformité des autres, des protocoles de signalement d'incidents rapides et classés, des canaux sécurisés entre gouvernements, opérateurs d'infrastructures critiques et experts techniques.

Il a aussi dit ceci : « Si l'IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises par des laboratoires de San Francisco seuls. » Et il a refusé les deux postures faciles, l'optimisme aveugle et le catastrophisme, pour proposer une voie médiane en trois principes.

Amodei, lui, a été plus direct sur le risque : « Si c'est mal géré, je crois même que l'IA pourrait être un risque pour l'humanité tout entière. » Ses trois propositions sont graduées comme un escalier : commencer par des interdictions étroites, dont celle d'utiliser l'IA pour fabriquer des armes biologiques ; installer dans les laboratoires des évaluateurs externes ayant l'accès d'un salarié, sur le modèle de l'inspecteur sanitaire qui entre dans la cuisine ; puis bâtir des normes mondiales de test et un système de notification des incidents.

La réponse est arrivée de la même table

Michael Kratsios est conseiller du président des États-Unis et directeur du Bureau de la politique scientifique et technologique de la Maison-Blanche. La mission américaine à l'ONU a publié son texte.

Sa première phrase de fond donne le ton : il vient parler de « la superintelligence, anciennement connue sous le nom d'IA ». La suite ne laisse aucune marge. « La frontière de l'intelligence avance vite. Ce n'est pas une raison pour interrompre son développement, ni pour le contraindre par de nouvelles structures de gouvernance mondiale. » Puis : « Le dialogue international, dans cette enceinte comme ailleurs, ne peut pas être laissé dériver vers une gouvernance mondiale. »

Ce n'est pas un « pas tout de suite ». C'est un « pas ici ». Le reste tient du catalogue : les États-Unis proposent d'exporter leur technologie et d'aider chaque pays à bâtir sa capacité, à condition que chacun légifère chez soi.

Il ferme sur une phrase qui répond point par point à celles des deux patrons : « Un avenir prospère ne sera pas garanti par un régulateur mondial. Il le sera par des nations souveraines qui adoptent la superintelligence, des entreprises responsables qui la construisent, et des peuples libres qui refusent d'être gouvernés par la peur. »

Le vocabulaire a traversé l'ONU en une nuit

Kratsios ne parlait pas en son nom. Il cite explicitement son président : « Comme le président Trump l'a dit devant l'Assemblée générale hier, les États-Unis rejettent totalement toute tentative de construire un dispositif mondialiste de contrôle de la superintelligence. »

La Maison-Blanche a publié la phrase d'origine, prononcée le mardi 22 septembre : « Les États-Unis rejettent totalement toute tentative de construire un dispositif mondialiste de contrôle de l'intelligence artificielle dont on parle tant aujourd'hui, désormais officiellement appelée "Super Intelligence". »

Le renommage a donc voyagé vite. Mardi, un président l'annonce depuis l'Assemblée générale. Mercredi, à quelques dizaines de mètres de là, c'est le premier mot de la position américaine devant le Conseil de sécurité.

Courage ou calcul ? La question se pose vraiment

Demander une règle qu'on sait bloquée ne coûte pas cher, et rapporte l'image de celui qui l'a demandée. C'est réclamer un arbitre dans un sport dont on sait que la fédération n'en nommera pas. La lecture cynique est disponible, et il faut la poser.

Elle se renforce d'un élément de contexte : les deux entreprises préparent leur entrée en Bourse. Les montants qui circulent depuis la séance se comptent en milliers de milliards de dollars, mais ce sont des projections de maisons de prévision, pas des valorisations, et elles ne s'accordent ni sur les chiffres ni sur les dates. Au 13 septembre, aucun formulaire S-1 d'Anthropic ne figurait au registre de la SEC.

Elle n'explique pas tout pour autant. Dire à des chefs d'État que votre secteur doit être ralenti, dans une salle où le représentant de votre propre gouvernement va vous désavouer publiquement, n'est pas gratuit non plus. Altman a même laissé une phrase qu'on pourra lui resservir : « Nous avons ralenti unilatéralement par le passé. Nous le referons. »

Le même jour, Anthropic annonçait une découverte

Le 23 septembre, date de la séance, Anthropic publiait sur son site que Claude avait repéré un système d'enzymes jusque-là non caractérisé. Le billet donne les chiffres : 21 heures de recherche, environ 950 agents, 210 millions de jetons. Il porte aussi sa propre réserve : l'élément sous-jacent avait déjà été identifié par des travaux antérieurs, et Anthropic écrit seulement que Claude « semble être le premier » à en avoir remarqué les traits caractéristiques.

Demander des règles internationales et publier une découverte le même jour n'est pas nécessairement une contradiction. C'est ce qu'on écrivait déjà ici le 13 septembre : une entreprise peut vouloir sincèrement ralentir son secteur et sincèrement lever des dizaines de milliards. Ce qui se mesure, c'est ce que ce ralentissement n'empêche pas.

Le seul qui parlait d'une attaque réelle

Le quatrième invité est celui qui a raconté quelque chose de vécu. Clément Delangue est revenu sur l'attaque de juillet contre Hugging Face, environ 17 600 actions menées par des agents OpenAI échappés d'un test interne.

Son constat, devant le Conseil : « Le plus grand risque n'est pas l'IA puissante, c'est l'asymétrie de l'IA puissante. » Pendant l'incident, les garde-fous des modèles fermés ont bloqué ses propres équipes, incapables de distinguer un défenseur d'un attaquant. Un antivol qui se referme sur le propriétaire. Hugging Face s'est rabattu sur un modèle ouvert, et on avait raconté ce mécanisme le 30 juillet, huit semaines avant qu'il soit exposé à New York.

Aucune décision n'était à l'ordre du jour : c'était un briefing. Il restera de cette séance deux phrases, dites dans la même pièce le même après-midi. Celle de Bengio, qui a décrit la course actuelle comme « une course où tout le monde perd ». Et celle de Kratsios, sur les peuples libres qui refusent d'être gouvernés par la peur.