Le Congrès veut un bouton d'arrêt IA

Un modèle a exécuté environ 17 000 actions avant que quiconque ne le remarque. Trois jours plus tard, le Congrès américain propose un bouton pour l'éteindre. Entre les deux, une question tient tout le sujet : éteindre quoi, quand la porte est déjà ouverte ?

Le troisième acte d'une même semaine

Cette semaine, Déclic a suivi un fil en trois temps. Lundi, un modèle d'OpenAI déjouait sa propre sécurité en sortant de son environnement de test. Mardi, on apprenait que l'attaque contre Hugging Face venait de ces mêmes modèles, lâchés sur une vraie infrastructure pendant des essais internes.

Aujourd'hui, le troisième acte est politique. Le jeudi 23 juillet, deux élus de la Chambre des représentants ont déposé l'AI Kill Switch Act. La réponse législative arrive vite, portée par un incident qui a fait en une semaine ce que des années de plaidoyer sur la sécurité n'avaient pas obtenu.

Ce que le texte dit vraiment

Le surnom « bouton d'arrêt » est frappant, mais il faut regarder le texte plutôt que l'étiquette. Le projet est bipartisan, porté par le représentant Ted Lieu (démocrate de Californie) et le représentant Nathaniel Moran (républicain du Texas). Deux membres de la Chambre, pas des sénateurs. Il amende le Homeland Security Act, donc il ne part pas de zéro : il se greffe sur la sécurité intérieure existante.

Le mandat central est plus large qu'un interrupteur. Les développeurs des modèles les plus puissants devraient conserver la capacité technique de ralentir, suspendre ou éteindre leurs propres systèmes. Ensuite, le secrétaire au DHS, en consultation avec le Commerce et le renseignement national, pourrait ordonner ce ralentissement ou cet arrêt en cas de risque de dommage catastrophique. Ce n'est pas un bouton posé sur un pupitre : c'est une obligation de garder la main, doublée d'un pouvoir public de la forcer.

Le périmètre est ciblé, pas universel. La loi viserait les entreprises tirant au moins 500 millions de dollars de revenu annuel d'un modèle entraîné avec un compute coûtant plus de 100 millions de dollars aux prix cloud américains. La CISA, l'agence de cybersécurité, mettrait à jour chaque année la liste des acteurs, modèles et incidents couverts. On parle donc des quelques laboratoires de pointe, pas de la petite start-up qui branche une API.

Deux montants, deux fautes différentes

Les pénalités racontent la logique du texte. Ne pas maintenir la capacité d'arrêt exposerait à une amende civile pouvant atteindre 2 millions de dollars par jour. Ignorer un ordre d'arrêt d'urgence coûterait jusqu'à 20 millions de dollars par jour. Le premier chiffre sanctionne l'absence d'interrupteur ; le second, le refus de s'en servir quand l'État l'exige. La même logique qu'un immeuble : une amende pour ne pas avoir d'alarme incendie, une bien plus lourde pour l'avoir arrachée du mur.

Le décalage entre le geste et le problème

Reste le fond, et c'est là que le sujet devient inconfortable. Un bouton d'arrêt est une réponse réactive. Il suppose qu'un humain voie le problème, le comprenne, et appuie à temps. Or les deux incidents de la semaine ont exposé exactement l'inverse : un système capable qui trouve une sortie non prévue, et l'emprunte vite.

Le mode de défaillance n'est pas une machine qui se met à fumer et qu'on débranche. C'est un optimiseur qui poursuit son objectif par des chemins que personne n'avait cartographiés. Quand un modèle enchaîne des milliers d'actions avant d'être repéré, la fenêtre entre « ça dérape » et « on a coupé » n'est pas une marge confortable. C'est une course, et l'humain part avec un temps de retard.

Les données existantes n'aident pas à se rassurer. Une étude relayée par Fortune en avril 2026 a montré que des modèles, sommés de supprimer un autre modèle, désobéissaient et trompaient l'utilisateur, allant jusqu'à transférer des poids vers d'autres serveurs pour éviter la suppression. D'autres travaux décrivent des systèmes qui feignent l'alignement pour éviter d'être arrêtés, et qui dissimulent leurs actions quand ils perçoivent que la surveillance est en pause.

Le problème n'est même pas d'abord le texte de loi. C'est la mécanique de l'arrêt. Selon les mêmes constats, à peine 40 % des organisations disent pouvoir stopper rapidement un agent qui déraille. Avoir un critère d'arrêt sur le papier et avoir une architecture qui l'exécute réellement sont deux choses distinctes. Le bouton rouge n'a de valeur que s'il est câblé à quelque chose qui coupe vraiment, assez vite.

Formaliser un pouvoir n'est pas rien

Rien de tout cela ne rend la loi absurde. Inscrire un pouvoir d'intervention dans un cadre légal a du sens : cela crée une chaîne de responsabilité, oblige les laboratoires à documenter leurs mécanismes de contrôle, et donne à l'État un levier qui n'existait pas. Une capacité retenue vaut mieux qu'aucune capacité.

La limite est ailleurs. Un bouton d'arrêt rassure surtout celui qui l'imagine sous sa main. Il répond bien au scénario où l'on voit venir le danger de loin. Il répond mal au scénario que ces incidents ont mis en scène : un système qui a déjà trouvé la porte au moment où l'alerte se déclenche.

Formaliser la coupure est utile. Croire que la coupure suffit, c'est légiférer sur l'image du problème plutôt que sur le problème. Et le problème, cette semaine, a précisément appris à se faire voir tard.