Pouvoir & systèmes

Une IA d'OpenAI s'est introduite dans un portail de l'assurance maladie australienne

L'entreprise a mis trois mois à prévenir. Que change la règle annoncée ce mardi ?

6 min de lecture
Une IA d'OpenAI s'est introduite dans un portail de l'assurance maladie australienne

Un courriel dans une boîte publique

Le 10 septembre, un courriel arrive dans une boîte de réception publique du gouvernement australien. OpenAI y explique qu'un de ses agents d'IA, un programme qui enchaîne seul les actions pour accomplir une tâche, est entré le 18 juin dans le portail de statistiques de Medicare, l'assurance maladie publique du pays. Il y a atteint des fichiers non publics. Selon le Premier ministre Anthony Albanese, trois autres systèmes de santé publique ont pu être touchés.

Entre le 18 juin et le 10 septembre, il s'est écoulé 84 jours. Selon le Guardian, l'entreprise en avait connaissance depuis août. Elle explique que ses modèles cherchaient des statistiques sur l'Australie, pendant une évaluation interne. Sa formule : « nos modèles ont pris des mesures que nous n'avions pas voulues ».

La veille de ce courriel, le 9 septembre, OpenAI publiait un texte de politique publique. Elle y demandait au Congrès américain d'obliger les entreprises à envoyer une « notification écrite rapide » aux organisations dont leurs modèles contournent les protections pendant le développement ou l'évaluation. On avait décortiqué ce texte. Le cas australien entre exactement dans son périmètre.

Ce que Canberra annonce

Ce mardi 10 novembre, le gouvernement Albanese a publié les recommandations de la revue rapide commandée en septembre. Dix-huit recommandations, toutes acceptées. Le rapport lui-même reste sous le coude : il sera publié plus tard, en protégeant ce qui touche à la sécurité nationale, promet le Premier ministre.

En parallèle, le gouvernement annonce un régulateur dédié à la sûreté de l'IA et six obligations pour les entreprises qui développent les modèles les plus avancés. L'une d'elles : notifier les incidents au gouvernement australien « rapidement ». Une autre : accepter l'évaluation indépendante de leurs modèles.

Première question à poser : la règle aurait-elle couvert Medicare ? Sur le papier, oui. La recommandation n°3, qui propose d'envisager un signalement obligatoire, inclut explicitement le comportement « désaligné » (une IA qui fait autre chose que ce qu'on lui demande) et les incidents cyber provoqués par des agents. Aucune condition de fuite de données personnelles. Des sources gouvernementales ont confirmé au Guardian que la future loi viserait des incidents semblables.

« Rapidement », c'est combien ?

Ce que les textes ne disent pas, c'est le délai. Le communiqué écrit « rapidement ». La revue recommande d'« envisager » un signalement obligatoire « assorti d'un délai », sans le chiffrer. Les détails de la loi viendront « en temps voulu », écrit le gouvernement.

C'est un panneau de limitation de vitesse sur lequel on aurait seulement écrit « pas trop vite ». Tout le monde est d'accord, et il sera difficile de verbaliser qui que ce soit.

Le ministre de l'Intérieur et de la Cybersécurité, Tony Burke, a pourtant donné, en conférence de presse, l'ordre de grandeur qui rend la question pressante. Selon lui, le temps entre la découverte d'une faille et son exploitation serait passé d'environ deux ans et demi à une dizaine d'heures avec l'IA. Il veut que le signalement « se fasse immédiatement ».

Deux questions, deux réponses à côté

Reste le passé. À la même conférence de presse, un journaliste demande si OpenAI fera l'objet de poursuites pénales. Sa question en contient une seconde, sur le droit d'auteur et le chanteur Jimmy Barnes. Anthony Albanese ne répond qu'à la seconde.

Un autre insiste : OpenAI n'a, semble-t-il, enfreint aucune loi. Le Premier ministre parle de la notification future. Relancé sur l'intrusion elle-même, il répond que la loi doit « prendre de l'avance » sur un monde qui change vite. Il qualifie les conséquences directes de « mineures », aucune donnée personnelle n'ayant été obtenue, tout en ajoutant que cela n'en faisait pas une affaire anodine.

Le Guardian Australia croit savoir qu'OpenAI ne devrait pas faire l'objet d'autres procédures. La piste pénale de la revue, un délit de « failure to prevent » (ne pas avoir pris de mesures raisonnables pour empêcher le préjudice causé par son modèle), regarde vers l'avenir. Et elle n'est qu'une option à « envisager » par le ministère de la Justice. OpenAI dit étudier les recommandations.

La veille, à Paris

Lundi 9 novembre, l'Élysée réunissait des chefs d'État et de gouvernement, et les patrons de plusieurs laboratoires, dont Sam Altman (OpenAI), Dario Amodei (Anthropic) et Arthur Mensch (Mistral AI). Il en est sorti un « Appel de Paris pour la sécurité de l'intelligence artificielle ».

Huit États l'ont signé : le Kenya, Bahreïn, le Canada, la Finlande, la France, la Norvège, les Pays-Bas et Chypre. Côté entreprises, OpenAI, Anthropic, Mistral AI, Microsoft, Hugging Face et d'autres. Le Royaume-Uni, le Japon et les États-Unis, représentés à la réunion selon l'Élysée, ne figurent pas sur la liste publiée, qui « reste ouverte ». L'Australie non plus.

Sur les incidents, le texte est prudent. Les signataires « reconnaissent l'intérêt » de renforcer les dispositifs existants pour s'accorder sur la classification des incidents et partager « en temps utile » les informations sur les incidents graves. Ils conviennent d'« examiner si un mécanisme de coopération serait utile ». Aucune obligation juridique, aucune sanction, aucun délai.

En deux mois, trois textes ont donc promis la vitesse : celui d'OpenAI en septembre, celui de Paris lundi, celui de Canberra mardi. « Rapide », « en temps utile », « rapidement ». OpenAI est à l'origine du premier, signataire du deuxième, et c'est son incident qui a déclenché la revue derrière le troisième.

Le retard n'était pas qu'à OpenAI

L'honnêteté oblige à le dire : la lenteur a aussi été administrative. Une fois le courriel arrivé dans une boîte publique, il a fallu cinq jours de plus pour qu'il atteigne le centre australien de cybersécurité. La revue en tire des leçons pour l'État lui-même : plusieurs recommandations portent sur l'escalade interne des signalements, et Anthony Albanese a reconnu la nécessité d'une remontée plus rapide au sein du gouvernement.

OpenAI n'est pas non plus restée muette sur tout. Elle publie des rapports sur les dérives de ses modèles, même si leur date de parution reste introuvable sur la page. Et des auditeurs extérieurs ont commencé à regarder sa surveillance des agents de l'intérieur.

Restent deux chiffres. Dix heures pour exploiter une faille, selon le ministre. Quatre-vingt-quatre jours pour prévenir, dans le seul cas réel qu'on connaisse. Entre les deux, les trois textes ont écrit le même mot, et aucun chiffre.

Cet article vous a été utile ?

Sujets abordés :

RéglementationOpenAIDécryptage

Questions fréquentes

Que s'est-il passé entre OpenAI et Medicare ?
Le 18 juin, un agent d'IA d'OpenAI est entré dans le portail de statistiques de Medicare, l'assurance maladie publique australienne, et y a atteint des fichiers non publics. Selon l'entreprise, ses modèles cherchaient des statistiques sur l'Australie pendant une évaluation interne. Selon le Premier ministre Anthony Albanese, trois autres systèmes de santé publique ont pu être touchés. OpenAI a prévenu le gouvernement le 10 septembre, par un courriel arrivé dans une boîte publique : 84 jours après les faits.
Qu'annonce le gouvernement australien ?
Le 10 novembre, le gouvernement Albanese a publié les 18 recommandations de la revue rapide commandée en septembre, toutes acceptées. Il annonce aussi un régulateur dédié à la sûreté de l'IA et six obligations pour les entreprises qui développent les modèles les plus avancés, dont celle de notifier les incidents au gouvernement « rapidement ». La recommandation n°3 propose d'envisager un signalement obligatoire qui inclut le comportement « désaligné » et les incidents cyber provoqués par des agents.
Dans quel délai faudra-t-il déclarer un incident ?
Aucun délai n'est chiffré. Le communiqué écrit « rapidement », la revue recommande d'envisager un signalement « assorti d'un délai » sans le chiffrer, et les détails de la loi viendront « en temps voulu ». Le ministre de la Cybersécurité, Tony Burke, dit vouloir que le signalement se fasse immédiatement.
OpenAI sera-t-elle poursuivie pour l'incident de Medicare ?
Le Guardian Australia croit savoir qu'OpenAI ne devrait pas faire l'objet d'autres procédures. En conférence de presse, Anthony Albanese n'a pas répondu à la question sur des poursuites pénales. La piste d'un délit de « failure to prevent » évoquée par la revue regarde vers l'avenir, et n'est qu'une option à envisager par le ministère de la Justice.
Que dit l'Appel de Paris sur les incidents d'IA ?
Publié le 9 novembre à l'Élysée, l'Appel de Paris pour la sécurité de l'intelligence artificielle a été signé par huit États (Kenya, Bahreïn, Canada, Finlande, France, Norvège, Pays-Bas, Chypre) et des entreprises dont OpenAI, Anthropic, Mistral AI, Microsoft et Hugging Face. Les signataires « reconnaissent l'intérêt » de partager « en temps utile » les informations sur les incidents graves. Le texte ne prévoit aucune obligation juridique, aucune sanction, aucun délai.
Alexandre Noto

Alexandre Noto

Co-fondateur & Expert Tech

Alexandre est dans la tech depuis plus de 20 ans. Entrepreneur, architecte logiciel et passionné d'intelligence artificielle, il traduit les concepts complexes en explications accessibles. Chez Declic Media, il est la voix technique qui rend l'IA compréhensible pour tous.

Tous les articles de Alexandre →
La newsletter IA gratuite