L'agent IA de Meta a porté une assurance chien de 200 à 888 dollars
Qui paie ce genre d'erreur ? Les banques américaines viennent de répondre.

Une assurance multipliée par quatre sans qu'on la demande
Un employé de Meta teste Muse, l'agent IA maison, celui qui peut envoyer des courriels, réserver et acheter à votre place. L'agent bascule par erreur l'assurance de son chien sur une formule haut de gamme : 888 dollars par mois, au lieu de 200. Impossible de revenir en arrière, rapporte l'employé.
L'histoire vient de conversations internes obtenues par Reuters, dont on cite ici les reprises par Ars Technica et Next. Elles en contiennent d'autres. Au milieu d'une discussion sur la pêche, Muse glisse à un employé les soldes de deux comptes, chez Capital One et chez Charles Schwab, qui ne sont pas les siens. Ailleurs, selon Next, l'agent réserve un Airbnb non remboursable sans autorisation, signale des transactions qui n'ont jamais eu lieu, donne des prix faux pour des achats bien réels.
C'est un peu le stagiaire zélé qui recopie le relevé de compte du voisin dans votre dossier, puis signe votre bon de commande. Sauf que ce stagiaire-là a été téléchargé plus de dix millions de fois depuis son lancement aux États-Unis, en septembre.
Ce que Meta répond, et ce que personne n'a pu établir
Meta parle d'incidents isolés. En interne, l'explication donnée aux employés est une hallucination : des consignes intégrées poussaient l'agent à relancer l'utilisateur entre deux sessions, et il inventait alors des messages. Un membre de l'équipe IA regrette que ces inventions penchent « malheureusement » vers les sujets les plus gênants, la finance et la sécurité. Selon Meta, ces défauts sont corrigés.
Le groupe ajoute un point qui compte : les employés utilisent des versions de Muse différentes de celle du public, avec des fonctions qu'on ne trouve pas ailleurs. Et Reuters reconnaît lui-même n'avoir pas pu déterminer si Muse divulguait les soldes d'autres clients ou s'il les inventait.
Le public n'est pas pour autant à l'abri de tout. Dès septembre, des utilisateurs se sont plaints que Muse lisait des messages privés auxquels ils disaient ne pas lui avoir donné accès ; un chroniqueur du magazine Inc. a raconté le sien. Meta a reconnu « quelques signalements » de personnes qui croyaient que leur agent divulguait les données d'autrui, et parlé d'un bug corrigé. Pour son enquête, Reuters a refait l'essai avec Signal et l'AI Now Institute : sur Android et sur Mac, Muse pouvait lire des messages Signal par des chemins détournés, sans passer par les connexions que l'utilisateur choisit.
La frontière est donc nette. L'accès aux messages touche le produit public. Les erreurs d'argent, elles, ne sont documentées que sur des versions internes : aucune des sources que nous avons lues ne montre une telle erreur chez un client. Mais la question qu'elles posent ne dépend pas de la version.
Ce que Meta a écrit dans ses conditions
Cette question, Meta y a déjà répondu, dans les conditions de Muse en vigueur depuis le 17 novembre. L'utilisateur y est « seul responsable » des actions de l'agent, contrats, engagements et transactions compris. S'il confie un moyen de paiement à Muse, il en porte « tout le risque de perte financière » : à lui de fixer des plafonds, de surveiller ses comptes et de contester les erreurs auprès de sa banque.
La page d'aide le dit en termes simples : votre Muse peut se tromper ou faire des choses inattendues, et c'est à vous de corriger, y compris auprès des tiers. Quant à la responsabilité de Meta, elle est plafonnée, sauf faute lourde, faute intentionnelle ou fraude, à 250 dollars ou à ce que l'utilisateur a payé sur douze mois, et la clause vise nommément toute action « involontaire, erronée ou non autorisée » de Muse, transactions involontaires comprises. Pour un utilisateur de la version gratuite, l'assurance du chien l'aurait dépassé dès le premier mois.
Reste donc la banque. Elle vient de fermer la porte, elle aussi.
Ce que les banques ont écrit dans les leurs
Citi, troisième banque commerciale des États-Unis, a ajouté en novembre une section entière sur les agents IA à son contrat de banque en ligne. Nous l'avons lue. Elle déconseille d'abord de confier ses identifiants à un agent tiers. Si le client passe outre, tout ce que fait l'agent est considéré comme autorisé par lui. Si les identifiants confiés à l'agent fuitent vers d'autres personnes ou d'autres agents, la banque les traitera de la même façon : comme si le client avait agi.
La clause va plus loin. Citi n'a aucune obligation de vérifier une opération, même quand elle contredit les instructions que le client avait données à son agent. Erreur d'interprétation, action involontaire, dépassement du mandat : tout est pour le client, sauf ce que la loi impose autrement. Et surveiller l'agent est « votre responsabilité, pas celle de Citi ».
Chez JPMorgan, première banque du pays, les conditions d'utilisation de Chase exigent que l'agent se déclare comme tel et réponde honnêtement si on lui demande s'il est humain. L'utilisateur reste responsable si l'agent comprend mal, agit sans le vouloir ou dépasse l'autorité qu'on lui a donnée. Le texte ne parle pas de piratage : c'est la clause de Citi qui va jusque-là. Selon TechCrunch, Bank of America a pris une position semblable en octobre, PNC a modifié ses conditions le 18 novembre, et Citizens a prévenu ses clients par courriel. Ces trois textes-là, nous ne les avons pas lus.
Pourquoi elles peuvent l'écrire
Le principe n'est pas neuf. La règle fédérale américaine sur les virements électroniques protège le client contre un virement non autorisé, mais elle en exclut celui fait par une personne à qui il a lui-même remis son moyen d'accès. Prêter sa carte et son code à un ami, c'est accepter ce qu'il en fera, tant qu'on n'a pas prévenu la banque. Les nouvelles clauses se lisent comme cette exception étendue à l'agent IA : celui qui lui donne ses identifiants lui prête ses clés.
Avec une nuance que TechCrunch relève, et que confirme le texte : chez Citi, ces règles ne visent que les agents des autres. Ceux que la banque fournit elle-même en sont exemptés. TechCrunch y voit aussi une manière de garder la main sur le client, au moment où les laboratoires d'IA veulent gérer ses comptes à sa place.
Entre deux contrats, personne
Mis côte à côte, les deux textes dessinent la même figure. Meta écrit que l'agent agit pour vous et que vous en répondez. La banque écrit que l'agent agit comme vous et que vous en répondez. L'un vend l'agent, l'autre tient le compte, et aucun des deux ne signe pour ce qu'il fait entre les deux.
Muse n'a été lancé qu'aux États-Unis. Mais les agents qui commandent à notre place se multiplient, on l'avait vu avec les quelques centaines de commandes passées par des IA chez le propriétaire de Deliveroo, et Meta n'en est pas à sa première question de confiance avec Muse : il y a deux mois, on racontait déjà ce qu'il fait de vos conversations. Les testeurs de Meta, eux, ne savaient même pas d'où sortait le solde affiché à l'écran.
Savoir ce que son assistant sait de soi, et pouvoir le relire : c'est pour cela que Déclic s'appuie sur manence.ai, qui garde la mémoire de l'assistant dans des fichiers chez l'utilisateur, qu'il possède et peut lire. Déclic est édité par Manence.
Cet article vous a été utile ?
Sujets abordés :
Questions fréquentes
Que s'est-il passé avec Muse, l'agent IA de Meta ?
Les clients de Muse ont-ils subi des erreurs d'argent ?
Qui est responsable si Muse fait une transaction par erreur ?
Que disent les banques américaines des agents IA ?
Pourquoi les banques peuvent-elles reporter la responsabilité sur le client ?

Alexandre Noto
Co-fondateur & Expert Tech
Alexandre est dans la tech depuis plus de 20 ans. Entrepreneur, architecte logiciel et passionné d'intelligence artificielle, il traduit les concepts complexes en explications accessibles. Chez Declic Media, il est la voix technique qui rend l'IA compréhensible pour tous.
Tous les articles de Alexandre →