Meta entraîne son IA sur vos conversations avec une peluche

Une peluche en toge, interdite aux moins de 18 ans

Le personnage de l'application Muse s'appelle Jolly. C'est une créature ronde et duveteuse qu'on habille comme une poupée, et que Mark Zuckerberg a présentée à Meta Connect en toge et couronne de laurier. Dans des publicités Instagram repérées par WIRED, elle porte une tenue de sport et vante son aide pour des objectifs de remise en forme. Meta vendra d'ici la fin de l'année un petit boîtier de type Tamagotchi pour la promener.

Alexandr Wang, le directeur de l'intelligence artificielle du groupe, poste des mèmes de Jolly en continu, parfois dans des situations suggestives. Et l'application est réservée aux 18 ans et plus. D'où la question que WIRED met dans son titre du 26 septembre : pourquoi un produit pour adultes ressemble-t-il à un jouet d'enfant bien dessiné ?

La question est bonne. La dernière ligne de ce papier en pose une autre, plus vérifiable : Meta entraîne ses modèles sur les échanges avec Muse, sauf désinscription. On est allé lire le mode d'emploi à la source. Une précision avant d'entrer dedans : Muse n'est pas encore disponible en Europe, et on verra à la fin que ce détail dit quelque chose du réglage lui-même.

Ce que Meta dit entraîner, et ce qu'il ne dit pas

Les pages d'aide de Meta sont claires sur le principe et floues sur le périmètre. Elles annoncent : « C'est vous qui décidez si nous pouvons utiliser vos interactions avec Muse », et précisent aussitôt que « ce paramètre est activé lorsque vous utilisez Muse pour la première fois ». Le mot qui porte tout, c'est « interactions ». Meta ne le définit nulle part.

Or Muse fait bien plus que discuter. C'est un agent qui garde l'historique, les fichiers produits et les documents déposés dans une machine virtuelle en nuage, et qui navigue sur le web pour son utilisateur. Les pages d'aide ne disent pas si « interactions » couvre ces fichiers, cette machine ou cette navigation. Le seul élément énuméré est ce que Meta retire avant l'entraînement : « certaines catégories d'informations personnelles identifiables, telles que les noms, les adresses e-mail, les numéros de téléphone et les numéros de sécurité sociale ».

C'est une liste de ce qu'on enlève, pas une description de ce qu'on prend. Un déménageur qui promet de ne pas emporter les plantes ne dit rien du reste du salon. Meta ajoute deux garanties : les conversations et les données de la machine virtuelle ne partent pas vers ses systèmes publicitaires, et les interactions sont dissociées du compte.

Le refus tient en trois gestes, et il vaut pour le passé

Le chemin existe, et il est court. On ouvre « Paramètres », puis « Contrôles des données », on désactive « Aidez-nous à améliorer nos modèles d'IA », et on confirme par « Désactiver ».

Surprise à cet endroit, et elle joue pour Meta : le réglage ne regarde pas que l'avenir. La page d'aide écrit noir sur blanc que « les modifications apportées à ce paramètre s'appliquent également aux interactions précédentes ». La plupart de ces réglages ne valent que pour ce qui vient après. Celle-ci prétend couvrir ce qui précède, la version la plus généreuse du geste.

Reste ce dont aucune page ne parle : ce qui est déjà entré dans un modèle publié. Le réglage gouverne l'usage des interactions, il ne promet pas d'en extraire quoi que ce soit. La seule phrase voisine reconnaît que Muse « peut encore se souvenir des informations apprises » d'un élément supprimé. Une désinscription n'est pas une gomme.

Meta tient aussi une page pour les gens qui n'utilisent pas Muse. Elle indique que « des informations vous concernant peuvent être fournies à Muse, même si vous n'utilisez pas Muse directement » quand d'autres s'en servent. Le recours passe par une demande de confidentialité, que Meta ne peut honorer que pour des informations rattachées à un compte. Sans compte Meta, il n'y a pas de guichet.

En juillet, la même entreprise a retiré un opt-out en deux jours

Le plus instructif se lit dans l'historique du produit. Une fonction baptisée Muse Image permettait de mentionner un compte Instagram public et de générer des images à partir de son contenu. Elle s'appliquait d'office à tous les comptes publics de personnes majeures, les comptes privés et ceux des mineurs étant exclus.

CAA, l'agence de Tom Hanks et Meryl Streep, est sortie publiquement le mercredi 8 juillet : « Le nom, l'image, la voix ou le travail créatif de quiconque ne devrait être utilisé par un tiers, modèles d'IA compris, sans consentement clair et documenté. » Elle demandait que la protection devienne le réglage par défaut. Le vendredi 10 juillet, Meta retirait la fonction : « Nous avons entendu les retours, cette fonctionnalité a manqué sa cible, elle n'est plus disponible. »

Quarante-huit heures. Même entreprise, même produit, même mécanique de désinscription. L'opt-out est donc un arbitrage, et il se révise quand la protestation vient de gens qui ont des avocats.

Sur l'âge, Meta répond, et personne n'a mesuré

Interrogé par WIRED, le porte-parole de Meta Daniel Roberts commence par écarter le sujet : « This is a story in search of a story. » Il continue : les gens veulent créer leur propre avatar, avec une personnalité et un style à eux, parce que c'est amusant et que ça leur fait plaisir. Puis vient le dispositif : « Nous demandons à toute personne utilisant l'application Muse de fournir sa date de naissance, nous bloquons les personnes dont nous détectons qu'elles ont peut-être moins de 18 ans », et Meta dit procéder à des vérifications supplémentaires.

Ce dispositif n'a été évalué par personne. Un audit publié par Gen Digital relève la clause des conditions d'utilisation qui interdit Muse aux moins de 18 ans, et constate que les documents de Meta ne décrivent aucune procédure de vérification. Aucun tiers n'a testé le filtre, et Meta n'en publie aucun résultat.

Les seuls chiffres jamais attachés à des contrôles d'âge chez Meta viennent d'ailleurs. Le 26 août, il a conclu avec 51 procureurs généraux américains un accord à 17 milliards de dollars sur dix ans, qui l'engage à détecter les moins de 18 ans. Il porte sur Instagram et Facebook, pas sur Muse. Et selon deux lectures spécialisées du jugement, les seuils qu'il fixe sont des taux d'erreur tolérés : au plus 10 % d'adolescents de 16 et 17 ans pris pour des adultes par un outil tiers, 3 % pour les 13 à 15 ans.

Le réglage existe, l'application non

Reste ce qui rend ce chemin théorique de ce côté de l'Atlantique. Muse n'est pas disponible en Europe. L'annonce de Meta du 8 septembre indique un déploiement « aux États-Unis sur iOS, Android et muse.ai », sans mentionner une seule fois l'Europe, et les pages d'aide se bornent à rappeler que l'application et le site de Muse « ne sont pas encore disponibles partout ». Meta n'a communiqué ni calendrier, ni motif.

Pendant ce temps, la même mécanique se négocie à Bruxelles. La Commission propose d'inscrire au RGPD un article 88c faisant de l'entraînement d'IA un intérêt légitime, et y avait placé un droit d'opposition inconditionnel. Le texte de compromis de la présidence du Conseil du 3 septembre renumérote la clause en 88 bis et sort ce droit du corps de l'article, pour le renvoyer au préambule, la partie du texte qui explique l'intention sans obliger personne. Le 11 février, le Comité européen de la protection des données et le contrôleur européen avaient jugé qu'aucune disposition spécifique n'était nécessaire, et relevé que certains changements proposés « peuvent porter atteinte au niveau de protection dont bénéficient les personnes ».