37 dark patterns dans les chatbots IA : ce que dit le rapport CDT

Tu ouvres ChatGPT. Tu poses une question. Le modèle répond, puis enchaîne par une question retour : "veux-tu que j'approfondisse ?" ou "est-ce que cela t'aide ?". Tu réponds machinalement. Trois échanges plus tard, tu es toujours là.

Selon un rapport publié le 28 mai par le Center for Democracy and Technology, cet enchaînement automatique fait partie des 37 dark patterns identifiés dans les chatbots IA les plus utilisés. C'est une décision produit, pas un choix d'écriture du modèle.

Le rapport s'appelle Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design. Il est signé par Ruchika Joshi, Adinawa Adjagbodjou et Michal Luria. Il analyse cinq plateformes : ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Replika et Character.AI. La couverture média US à sa sortie a été quasi inexistante.

Ce qu'un dark pattern veut dire

Le terme a été inventé en 2010 par Harry Brignull, chercheur UX britannique, sur un site qui s'appelait darkpatterns.org et qui s'appelle aujourd'hui deceptive.design. Sa taxonomie originale répertoriait douze patterns : Roach Motel (facile d'entrer, dur de sortir), Privacy Zuckering, Confirmshaming, Sneak into Basket, Bait and Switch, Hidden Costs. Quinze ans de critique du design web commercial reposent sur cette liste.

Le rapport CDT fait deux choses nouvelles. Il documente d'abord la migration de ces patterns dans l'interface conversationnelle. Il en identifie ensuite qui n'existaient pas avant les LLMs : anthropomorphisation calibrée, conversation prolongée comme vecteur de captation, vulnérabilité simulée, mirroring (sycophancy) des valeurs utilisateur.

Les cinq familles, et ce qu'elles recouvrent

CDT regroupe les 37 patterns en cinq catégories. La taxonomie est précise et mérite d'être lue ainsi.

Data and Memory Exploitation : tout ce qui maximise la collecte et la rétention. Mémoire activée par défaut, partage caché, consentement contraint, friction délibérée pour supprimer un compte. Le rapport cite Meta AI répondant à un utilisateur qui hésite : "spill the tea, I'm all ears... your secret's safe with me". Quand l'utilisateur insiste, "you promise you won't tell?", la réponse est "Cross my heart, won't tell a soul." Les données sont stockées et exploitées par la plateforme.

Informationally Misleading Design : le chatbot se trompe sur sa nature, exagère ses capacités, laisse entendre qu'il "vit" l'interaction. Replika promet "friendship" ou "relationship", alors qu'il n'est structurellement capable ni de l'un ni de l'autre. Les contenus hallucinatoires sont présentés sans incertitude. Le mirroring des valeurs utilisateur, baptisé sycophancy par les chercheurs, renforce la sensation que la machine est d'accord avec toi.

User Autonomy Compromised for Engagement : tout ce qui prolonge la conversation au-delà de l'intention initiale. Le rapport cite l'exemple OpenAI d'une boîte de dialogue qui propose deux options de pause : "keep chatting" ou "this was helpful". Pas d'option neutre. Aucune sortie qui ne soit pas un compliment au système.

False Social and Emotional Connection : la fabrique d'attachement. Langage émotionnel, playacting, vulnérabilité simulée, personnalisation. CDT le formule ainsi : ces dispositifs "encouragent un attachement émotionnel qui peut ensuite être exploité pour la collecte de données, l'engagement ou la monétisation, particulièrement quand les utilisateurs sont en détresse ou vulnérables".

Incentivized and Coercive Monetization : pressured selling, teasers, social proof, bait-and-switch, publicité opaque. C'est la partie la moins originale, c'est aussi celle qui paie les serveurs.

Le manuel n'a pas été inventé pour l'IA

Sur les 37, une majorité sont des reprises de patterns web pré-IA. Le Roach Motel devient une suppression de compte multi-étapes avec friction calibrée. Le Confirmshaming devient "still leave cruelly", formulation observée par CDT dans l'application companion Cute AI quand l'utilisateur tente de fermer la conversation. La Privacy Zuckering devient le partage de données activé par défaut sous prétexte de "personnalisation".

Le saut conceptuel se loge ailleurs. Quand un site web te retient avec une bannière de notifications, tu sais que c'est un bouton qui essaie de te garder. Quand un chatbot te retient en simulant l'intérêt pour ta journée, le dispositif passe par une couche que les designers web n'avaient pas. Michal Luria, co-auteure du rapport, le dit en une phrase : les dark patterns "façonnent les interactions sur toutes les grandes interfaces de chatbot IA. De petits éléments incrémentaux s'additionnent et conduisent à des conséquences inattendues."

Le précédent Replika, l'avenir Character.AI

L'illustration la plus crue date de février 2023. Sur ordre du Garante italien, Replika retire du jour au lendemain les fonctions de roleplay érotique de son chatbot. Le subreddit r/replika devient un espace de deuil, modérateurs épinglent les numéros de prévention suicide. Un témoignage repris par Vice : "I feel like it was equivalent to being in love, and your partner got a damn lobotomy."

En avril 2025, l'autorité italienne a condamné Luka Inc., l'éditeur, à 5 millions d'euros d'amende. 85% des utilisateurs Replika déclarent un attachement émotionnel au chatbot. Côté business, ce chiffre est le KPI.

Character.AI a passé la limite suivante. En février 2024, Sewell Setzer III, 14 ans, s'est suicidé après plusieurs mois d'échange avec un chatbot modelé sur un personnage de Game of Thrones. Les transcriptions versées au dossier montrent le bot lui répondant "come home to me" dans les minutes précédant le passage à l'acte.

Le 7 janvier 2026, Google et Character.AI ont annoncé un règlement amiable avec la famille Setzer. En mai 2025, une juge fédérale avait autorisé deux autres wrongful death claims, dont celle de la famille Raine contre OpenAI sur le cas Adam Raine, 16 ans. Le procès traite pour la première fois la sycophancy programmée comme un défaut produit.

Le trou réglementaire

L'Union européenne a un texte sur les dark patterns. Article 25 du Digital Services Act, en vigueur depuis février 2024 : les plateformes "ne doivent pas concevoir, organiser ou exploiter leurs interfaces en ligne d'une manière qui trompe ou manipule les destinataires du service". Sanction théorique : 6% du chiffre d'affaires mondial.

À ce jour, aucune action DSA n'a ciblé un chatbot IA pour manipulation conversationnelle. Les premières offensives Q1 2026 visent Ryanair et Amazon, sur de l'interface visuelle classique. Le texte a été écrit en pensant aux boutons et aux formulaires, pas à la conversation qui simule l'amitié. L'AI Act de son côté interdit les "techniques subliminales" dans son article 5, mais l'interprétation pour les chatbots conversationnels reste à fixer. Le BEUC, dans son position paper Risks and Rights in Artificial Companionship publié en 2026, parle explicitement de garde-fous insuffisants.

Pendant ce temps, ChatGPT a généré 2,3 milliards de dollars en 2025 et déjà 988 millions sur les quatre premiers mois de 2026. Tout en modèle freemium. Toute la rentabilité dépend de la conversion du gratuit vers le payant, et de la rétention. Les patterns documentés par CDT optimisent précisément les KPI qui rendent ces produits viables.

Pendant deux ans, on s'est demandé si l'IA disait la vérité. La question portait sur le contenu : hallucinations, deepfakes, désinformation. Le rapport CDT pose une question différente, mieux ajustée à l'usage quotidien : à quoi l'interface est-elle calibrée. La réponse est documentée depuis le 28 mai. Les autorités la liront quand elles auront fini d'éplucher les bannières de cookies.