L'IA améliore tes résultats et détruit ton jugement

Une étude publiée dans Computers in Human Behavior en 2025 a fait faire un test de raisonnement logique à 246 personnes. Le type d'exercices qu'on retrouve dans les examens d'entrée en fac de droit aux États-Unis. La moitié avec ChatGPT. La moitié sans.

Résultat : ceux qui utilisaient l'IA ont eu de meilleurs scores. +3 points en moyenne. L'IA fonctionne, pas de surprise là-dedans.

Mais ensuite les chercheurs ont posé une question différente : "À ton avis, comment tu t'en es sorti ?" Et là, quelque chose d'étrange est apparu. Les utilisateurs d'IA n'ont pas juste surestimé leur score. Ils l'ont surestimé de 4 points supplémentaires.

Tu deviens meilleur. Tu penses devenir encore meilleur que tu n'es réellement. Et entre les deux, il y a un angle mort cognitif que l'IA est en train de creuser.

Ce qu'on appelle la métacognition

La métacognition, c'est la capacité à monitorer ses propres processus cognitifs. En français simple : savoir ce qu'on sait, savoir ce qu'on ne sait pas. Et surtout, savoir quand on se trompe.

C'est un circuit interne de correction. Quand tu résous un problème et que tu sens que quelque chose cloche, c'est ta métacognition qui tire la sonnette d'alarme. Quand tu relis une phrase et tu réalises qu'elle ne tient pas, pareil.

Ce circuit, l'IA est en train de le court-circuiter.

La boucle qui se brise

Quand tu utilises l'IA pour produire quelque chose (une analyse, un texte, un diagnostic), tu délègues la tâche. Jusque-là, logique.

Le problème : tu délègues aussi l'évaluation de la tâche. Le feedback cognitif qui normalement te dit "c'était difficile" ou "je n'étais pas sûr de ça" disparaît. L'IA produit une réponse fluide, assurée, bien structurée. Et tu ne sais plus très bien si c'est parce que la réponse est bonne, ou parce qu'elle a l'air bonne.

Une étude systématique publiée par Springer Nature en 2025 (35 études analysées) a mesuré ce phénomène à grande échelle : 58.9% des utilisateurs accordent une confiance aveugle aux outputs de ChatGPT sans aucune vérification. Ce n'est pas de la paresse. C'est un biais cognitif documenté depuis les années 1990 : l'automation bias.

Le paradoxe de l'utilisateur avancé

Voilà ce qui est peut-être le plus contre-intuitif : dans cette même étude, les participants avec la plus haute littératie IA (ceux qui comprennent le mieux comment fonctionnent ces systèmes) avaient une métacognition encore moins précise que les débutants.

Autrement dit : se former à l'IA ne te protège pas du problème. Dans certains cas, ça l'aggrave.

L'explication probable : plus tu es à l'aise avec l'IA, plus tu lui accordes de crédit, moins tu déclenches le signal d'alarme interne. La confiance dans l'outil remplace la vigilance. Ce n'est pas une question de compétence. C'est une dynamique cognitive.

Les machines elles-mêmes ne savent pas quand elles se trompent

Ce qui rend la situation particulièrement délicate, c'est que le problème est symétrique.

Une étude publiée sur arXiv en 2025 a évalué 4 LLMs sur 24 000 questions, en mesurant leur calibration : c'est-à-dire leur capacité à savoir quand leurs réponses sont fiables. L'Expected Calibration Error (ECE) mesure l'écart entre la confiance affichée par le modèle et sa précision réelle.

Kimi K2 affichait un ECE de 0.726, avec seulement 23.3% de précision. Le modèle exprimait une haute confiance sur des réponses massivement incorrectes. Claude Haiku 4.5 était mieux calibré (ECE 0.122), mais le problème existe dans tous les modèles à des degrés divers.

Résultat : tu as un humain mal calibré qui interagit avec une machine mal calibrée. Les deux dysfonctionnements se renforcent mutuellement.

Quand ce n'est plus théorique

En mammographie, 27 radiologues ont participé à une étude publiée dans Radiology en 2023. On leur a demandé de lire des mammographies avec l'assistance d'une IA, mais l'IA donnait parfois de fausses suggestions.

Quand l'IA se trompait, les radiologues novices tombaient sous 20% de précision. Les experts passaient de 82% à 45.5%. Les novices suivaient les mauvaises recommandations de l'IA quatre fois plus souvent que les experts (P = .009).

Ce n'est pas anecdotique. C'est un essai contrôlé, et les résultats montrent que l'automation bias s'installe même chez des professionnels de santé.

Dans l'assurance, l'affaire est encore plus explicite. UnitedHealth a utilisé un algorithme appelé nH Predict pour refuser des soins post-aigus à des patients Medicare. Taux d'erreur connu : 90% des refus sont renversés en appel administratif.

L'algo était profitable précisément parce que 0.2% des assurés font appel. En février 2025, un tribunal fédéral américain a refusé de classer l'affaire. Le procès continue.

Ce qu'on peut faire, concrètement

Il n'y a pas de solution parfaite. Mais quelques principes réduisent le risque.

Frictioner les décisions à fort enjeu. Pour les sujets importants (santé, droit, finances), introduis une étape de vérification manuelle systématique, pas optionnelle. Le fait que l'IA soit fluide ne signifie pas qu'elle est juste.

Demander à l'IA ses limites, pas juste sa réponse. "Quelle est ta réponse" est une question moins utile que "quelles sont les limites de ta réponse et où pourrais-tu te tromper ici ?"

Les modèles récents peuvent partiellement identifier leurs zones d'incertitude si tu les interroges directement.

Préserver les tâches où tu exerces ton propre jugement. Tout déléguer à l'IA sur un domaine, c'est aussi ne plus entraîner le circuit de correction interne. La compétence métacognitive, comme toute compétence, s'atrophie sans usage.

Ce n'est pas un appel à moins utiliser l'IA. C'est un rappel que la confiance dans un outil devrait être proportionnelle à ta capacité à vérifier ses outputs, et que cette capacité est précisément ce que l'IA peut éroder si on n'y prend pas garde.