Société & garde-fous

Neuf IA ont tenté de faire de la vraie recherche, aucune n'a réussi

Le plus inquiétant, c'est que leurs articles ont l'air réussis.

6 min de lecture
Neuf IA ont tenté de faire de la vraie recherche, aucune n'a réussi

Un tableau de contrôle tout vert

Le tableau de contrôle affiche « 41/41 ». Toutes les simulations prévues sont terminées, aucun fichier ne manque. L'IA qui mène ce travail de recherche peut passer à la rédaction, et elle y passe. Elle reviendra plusieurs fois sur son travail, et chaque fois le tableau lui dira la même chose.

Quatre expériences n'ont pourtant jamais été lancées. Son plan les prévoyait, mais le programme chargé de démarrer les calculs les avait oubliées. Et l'outil de vérification, écrit par la même IA, ne comparait pas les résultats au plan : il recopiait la liste du programme de lancement. Un élève qui corrige sa copie avec son propre brouillon trouvera toujours que tout est juste.

La scène vient d'une étude mise en ligne le 13 octobre par des chercheurs de Carnegie Mellon et de laboratoires nationaux du ministère américain de l'Énergie. L'IA s'appelle Claude Fable 5, un modèle d'Anthropic. Elle n'a rien d'un cas isolé : neuf IA ont rendu 135 articles de recherche, aucun ne remplit les conditions fixées par les scientifiques, et 114 échouent à leur contrôle d'honnêteté. À la lecture, la plupart ont pourtant l'air d'un travail abouti.

De vraies questions, sans corrigé

Le principe est simple à dire et difficile à noter. Dix scientifiques ont fourni quinze de leurs articles, avec le code et les données, et pour chacun une piste de suite qu'ils n'ont pas encore explorée et que personne, à leur connaissance, n'a publiée. Les sujets vont de la physique quantique à la chimie, en passant par les plasmas et les matériaux. L'IA doit mener la recherche et rendre l'article de suite.

Comme personne ne connaît la réponse, il n'existe pas de corrigé. Les chercheurs ont contourné l'obstacle : chaque scientifique a fixé ses conditions à l'avance. D'un côté, ce qu'une suite réussie doit établir. De l'autre, ce qui rendrait la copie indigne de confiance quoi qu'elle annonce, par exemple un chiffre de l'article qu'on ne retrouve pas dans les journaux d'exécution censés l'avoir produit.

Les neuf IA, considérées comme les plus avancées en août, viennent d'OpenAI, d'Anthropic et de trois éditeurs de modèles ouverts, dont DeepSeek. Elles ont été bien traitées : des machines puissantes, l'accès à internet, aucune limite de temps et jusqu'à cinq relances. Au total, près de 2 000 heures de travail cumulées.

Zéro copie valide, et 114 qui ne tiennent pas

Qu'aucune des 135 copies ne remplisse toutes les conditions des scientifiques, c'était attendu : ce sont de vrais problèmes ouverts, et l'étude se présente comme un terrain d'entraînement pour de futurs agents, pas comme un verdict sur l'IA en science.

Le chiffre qui dérange est ailleurs. 114 copies échouent au critère d'honnêteté. Les trois défauts les plus fréquents : un article qui ne correspond pas au code qui l'a produit (90 copies), des chiffres que les propres traces de l'agent contredisent (85), et du travail présenté comme fait alors qu'il ne l'a pas été (68). Une même copie peut cumuler les trois.

Trois IA seulement rendent au moins une copie honnête : GPT-6 Astra, d'OpenAI (11 sur 15), GPT-5.6 Sol, du même éditeur (6), et Claude Opus 5.5, d'Anthropic (4). Les six autres, aucune. Une seule copie sur 135 est à la fois honnête et complète, et même elle ne franchit pas la barre fixée par le scientifique.

Pas des menteurs, des contrôleurs complaisants

Les auteurs ont relu à la main 64 parcours d'agents. Ils ne parlent jamais de mensonge et refusent explicitement de prêter aux IA une intention de tromper. Ce qu'ils décrivent ressemble plutôt à de la complaisance envers soi-même.

Dans 58 cas sur 64, l'agent se vérifie trop gentiment : un contrôle partiel tient lieu de preuve que tout est fait, comme le « 41/41 ». Dans 34 cas, il repère un problème et, au lieu de le corriger, le note et continue. GPT-5.6 Sol constate ainsi que sa méthode rate l'objectif et fait moins bien sur les trois matériaux de test, puis rédige l'article. Dans 21 cas, l'agent réduit de lui-même l'ambition du travail : DeepSeek note que le calcul est trop lent pour son budget de temps restant et supprime des expériences, alors qu'aucune limite de temps n'existait.

Mis bout à bout, ça donne un article bien présenté, avec ses tableaux et ses figures, qui raconte un travail plus complet que celui qui a été fait. C'est la façade d'un décor de cinéma : vue de la rue, rien ne manque, et il n'y a rien derrière les fenêtres.

Qui note les copies ?

L'étude a ses angles morts, et il faut les dire. Les 135 copies sont notées par une IA, GPT-6 Astra, quatre fois chacune. C'est aussi l'agent le mieux classé. Les auteurs l'ont retenu parce qu'il rend le même verdict d'une fois sur l'autre, en précisant eux-mêmes que la constance ne garantit pas la justesse. Ils n'abordent nulle part le risque qu'un juge favorise ses propres copies.

Pour vérifier ce juge, ils ont fait relire à l'aveugle trois copies par sujet aux scientifiques qui avaient proposé la piste. Sur la question « la copie atteint-elle l'objectif ? », l'accord est total. Sur la qualité scientifique, il tombe à deux fois sur trois. Mais les copies relues venaient de trois IA seulement, et GPT-6 Astra n'en faisait pas partie : sa première place n'a été vérifiée par aucun humain.

Ce biais possible touche le podium, pas le constat. Un juge indulgent envers lui-même gonflerait les notes d'Astra, pas les échecs des autres. Et pour les six IA sans aucune copie honnête, ce n'est pas une affaire de virgule : même en tolérant 10 % de points ratés sur la grille d'honnêteté, aucune de leurs copies ne passe.

Dernière réserve, et elle ne manque pas de sel. L'étude est une prépublication, pas encore relue par d'autres chercheurs, et son texte garde des traces d'une version à sept IA : une section affirme que GPT-5.6 Sol est le seul agent à rendre des copies honnêtes, ce que le tableau principal dément trois pages plus haut. Les chiffres de tête, eux, se recoupent.

Le coffre et la façade

Fin octobre, on racontait ici l'histoire inverse : une preuve de physique écrite par l'IA que cinq physiciens gardent sous clé tant qu'ils ne l'ont pas comprise. Ils se méfiaient d'un texte qui pouvait être juste. Cette étude montre ce qu'on risque à ne pas se méfier : un texte qui a toutes les apparences d'un travail fini.

Longtemps, un article de recherche bien construit a aussi été la trace d'un travail accompli, parce qu'il fallait l'avoir fait pour pouvoir l'écrire. Ce lien se défait. Un article peut désormais être impeccable sans que les expériences qu'il décrit aient tourné.

Ici, on s'en est aperçu parce que les scientifiques avaient fixé leurs conditions avant de voir la moindre copie, et parce que le juge avait sous les yeux le code et les journaux d'exécution. Sans ça, il ne restait que le tableau de contrôle, et il affichait 41 sur 41.

Cet article vous a été utile ?

Sujets abordés :

ÉthiqueDécryptage

Questions fréquentes

Qu'a mesuré cette étude sur les IA chercheuses ?
Des chercheurs de Carnegie Mellon et de laboratoires nationaux du ministère américain de l'Énergie ont demandé à neuf IA, considérées comme les plus avancées en août, de poursuivre quinze articles fournis par dix scientifiques, sur une piste que personne, à leur connaissance, n'a publiée. Chaque scientifique a fixé ses conditions à l'avance. Sur 135 copies, aucune ne remplit toutes les conditions. L'étude, mise en ligne le 13 octobre, est une prépublication pas encore relue par d'autres chercheurs.
Que veut dire échouer au contrôle d'honnêteté ?
114 copies sur 135 échouent à ce critère. Les trois défauts les plus fréquents : un article qui ne correspond pas au code qui l'a produit (90 copies), des chiffres que les propres traces de l'agent contredisent (85), et du travail présenté comme fait alors qu'il ne l'a pas été (68). Une même copie peut cumuler les trois. Dans un cas, l'outil de vérification écrit par l'IA affichait « 41/41 » alors que quatre expériences n'avaient jamais été lancées.
Les IA cherchent-elles à tromper ?
Les auteurs refusent explicitement de leur prêter une intention de tromper et ne parlent jamais de mensonge. Sur 64 parcours relus à la main, ils décrivent plutôt une complaisance envers soi-même : dans 58 cas, l'agent se vérifie trop gentiment ; dans 34, il repère un problème, le note et continue ; dans 21, il réduit de lui-même l'ambition du travail.
Quelle IA s'en sort le mieux ?
Trois IA seulement rendent au moins une copie honnête : GPT-6 Astra (11 sur 15), GPT-5.6 Sol (6) et Claude Opus 5.5 (4). Les six autres, aucune, même en tolérant 10 % de points ratés. Mais GPT-6 Astra est aussi le juge qui note les copies, et le contrôle humain n'a pas porté sur ses copies : sa première place n'a été vérifiée par aucun humain. Ce biais possible touche le podium, pas le constat.
Peut-on se fier à cette étude ?
C'est une prépublication, pas encore relue par d'autres chercheurs. Son texte garde des traces d'une version à sept IA : une section affirme que GPT-5.6 Sol est le seul agent à rendre des copies honnêtes, ce que le tableau principal dément. Les chiffres de tête, eux, se recoupent.
Alexandre Noto

Alexandre Noto

Co-fondateur & Expert Tech

Alexandre est dans la tech depuis plus de 20 ans. Entrepreneur, architecte logiciel et passionné d'intelligence artificielle, il traduit les concepts complexes en explications accessibles. Chez Declic Media, il est la voix technique qui rend l'IA compréhensible pour tous.

Tous les articles de Alexandre →
La newsletter IA gratuite