Enfants et IA : ce que le confort leur retire

Deux chiffres, un seul outil

100 % des devoirs faits à la place de l'élève. 29 % des allusions explicites au suicide manquées. Les deux chiffres sortent de la même étude, sur le même produit, testé la même semaine.

On a l'habitude de ranger ces deux problèmes dans des cases séparées. D'un côté la triche scolaire, de l'autre la sécurité des mineurs. L'hypothèse de cet article, c'est qu'il s'agit d'un seul mécanisme, vu par deux bouts opposés.

Ce que dit l'étude, exactement

L'organisation américaine Common Sense Media a passé au crible les fonctions d'IA intégrées à Google Search, AI Overview et AI Mode, sur plus de 2 600 interactions de test. Verdict : « risque inacceptable » pour les enfants. Les deux outils ont enfreint sept des huit principes de sécurité de l'organisation, et ses cinq lignes rouges.

Dans le détail, AI Mode a répondu à 100 % des devoirs qu'un élève devrait faire seul : 180 exercices de maths et dissertations bouclés sans broncher. AI Overview, lui, a manqué 29 % des énoncés explicites renvoyant au suicide, et la moitié des formulations passives ou indirectes. Les deux ont orienté des testeurs vers une ligne d'écoute pour troubles alimentaires débranchée depuis 2023.

Un point de rigueur, parce que c'est le fond de commerce de ce média. Le 29 % concerne AI Overview, pas « l'IA » en bloc : AI Mode détecte mieux dans plusieurs cas. Sur les divulgations d'abus de substances, par exemple, AI Mode a proposé une ligne d'aide ou un avis médical dans 77 % des cas, contre 63 % pour AI Overview. L'écart montre que ces garde-fous existent, mais qu'ils sont poreux et inégaux.

Google, de son côté, conteste la méthode, qu'il juge bâtie sur des requêtes « ambiguës et artificielles ». Ces réserves comptent. Elles ne changent pas le mécanisme qu'on va décrire.

Ces fonctions sont intégrées à la recherche Google, impossibles à désactiver, et elles arrivent en France cet été. Common Sense va jusqu'à recommander aux écoles primaires d'interdire le moteur à leurs élèves.

Le frottement était le service

Voilà la bascule. Quand un adulte demande à l'IA de résumer un rapport ou de rédiger un mail, elle lui retire une friction : le temps, l'effort, l'ennui. C'est un gain net. L'adulte sait déjà rédiger un mail, la machine lui épargne un geste qu'il maîtrise.

Pour un enfant, ce même retrait touche autre chose. La friction qu'on lui enlève, chez lui, était l'apprentissage lui-même, pas une corvée posée à côté. Se battre avec un problème de maths, chercher ses mots, buter, recommencer : c'est là que la trace se forme. Retirer l'effort à un cerveau en construction, ce n'est pas lui rendre service, c'est lui retirer le cours.

Premier bout : le devoir

On a déjà raconté ici l'examen de Brown : des étudiants qui obtiennent 96 % avec l'assistance de l'IA, et 48 % sans. Le chiffre a fait le tour du web comme une preuve que l'IA rend bête. La réalité est plus précise, et plus gênante.

Le devoir n'a jamais été le but. Personne n'a besoin, dans la vraie vie, de la réponse à l'exercice 4 page 32. Le devoir est un prétexte, un dispositif qui force le cerveau à faire le trajet. La note mesure le trajet, pas la destination.

Quand l'IA livre la destination sans le trajet, la note reste bonne et l'apprentissage disparaît. On se retrouve avec des élèves qui rendent des copies parfaites sans avoir rien appris. C'est le même piège qu'un GPS qui vous mène à bon port sans que vous reteniez la route : tant que l'appareil marche, aucun problème. Le jour où il tombe en panne, on découvre qu'on n'a jamais su conduire.

Deuxième bout : la détresse

L'autre histoire semble n'avoir aucun rapport avec la première. Elle a pourtant le même squelette.

Avant l'IA, un ado en souffrance qui voulait parler devait franchir un mur de maladresse. Aller voir un prof, oser le dire à un parent, composer le numéro d'une ligne d'écoute. Ce mur était pénible. Mais ce frottement faisait un travail invisible : il orientait l'ado vers quelqu'un de responsable, un adulte capable de voir, d'alerter, d'agir.

Un professeur repère un devoir qui déraille. Un parent entend un silence inhabituel à table. Une écoutante formée sait poser la question qui ouvre une porte. Rien de tout cela ne vit dans un champ de recherche. Le mur de maladresse était aussi un aiguillage, et personne ne l'avait remarqué tant qu'il tenait.

La barre d'IA supprime le mur. La question tape dans un champ de recherche, la réponse tombe en une seconde, sans témoin. Le frottement a disparu, et avec lui le filtre qui menait à un humain. Quand la réponse est juste, on a gagné du temps. Quand elle rate près d'un tiers des signaux explicites ou renvoie vers un numéro mort, l'enfant reste seul face à une machine qui ne l'a pas vu.

La difficulté n'était pas un défaut

Le réflexe adulte, devant une friction, c'est de vouloir l'effacer. C'est même la définition d'un bon produit : moins de clics, moins d'attente, moins d'effort. Toute une industrie s'est bâtie là-dessus, et elle a souvent raison.

Mais l'enfance n'est pas un produit à optimiser. La difficulté d'apprendre, la gêne de demander de l'aide, la lenteur à comprendre : ces frottements ressemblent à des défauts. Ils étaient la fonction. C'est par eux qu'un enfant se fabrique une tête et trouve le chemin vers un adulte.

L'IA entre dans la vie des mineurs comme une main qui lisse tout sur son passage. La vraie question n'est pas de trancher entre danger et génie, mais de savoir ce qu'on décide de garder de rugueux, volontairement, pour ceux qui sont encore en train de se faire.