L'IA et l'illusion de comprendre : le vrai danger se cache-t-il dans nos têtes ?

Quand un texte est bien écrit, structuré, sans accroc, on l'absorbe sans effort. Cette fluidité cognitive crée une sensation agréable : « oui, c'est clair, je suis ». Mais être capable de suivre un raisonnement n'est pas la même chose que pouvoir le réutiliser dans un autre contexte, l'expliquer à quelqu'un d'autre avec ses propres mots, ou en repérer les failles.

L'IA générative est précisément optimisée pour produire ce type de texte ultra-lisible : phrases bien calibrées, transitions logiques, ton assuré. Le résultat se présente comme une explication claire — même quand le contenu est vague, approximatif ou faux. Notre cerveau, lui, prend le raccourci : si ça coule, c'est que j'ai compris. Première confusion, premier piège.

Cette distinction recoupe plusieurs travaux. Daniel Kahneman parlerait ici du Système 1 (rapide, intuitif, sensible à la fluidité) qui prend le pas sur le Système 2 (lent, analytique). Les psychologues parlent de fluency effect : plus une information est facile à traiter, plus elle est jugée vraie, familière et bien comprise — indépendamment de son contenu réel.

Les pédagogues, eux, distinguent depuis longtemps reconnaître (« je l'ai déjà vu, ça me parle ») et maîtriser (« je peux le mobiliser sans support »). C'est tout le sens de la taxonomie de Bloom : restituer, appliquer, analyser, créer sont des niveaux différents. Or face à un texte d'IA bien tourné, on s'arrête souvent au premier — en croyant être au quatrième.

Une question pour la suite : ce biais existait déjà avant l'IA (manuels bien écrits, vidéos de vulgarisation). Qu'est-ce que l'IA change vraiment à l'échelle du phénomène ? C'est ce que la science cognitive permet de préciser.

Plusieurs effets bien documentés convergent ici.

L'effet de fluidité cognitive (Alter & Oppenheimer, 2009) : quand une information est facile à lire, on la juge plus vraie, plus familière, et on croit la maîtriser. Une réponse de ChatGPT, bien structurée, sans hésitation, coche toutes les cases de la fluidité.

L'illusion de profondeur explicative (Rozenblit & Keil, 2002) : demandez à quelqu'un s'il comprend comment fonctionne une fermeture éclair — il dira oui. Demandez-lui de l'expliquer en détail — il s'effondre. Avec l'IA, on n'arrive même plus à l'étape de l'effondrement, parce que l'IA répond à notre place quand on bute.

Concrètement : un élève qui lit une dissertation générée la trouve « limpide ». Un parent qui demande à l'IA d'expliquer la photosynthèse hoche la tête. Mais aucun des deux n'a encodé l'information — ils l'ont reconnue. C'est la différence entre retrouver un mot dans un QCM (reconnaissance) et le retrouver à l'oral sans indice (rappel). Seul le rappel signe une compréhension réelle.

Trois pistes pour aller plus loin.

1. Le piège Dunning-Kruger amplifié. L'effet original (Kruger & Dunning, 1999) montre que les moins compétents surestiment le plus leur compétence — parce qu'il leur manque les outils métacognitifs pour évaluer leur ignorance. L'IA aggrave ce biais : elle fournit une production de qualité experte sans que l'utilisateur ait dû traverser la phase d'inconfort où l'on prend conscience de ce qu'on ignore. On saute directement à l'output, sans la métacognition.

2. Le rôle du desirable difficulty. Robert Bjork a montré qu'un apprentissage durable exige un effort de récupération : reformuler, hésiter, se tromper, recommencer. Or l'IA supprime précisément ces frictions. Paradoxalement, plus l'outil est efficace pour produire, moins il est efficace pour faire apprendre — sauf si on l'utilise contre sa pente naturelle (ex. demander à l'IA de poser des questions plutôt que de répondre).

3. Une nuance importante. Tous les usages de l'IA ne produisent pas cette illusion. Lorsqu'on dialogue avec elle pour tester sa propre compréhension (« Voici comment j'expliquerais X, où est-ce que je me trompe ? »), on active le rappel, pas la reconnaissance. La question n'est donc pas « l'IA crée-t-elle l'illusion ? » mais « quel usage crée l'illusion ? ». Pour un enseignant ou un parent, la consigne change : interdire est inutile, structurer la friction est essentiel.

Avant ChatGPT, combien d'élèves sortaient d'un cours en pensant « avoir compris » après une explication claire, sans pouvoir la refaire seuls ? Le sentiment de maîtrise sans la maîtrise réelle est un vieux compagnon de l'apprentissage : un manuel bien écrit, un documentaire fluide ou un enseignant charismatique peuvent créer exactement le même effet. Pointer l'IA comme coupable unique reviendrait à oublier que le problème est d'abord cognitif, pas technologique.

Par ailleurs, d'autres risques de l'IA sont aujourd'hui mis en avant comme potentiellement plus graves : amplification de biais discriminants, désinformation à grande échelle, dépendance affective envers des chatbots, concentration économique entre quelques acteurs, coût énergétique. Face à cela, l'illusion de compréhension peut sembler un souci de confort intellectuel. Et il existe un revers positif : utilisée pour interroger, reformuler, générer des quiz ou contredire l'utilisateur, l'IA peut justement exposer nos angles morts au lieu de les recouvrir.

La recherche en métacognition (Dunlosky, Bjork) montre que la fluence — la facilité avec laquelle une information est lue ou entendue — est un prédicteur trompeur de l'apprentissage réel : plus c'est fluide, plus on se croit compétent, moins on l'est souvent. Sous cet angle, l'IA n'est qu'un accélérateur d'un biais préexistant, pas son origine. La question devient : de combien l'accélère-t-elle, et à quel seuil un effet quantitatif devient-il qualitatif ?

Sur la hiérarchie des risques, les cadres divergent. Les approches AI ethics (Crawford, Gebru) insistent sur les dommages matériels présents : biais, surveillance, travail invisibilisé, extraction de ressources. Les approches AI safety (Bostrom, Russell) priorisent les risques systémiques de long terme. L'illusion de compréhension ne figure dans presque aucune de ces listes — peut-être à tort, peut-être parce qu'elle relève d'une érosion lente, diffuse, difficilement mesurable, dont les effets se verraient surtout dans la qualité du débat public et de la formation à 10 ou 20 ans.

Enfin, l'argument du « bon usage » mérite d'être tenu honnêtement. Des dispositifs comme le Socratic tutoring, les tests de récupération générés automatiquement, ou les agents qui demandent à l'utilisateur d'expliquer avant de répondre montrent qu'une IA peut renforcer la métacognition. Mais cela suppose une intention pédagogique, une friction volontaire — à rebours des incitations commerciales qui poussent à la fluidité maximale. Zone grise : le même outil peut, selon son design, soigner ou aggraver le mal qu'on lui reproche.

Cette illusion agit comme un amplificateur silencieux. Un texte généré qui paraît clair désamorce notre vigilance : on cesse de chercher la source, on saute la vérification, on prend la synthèse pour la pensée. Les autres risques (erreurs factuelles, biais culturels, manipulation) deviennent alors invisibles, non parce qu'ils s'aggravent, mais parce que notre filtre critique s'éteint.

La posture du partenaire de dialogue change la dynamique. Plutôt que demander « donne-moi la réponse », on peut demander « propose-moi trois angles contradictoires », « où ce raisonnement peut-il être faux ? », « quelles sources irais-je vérifier ? ». L'IA reste un outil puissant, mais le verbe comprendre — celui qui engage un sujet, une responsabilité, un doute — reste, pour l'instant, conjugué à la première personne.

On pourrait objecter que cette posture est un luxe : dans la pratique, qui a le temps de challenger chaque sortie d'un modèle ? C'est juste — et c'est précisément pourquoi l'enjeu est moins individuel que culturel et institutionnel. Les chercheuses en AI literacy (comme Emily Bender ou Helen Beetham) insistent : la réponse n'est pas la méfiance généralisée, mais l'apprentissage de régimes d'usage différenciés. On ne lit pas un brouillon, un diagnostic médical et un résumé de réunion avec la même exigence ; il faut apprendre à le faire aussi avec l'IA.

Une piste opérationnelle : distinguer les usages où l'IA propose (et où l'erreur coûte peu) de ceux où elle décide (et où l'erreur engage autrui). Dans les seconds, la règle pourrait être qu'aucune sortie n'est utilisée sans qu'un humain ait pu reconstruire le raisonnement — pas seulement le lire. C'est exigeant, peut-être trop ; mais c'est aussi la frontière où la compréhension cesse d'être une illusion partagée pour redevenir un acte.

À vous, maintenant : la dernière fois qu'une IA vous a donné une réponse qui vous a convaincu, l'avez-vous comprise — ou simplement reconnue comme plausible ?