L'abandon cognitif : ce qui arrive quand ton équipe arrête de vérifier le travail de l'IA
- 20 juil.
- 4 min de lecture
« 48 % de mieux sur les exercices pratiques. 17 % de moins à l'examen. » C'est ce qui est arrivé à des élèves du secondaire qui ont utilisé l'IA pour leurs exercices de maths, puis ont passé un examen sans elle, selon une étude publiée dans PNAS. Ça ressemblait à du progrès, sans vraiment en être.
Une nouvelle synthèse parue dans Trends in Cognitive Sciences, pose la question directement : l'IA nous rend-elle stupides? Les résultats sont nuancés. Nos capacités fondamentales, comme la mémoire de travail et l'attention, semblent résister à l'IA.
Ce qui s'érode, ce sont des compétences précises, quand on saute le travail et l'effort mental qui les construisent. Les psychologues ont un nom pour l'un des constats les plus insidieux de cette synthèse: l'abandon cognitif.
Qu'est-ce que l'abandon cognitif?
Ce n'est pas utiliser l'IA comme un outil. C'est lui remettre son jugement au complet, et adopter sa réponse comme la sienne, sans vérifier.
Ça, c'est un constat de psychologie. Mais dans une organisation, ça devient un risque opérationnel. Voici à quoi ça ressemble, et ce qu'on peut faire.
Les trois principaux risques organisationnels liés à l'abandon cognitif
L'abandon est invisible jusqu'à ce que quelque chose casse
Dans l'étude sur les maths, les élèves ne sentaient pas leur dette s'accumuler. Leurs résultats aux exercices grimpaient. Tout semblait bien aller, jusqu'à l'examen sans IA, où la dette est arrivée à échéance.
Dans une organisation, l'examen, c'est une décision d'admissibilité rédigée par l'IA et envoyée avec une erreur. Ou une citation de client mal rapportée dans un courriel aux donateurs que personne n'a relu. Le temps qu'on s'en rende compte, l'écart existe depuis des mois. Rien dans les tableaux de bord ne l'a signalé, parce que le travail se faisait quand même. Il se faisait juste mal, en silence, à un rythme qui ressemblait à de la productivité.
E.g. Une équipe de programme qui utilise l'IA pour résumer des formulaires d'accueil de clients pendant des mois, sans rien remarquer, jusqu'à ce qu'un résumé oublie un besoin d'accessibilité déclaré et que le client se présente à une séance pour laquelle l'organisme n'était pas prêt.2. L'abandon se concentre là où l'imputabilité est déjà fragile
Les tâches que les gens délèguent complètement sont souvent celles qu'ils trouvaient déjà fastidieuses ou inconfortables. Les évaluations de rendement RH. L'admissibilité aux subventions. Les notes de dossier client.
Voici la partie qui devrait nous inquiéter. Ce sont aussi les tâches où une mauvaise réponse cause le plus de dommages, et où personne ne vérifie, parce que c'était déjà le genre de travail que personne ne voulait faire. On délègue exactement les tâches où le soin comptait le plus, justement parce qu'elles étaient les plus difficiles à soigner.
C'est pour ça que « quand ne pas utiliser l'IA » mérite sa propre section dans une politique d'IA. Pas noyée dans une liste générale d'usages acceptables.
3. Le personnel junior est le plus exposé
La synthèse a trouvé que les gens qui ont le plus pratiqué la pensée exigeante étaient meilleurs pour repérer les erreurs de l'IA. Cet instinct n'est pas inné. Il se construit comme toute compétence : lentement, par friction, à force de faire la version difficile avant que la version facile existe.
Les nouveaux employés n'ont pas encore développé ce jugement. S'ils commencent leur emploi en s'appuyant uniquement sur l'IA, ils risquent de ne jamais le développer. Ce n'est pas un manque de formation qu'on pourra corriger plus tard. C'est une organisation qui perd tranquillement sa propre capacité à détecter ses erreurs, au moment même où elle en a le plus besoin.
Alors, qu'est-ce qu'on fait?
David Brooks, dans un texte publié dans The Atlantic, a décrit les « marathoniens mentaux », des gens qui prospèrent à l'ère de l'IA parce qu'ils recherchent la complexité cognitive au lieu de l'éviter.
Il soutient qu'il faut repenser l'éducation autour de cet instinct, sinon on risque un nouveau type de polarisation : ceux qui embrassent la pensée exigeante prennent de l'avance, et les autres tombent derrière.
Les organisations font face au même choix, sur un horizon plus court. On peut concevoir le travail et la culture pour récompenser l'effort. Ou on peut concevoir une culture qui récompense seulement la vitesse, sans construire la capacité des employés à s'attaquer à des problèmes complexes
En pratique, ça veut dire trois choses : nommer où l'IA aide et où elle ne peut pas être laissée sans surveillance, protéger les tâches où une mauvaise réponse coûte le plus cher, et considérer les premières années d'un nouvel employé comme la période où le jugement se construit, pas celle où on le saute.
C'est le travail que je fais avec les équipes d'OBNL chez Virage : on part de vos valeurs organisationnelles, on fait l'audit de vos usages actuels de l'IA, puis on co-construit ensemble vos principes éthiques et vos normes d'utilisation, avant même de rédiger la politique finale.
Si votre organisation n'a pas encore posé les balises de son utilisation de l'IA, et que vous voulez éviter de créer une culture où l'abandon cognitif est acceptable, inscrivez-vous à ma prochaine session pour développer une politique d'IA.