Le recours systématique à l’intelligence artificielle générative détériorerait les facultés cognitives permettant l’esprit critique

La promesse de l’IA générative est de produire des textes, des images ou des vidéos livrées immédiatement après avoir formulé des consignes – on parle de prompts – qui peuvent être extrêmement précises sur le ton, la longueur, la technicité et même le style de la production attendue. C’est donc souvent présenté comme un moyen efficace et utile pour exécuter par exemple des tâches de rédaction ou de synthèse de documents.

Déléguer à l'IA ferait perdre certaines aptitudes au cerveau

On comprend que nombre d’étudiants ou de salariés optent désormais pour cette assistance accessible en quelques clics pour disposer de livrables clés en mains. Autant de pratiques qui font pourtant partie de l’apprentissage et de la gymnastique du cerveau. Un peu comme des exercices simples et répétés qui permettent d’entretenir sa forme musculaire, avant d’envisager de réaliser ensuite un exploit sportif.

Des scientifiques de l’Université Carnegie Mellon aux États-Unis, associés à des chercheurs de Microsoft – qu’on ne peut suspecter de technophobie à l'égard de l’intelligence artificielle – viennent de publier une étude qui conclut que plus les personnes utilisent l’IA générative dans leur travail, moins elles feront preuve d’esprit critique. Et que plus elles font appel à ces algorithmes moins elles sollicitent leurs capacités d’analyse. Au point que cela peut "entraîner la détérioration de facultés cognitives qui devraient être préservées".

Une étude à l'échelle internationale sur des profils variés

Ces experts ont étudié un panel mixte de 319 professionnels de différents secteurs d’activité, âgés de 18 à plus de 55 ans, issus du Royaume-Uni, du Canada, des États-Unis, d’Afrique du Sud et de Pologne. Ils ont tous en commun d’utiliser l’IA générative au moins une fois par semaine dans le cadre de leur activité. Qu’il s’agisse de rédiger des courriels ou des textes, de synthétiser des rapports ou de solliciter des conseils.

Plus ces programmes livrent une production satisfaisante, moins les commanditaires développent une pensée critique. Et plus le niveau de confiance dans la qualité de ce que fournit l’IA croît, moins sa contribution est sujette à une remise en question. Ce qui contribue à éroder le principe même d’esprit critique quand il s’agit de reconsidérer ces publications.

Les chercheurs pointent le danger d’accorder une confiance aveugle dans ces productions automatisées. Car si nous les acceptons sans faire preuve d’esprit critique, nous pouvons intégrer ces résultats erronés dans des travaux plus généraux et finir par fragiliser considérablement des projets fondés sur de tels éléments.

Les universitaires indiquent également que les consommateurs de services d’IA fournissaient pour la même tâche un ensemble moins diversifié de résultats, que les personnes qui ne les utilisaient pas.

Des précautions à prendre

Si les outils d’IA générative peuvent être des assistants de nature à améliorer l’efficacité des utilisateurs, il faut aussi les concevoir de manière à inciter les utilisateurs à faire preuve d’esprit critique, afin de préserver et d’entretenir leur capacité de raisonnement. Ainsi, il n’était peut-être pas fondamental de connaître par cœur les numéros de téléphone de nos proches, mais cela contribuait à entretenir nos dispositions en matière de mémorisation. Idem pour le recours au sens de l’orientation avant de ne se fier qu’au seul GPS.

Ce sont autant de facultés cognitives qui sont délaissées et, donc, finissent par faire paresser notre mécanique intellectuelle générale. Il faut au contraire entretenir et favoriser ces aptitudes de notre cerveau.

Ce qui suppose de doter l’humain d’un fort niveau d’expertise, de manière à conserver une réelle capacité d’appréciation de la livraison mécanisée de l’IA générative. Cela plaide pour un investissement continu dans la formation des personnels, pour leur permettre d’identifier les erreurs ou les incohérences générées par les modèles mathématiques, malgré des formulations qui peuvent avoir l’apparence de la pertinence.

Cet avènement de l’IA générative doit donc être l’occasion de refondre la manière dont on acquiert et exploite des connaissances tout au long de sa vie, pour ne pas se laisser guider par une délégation non supervisée à des algorithmes qui fonctionnent sur des modèles probabilistes fondés sur des statistiques. Cette étude n’a évidemment pas vocation à clore le sujet de l’impact du déploiement des IA sur nos modes de pensée. D’autres sont en cours.

Mais il est important que les consommateurs d’IA et les citoyens que nous sommes se tiennent informés des effets induits – jusqu’à notre cerveau – par ces ruptures technologiques qui s’annoncent.

Laisser travailler l'intelligence artificielle, et accepter sa production les yeux fermés, mettrait en péril nos facultés cognitives. (JULIEN TROMEUR / SCIENCE PHOTO LIB / JTO / AFP)