Aux États-Unis, une expérience met en garde contre l’influence discrète des résumés produits par l’IA sur la mémoire humaine.
Les outils d’intelligence artificielle condensent désormais des comptes rendus de réunion, des recherches en ligne, des dossiers médicaux ou des rapports. Pratiques et rapides, ils peuvent aussi influer sur la manière dont nous reconstruisons un souvenir, rapporte le média scientifique ZME Science.
Une vidéo, deux panneaux et un souvenir fragilisé
L’expérience reposait sur une courte séquence animée de 25 secondes. Les participants y voyaient une voiture rouge arriver à un carrefour, tandis qu’un piéton s’engageait sur la chaussée. La voiture tournait, heurtait le piéton, puis celui-ci se relevait avant de rencontrer le conducteur.
Deux versions presque identiques de cette scène ont été montrées. Une seule différence comptait : le carrefour comportait un panneau stop dans une version et un panneau « cédez le passage » dans l’autre.
Ce protocole s’inscrit dans une longue tradition de recherche en psychologie. Depuis plusieurs décennies, des travaux montrent que le cerveau ne relit pas les souvenirs comme un enregistrement intact. Lorsqu’une personne se remémore un fait, elle le reconstruit. Des informations reçues après l’événement peuvent alors se mêler à ce souvenir.
La mémoire ne se contente pas de conserver les faits : elle les recompose, ce qui la rend vulnérable aux informations trompeuses apparues après coup.
Les chercheurs parlent d’« effet de désinformation ». L’étude s’est intéressée à la place que peuvent prendre les résumés automatisés dans ce mécanisme.
Un texte erroné qui change le détail retenu
Entre 24 et 48 heures après avoir vu la vidéo, les participants sont revenus pour lire un résumé de 21 phrases généré par une IA. Pour une partie d’entre eux, le texte décrivait correctement le panneau aperçu. Pour les autres, ce détail avait été inversé.
Une personne ayant vu un panneau stop pouvait donc lire que la voiture s’était approchée d’un panneau « cédez le passage ». Les participants recevaient pourtant une consigne claire : répondre aux questions en fonction de la vidéo initiale, et non du résumé lu ensuite.
Les résultats sont nets. Parmi les personnes ayant reçu un résumé fidèle, 83,6 % se rappelaient correctement le panneau. Dans le groupe confronté à un résumé trompeur, ce taux tombait à 44,8 %.
Cette baisse ne semble pas s’expliquer par un oubli général de la scène. Les participants ont obtenu en moyenne 91,4 % de bonnes réponses aux onze autres questions de mémoire posées pendant l’expérience. Plus de 96 % se souvenaient par exemple que l’accident avait eu lieu en journée, alors que ce point ne figurait pas dans le résumé.
- Le souvenir global de la séquence restait largement précis.
- Le détail modifié dans le résumé devenait beaucoup plus incertain.
- La consigne demandant d’ignorer le texte ne suffisait pas à neutraliser son influence.
Savoir que le texte vient d’une IA ne suffit pas
Les chercheurs ont aussi voulu vérifier si les participants se montreraient plus prudents en sachant que le résumé venait d’une IA. Certains ont été avertis que le texte avait été écrit par un outil automatisé. D’autres ont été informés qu’il provenait d’un transcripteur professionnel humain.
Dans les faits, tous lisaient un contenu généré par IA. Cette précision n’a presque rien changé aux résultats. Les personnes qui savaient l’origine automatisée du texte n’ont pas mieux résisté à l’information erronée.
Les chercheurs ont également interrogé les volontaires sur leur confiance envers l’IA et sur leur usage des assistants conversationnels. Là encore, aucun élément significatif ne montre que les utilisateurs réguliers ou les personnes plus méfiantes étaient protégés contre l’effet du résumé inexact.
« L’IA est une nouvelle méthode de diffusion de désinformation et elle peut créer de faux souvenirs chez les personnes qui lisent ces informations », a déclaré Mattea Sim, coauteure de l’étude, dans un communiqué de l’université Georgetown.
Elle appelle à réfléchir « très profondément et de manière critique » à l’emploi de l’IA pour résumer des informations, surtout dans les situations à forts enjeux.
Les omissions peuvent aussi induire en erreur
L’étude ne porte pas uniquement sur l’effet d’une erreur volontairement introduite dans un texte. Les chercheurs ont demandé à ChatGPT-5.5 et à Gemini 2.5 Flash-Lite de résumer les deux vidéos. Chaque modèle a traité chaque séquence à cinq reprises, pour un total de vingt résumés.
Tous contenaient des erreurs. Certains textes ajoutaient des éléments inexistants ou se trompaient sur des détails. Le défaut le plus fréquent était pourtant l’omission. En moyenne, les modèles ont laissé de côté 51,6 % des détails centraux de l’événement.
Le résultat le plus frappant concerne le fait principal de la vidéo : dix-neuf résumés sur vingt ne mentionnaient pas que la voiture avait heurté le piéton.
Un risque moins visible que l’invention d’un fait
Les erreurs où une IA invente une information attirent facilement l’attention. Une omission peut paraître moins grave. Elle peut pourtant modifier le récit qu’une personne retient, surtout lorsqu’elle ne retourne pas voir la source originale.
Un élément absent d’un résumé peut devenir moins accessible au moment où le cerveau reconstruit l’événement. À l’inverse, un détail répété dans un texte peut prendre une place disproportionnée. Si ce détail est faux, il peut entrer en concurrence avec le souvenir initial.
Le risque est particulièrement sensible lorsque le document d’origine est long, complexe ou difficile à consulter à nouveau. C’est précisément dans ces situations que les utilisateurs cherchent un condensé rapide.
Quelle prudence adopter en France ?
En France, les résumés générés par IA peuvent être utilisés dans de nombreux contextes professionnels ou personnels. Ils ne doivent pas remplacer la vérification d’un document original lorsqu’une décision dépend d’un détail précis : compte rendu de réunion, dossier médical, procédure administrative, déclaration d’assurance ou élément destiné à la justice.
Pour un échange de travail, il peut être utile de confronter le résumé aux notes, à l’enregistrement lorsqu’il existe, ou aux messages échangés. Pour un document médical, juridique ou financier, le lecteur peut demander à retrouver le passage source avant de s’appuyer sur une formulation condensée.
Les chercheurs précisent que leur étude a été publiée sur arXiv et qu’elle n’avait pas encore fait l’objet d’une évaluation par les pairs. Ses résultats soulèvent néanmoins une question concrète : la rapidité offerte par les outils d’IA peut avoir un prix lorsque le résumé devient, avec le temps, la principale version d’un événement conservée dans notre mémoire.
