En Suède, une fausse maladie des yeux a rapidement circulé dans des outils d’IA et jusque dans des travaux scientifiques.
Cette expérience menée par une chercheuse de l’université de Göteborg révèle la facilité avec laquelle une information médicale inventée peut acquérir une apparence crédible sur Internet. La page source, qui ne précise ni le nom de son média ni sa date de publication, relate comment cette intoxication volontaire a aussi trompé des chercheurs humains.
Une maladie des yeux inventée de toutes pièces
La « bixonimanie » n’existe pas. Ce nom a été créé en 2024 par une équipe dirigée par Almira Osmanovic Thunström, chercheuse médicale à l’université de Göteborg, en Suède.
Le but était simple : vérifier si les grands modèles de langage, ces systèmes d’IA capables de produire du texte, savaient reconnaître une désinformation médicale pourtant facile à repérer. L’équipe a mis en ligne deux faux travaux de recherche sur un serveur de prépublications, un espace où des textes scientifiques peuvent être diffusés avant une éventuelle évaluation par d’autres spécialistes.
Quelques semaines plus tard, le terme fictif apparaissait déjà dans les réponses de plusieurs assistants conversationnels populaires. Des internautes qui évoquaient une gêne oculaire, des démangeaisons ou des yeux rougis pouvaient recevoir un diagnostic lié à cette prétendue affection.
Une information médicale inventée a été reprise par des systèmes censés répondre à des questions de santé, parfois sans que l’utilisateur mentionne lui-même le nom de la fausse maladie.
Le mécanisme est particulièrement préoccupant. Une personne qui passe de longues heures devant un écran peut avoir les yeux fatigués ou irrités. Ces symptômes, courants et peu spécifiques, peuvent facilement être associés à une explication erronée si l’outil interrogé présente celle-ci avec assurance.
Des réponses trompeuses produites par les assistants conversationnels
Selon les éléments rapportés, Copilot de Microsoft a présenté la « bixonimanie » comme une affection « intrigante et relativement rare ». Gemini de Google a, lui, indiqué qu’elle serait provoquée par une exposition excessive à la lumière bleue.
ChatGPT d’OpenAI répondait aussi à des utilisateurs en évaluant si leurs symptômes correspondaient à cette maladie imaginaire. Certaines questions citaient directement le terme. D’autres se limitaient à décrire des troubles oculaires, avant que l’outil ne propose ce diagnostic inexistant.
Ces réponses illustrent une limite connue des IA génératives : elles peuvent formuler des affirmations plausibles sans disposer d’une vérification médicale fiable. Elles ne raisonnent pas comme un médecin examinant un patient. Elles produisent surtout du texte à partir de données et de formulations rencontrées au cours de leur entraînement ou de leur accès à des sources externes.
- Un ton catégorique ne garantit pas qu’une réponse soit exacte.
- La présence d’un terme dans des textes en ligne ne prouve pas son existence médicale.
- Des symptômes similaires peuvent avoir des causes très différentes.
- Une IA ne remplace pas un avis médical, ni un examen des yeux.
Des indices pourtant très visibles
Les faux textes avaient été conçus pour que des lecteurs attentifs comprennent rapidement qu’il s’agissait d’une mystification. Almira Osmanovic Thunström explique avoir voulu lever toute ambiguïté pour les professionnels de santé.
« Je voulais que ce soit très clair pour tout médecin ou membre du personnel médical qu’il s’agissait d’une affection inventée, car aucune maladie des yeux ne serait appelée “manie” : c’est un terme psychiatrique », a déclaré Almira Osmanovic Thunström.
Les auteurs avaient aussi semé de nombreux indices absurdes. Le prétendu signataire des articles, Lazljiv Izgubljenovic, était lui-même inventé. Il était présenté comme membre d’une université inexistante, située dans une ville fictive de Californie.
Les remerciements d’un des textes citaient aussi une académie et un vaisseau spatial issus d’un univers de fiction. Les financements attribués renvoyaient à des personnages et à des références imaginaires. Autant d’éléments qui auraient dû empêcher toute reprise sérieuse de ces documents.
Quand la fausse information atteint la recherche
Le problème ne s’est pas limité aux réponses données au grand public. La fausse maladie et les deux faux travaux ont aussi été cités dans des publications évaluées par d’autres chercheurs. La source souligne ce paradoxe : les textes avaient été volontairement remplis de signaux d’alerte compréhensibles par un lecteur humain.
Cette séquence montre que la vérification ne peut pas reposer uniquement sur le prestige supposé d’un texte, son vocabulaire spécialisé ou la présence de références. Avant de citer un travail, il faut notamment contrôler l’existence des auteurs, de leur établissement, de la revue ou du serveur ayant publié le document, ainsi que la cohérence des sources mobilisées.
En France, que faire face à une réponse médicale de l’IA ?
En France, un assistant conversationnel n’est pas habilité à poser un diagnostic médical. En cas de douleur persistante, de baisse de vision, d’œil rouge important, de traumatisme ou de trouble visuel soudain, l’interlocuteur adapté reste un professionnel de santé, notamment un médecin ou un ophtalmologiste selon la situation.
Pour une fatigue visuelle liée aux écrans, une réponse générée automatiquement peut donner des pistes générales, mais elle ne permet pas d’écarter une cause nécessitant une prise en charge. Les symptômes décrits dans l’expérience suédoise peuvent correspondre à des situations banales, comme une sécheresse oculaire ou une irritation, sans que cela permette de conclure à distance.
Un lecteur français peut aussi vérifier si une maladie citée par une IA apparaît dans des sources sanitaires reconnues, telles que les informations publiques des autorités de santé ou les ressources d’établissements hospitaliers. L’absence totale de trace fiable, associée à un nom étrange ou à des références invérifiables, doit alerter.
La lumière bleue, un argument facile à exploiter
Dans cette affaire, l’évocation de la lumière bleue rendait la fausse explication crédible au premier regard. Les écrans font partie du quotidien et la fatigue oculaire est une expérience fréquente. Un récit qui relie directement ces deux éléments à une maladie au nom technique peut donc sembler convaincant.
Or un terme médical ne devient pas valable parce qu’il circule dans une réponse d’IA, dans un moteur de recherche ou dans un texte au style scientifique. Cette affaire rappelle l’intérêt de garder une distance critique face aux diagnostics instantanés, surtout lorsqu’ils s’appuient sur une maladie inconnue et sur des études dont les détails paraissent invraisemblables.
