Aux États-Unis, des chercheurs alertent sur une tendance troublante : certains modèles d’IA tirent des conclusions sur une personne à partir de son visage.
Rapportée par PsyPost, un média américain consacré à la psychologie et aux sciences du comportement, cette étude publiée dans PNAS Nexus interroge les usages de l’intelligence artificielle dans des domaines sensibles. Les chercheurs ont constaté que plusieurs modèles associent des traits physiques arbitraires à la compétence, à la fiabilité, voire à la probabilité de commettre des crimes.
Un réflexe humain reproduit par les machines
Les humains ont tendance à se faire une opinion très rapide d’un visage. Une personne peut paraître sérieuse, compétente, sympathique ou inquiétante en quelques secondes, sans que ces impressions reposent sur des éléments objectifs. Les spécialistes qualifient ce mécanisme d’inférence entre le visage et le caractère.
Or, la forme d’un visage, sa texture ou certains détails physiques ne permettent pas de connaître la personnalité réelle d’un individu. Cette association demeure pourtant profondément ancrée. Une étude menée en 2014 avait déjà montré que des enfants de trois ans portaient ce type de jugement.
Les modèles testés ne se contentent pas d’analyser des images : ils semblent reproduire, et parfois renforcer, un biais social humain consistant à attribuer un caractère à un visage.
Mahzarin R. Banaji, professeure de recherche en éthique sociale à l’université Harvard et membre extérieure du Santa Fe Institute, rappelle auprès de PsyPost que les visages constituent des signaux sociaux omniprésents. Selon elle, le cerveau humain possède même une région dédiée à leur traitement, ce qui explique la force de ces jugements immédiats.
Près de 8 000 essais menés sur quatre modèles
L’équipe menée par Steven A. Lehr, de l’entreprise Cangrade, avec Yash Lothe et Mahzarin R. Banaji, a réalisé treize expériences représentant près de 8 000 essais. Les scientifiques ont soumis à plusieurs IA des paires de visages humains générés par ordinateur.
Ces images avaient été modifiées afin de présenter des caractéristiques que les humains associent habituellement, à tort, à la compétence ou à la confiance. Les modèles devaient alors choisir le visage qui leur semblait le plus compétent, le moins compétent, le plus digne de confiance ou le moins fiable.
- Lors de 600 essais sur la compétence, GPT-4o a sélectionné le visage jugé habituellement plus compétent par les humains dans 87,83 % des cas.
- Sur 600 essais portant sur la confiance, il a choisi le visage attendu dans 72,67 % des cas.
- Lorsque les différences visuelles entre deux visages étaient plus marquées, le taux de sélection atteignait 98 % pour les jugements de compétence.
- Sur des traits associés à la paresse, à l’intelligence, à la chaleur humaine ou à l’égoïsme, le modèle a maintenu le même type d’associations.
Les auteurs soulignent que ces résultats dépassent les estimations établies pour les décisions humaines dans certaines situations comparables. Pour Steven A. Lehr, la régularité des réponses pose un problème particulier : un biais appliqué avec constance risque de produire des effets répétés lorsqu’il intervient dans un processus de sélection.
Des macaques eux aussi jugés sur leur apparence
Les chercheurs ont voulu vérifier si l’IA s’appuyait seulement sur des visages humains présents dans ses données d’entraînement. Ils ont alors utilisé 150 paires de visages de macaques, déjà évalués par des humains comme paraissant gentils ou agressifs.
GPT-4o a désigné le macaque ayant l’apparence la plus avenante comme le plus digne de confiance dans 66 % des essais. Ce résultat laisse penser que le modèle applique une logique visuelle plus générale, au lieu de simplement reconnaître des visages humains connus.
Steven A. Lehr estime que ce constat montre la capacité des modèles de langage à absorber des caractéristiques humaines inattendues. Ces outils, initialement conçus pour traiter le langage, peuvent désormais interpréter des images et relier des indices visuels à des idées présentes dans les textes utilisés pour leur apprentissage.
Criminalité, embauche et décisions à fort impact
L’expérience devient plus préoccupante lorsque les chercheurs demandent à l’IA de se prononcer sur des scénarios lourds de conséquences. Dans 540 essais, GPT-4o devait dire lequel de deux visages semblait le plus susceptible d’être un tueur en série, de participer à la traite d’êtres humains ou de commettre une fraude financière.
Le modèle a choisi le visage considéré comme moins digne de confiance dans 68,70 % des cas. Aucun élément concret sur les personnes représentées ne permettait pourtant de tirer une telle conclusion.
Une IA a relié des apparences faciales à des accusations aussi graves que la traite d’êtres humains ou la fraude, alors que les images ne fournissaient aucune information sur les actes des personnes.
Dans une autre série de 540 essais, les IA devaient formuler des recommandations positives : choisir un président d’université ou financer une jeune entreprise technologique. GPT-4o a favorisé le visage paraissant le plus compétent dans 75,19 % des cas.
Les scientifiques ont ensuite répété une partie de leurs tests avec GPT-5, Gemini 3 Flash Preview et Claude Sonnet 4.5. Les trois modèles ont aussi affiché des biais marqués. GPT-5 a choisi le visage attendu dans 94,33 % des évaluations élémentaires de compétence et dans 97,04 % des recommandations appliquées à des situations concrètes.
Des limites à garder en tête
Les auteurs invitent à interpréter leurs résultats avec prudence. Les expériences reposaient surtout sur un choix forcé entre deux images. Dans une conversation ordinaire, sans obligation de comparer directement deux personnes, le comportement d’un modèle pourrait différer.
Les IA n’ont reçu que des images fixes en deux dimensions. Les résultats ne permettent donc pas de savoir comment elles réagiraient à une vidéo, à plusieurs angles de prise de vue ou à des photographies de qualité différente.
Cette réserve ne supprime pas le risque. Les outils testés ont été conçus pour éviter les propos ouvertement discriminatoires sur des critères comme le genre ou l’origine. Les protections semblent moins efficaces face à des biais plus discrets liés à la structure du visage.
Quelle situation en France ?
En France, le recours à une IA dans le recrutement ou dans une décision ayant des effets importants sur une personne appelle une vigilance particulière. Le règlement général sur la protection des données encadre les décisions fondées exclusivement sur un traitement automatisé lorsqu’elles produisent des effets juridiques ou affectent fortement les personnes concernées.
La Commission nationale de l’informatique et des libertés, la CNIL, rappelle régulièrement que les systèmes algorithmiques peuvent reproduire des discriminations présentes dans leurs données ou leurs méthodes de conception. Une entreprise qui utiliserait un outil automatisé pour trier des candidatures doit donc s’interroger sur les critères employés et sur la possibilité d’un contrôle humain réel.
Les données biométriques, lorsqu’elles permettent d’identifier une personne de manière unique, bénéficient d’une protection renforcée au titre du règlement européen. Une simple photographie ne devrait pas devenir un prétexte pour attribuer une personnalité, une compétence ou une dangerosité à un individu.
Pourquoi le biais facial est difficile à repérer
Le danger tient aussi à son apparence de neutralité. Un modèle peut ne jamais mentionner explicitement l’origine, le sexe ou l’âge d’une personne, tout en utilisant des signaux visuels corrélés à des stéréotypes. La décision semble alors technique, alors qu’elle repose sur une impression sociale dépourvue de fondement.
Les chercheurs demandent des tests approfondis avant tout déploiement de ces outils dans les ressources humaines, la justice ou l’évaluation de personnes. Steven A. Lehr estime que l’alignement des IA produit une forme d’égalité de façade, insuffisante face à des biais plus profonds.
Pour un utilisateur, une précaution simple consiste à ne jamais confier à une IA le soin d’évaluer la moralité, les capacités professionnelles ou la dangerosité d’une personne à partir d’une photo. Un visage peut susciter une impression. Il ne constitue pas une preuve.
