Aux États-Unis, des utilisateurs ont vu ChatGPT évoquer des créatures fantastiques dans des échanges sans rapport apparent avec ce sujet.
Selon Wonderful Engineering, un média en ligne consacré aux technologies, OpenAI a identifié l’origine de ce comportement surprenant, apparu après de récentes évolutions de ses modèles. Une option de personnalité, combinée à certains mécanismes d’apprentissage, a favorisé de façon inhabituelle l’emploi de mots comme « gobelin » ou « gremlin ».
Une bizarrerie repérée après des évolutions du modèle
Le phénomène n’était pas lié à une question précise posée par les utilisateurs. ChatGPT pouvait faire référence à des gobelins ou à des créatures comparables dans des réponses où elles n’avaient pas de raison évidente d’apparaître.
OpenAI a mené une enquête interne après avoir constaté une hausse inhabituelle de ces mentions. L’entreprise a finalement relié cette tendance à un réglage de personnalité décrit comme plus érudit et passionné par les références techniques ou culturelles.
Une faible part des réponses de ChatGPT concentrait une très grande partie des allusions aux gobelins et aux gremlins.
Cette personnalité ne représentait que 2,5 % des réponses produites par le service. Elle était pourtant à l’origine d’environ deux tiers des références aux gobelins relevées par OpenAI. L’écart a suffi à attirer l’attention des équipes chargées d’évaluer la qualité et la cohérence des réponses.
Le problème a gagné en visibilité dans des versions plus récentes, dont GPT-5.5, selon les informations rapportées par Wonderful Engineering, publiées le 1er mai 2026. Des instructions spécifiques ont alors été intégrées à certains outils afin d’éviter toute mention de créatures lorsqu’elle n’était pas directement pertinente.
Le rôle de l’apprentissage par renforcement
L’explication avancée par OpenAI repose sur l’apprentissage par renforcement. Cette méthode sert à orienter un système d’IA vers des réponses jugées souhaitables au cours de son entraînement. Des évaluations attribuent un signal favorable à certains types de formulations, afin que le modèle ait davantage tendance à les reproduire.
Dans ce cas précis, les réponses contenant les termes « gobelin » ou « gremlin » obtenaient régulièrement une meilleure évaluation pendant l’entraînement. Le modèle a donc progressivement appris que ces mots pouvaient être appréciés dans certains contextes, même si leur emploi ne convenait pas toujours au sujet traité.
- Une formulation incluant ces créatures recevait une évaluation plus favorable.
- Le système retenait cette association au fil des séquences d’entraînement.
- Les références ont commencé à apparaître plus souvent.
- Cette habitude stylistique a fini par dépasser le seul réglage de personnalité concerné.
OpenAI décrit ainsi un effet de boucle. Plus une tournure est valorisée, plus elle a de chances d’être réutilisée. Sa réutilisation peut ensuite renforcer sa présence dans les données servant à l’amélioration du modèle. À l’échelle d’un outil utilisé pour des millions de demandes, une préférence initialement discrète peut devenir très visible.
Pourquoi la personnalité ne suffit pas à contenir le problème
Les options de personnalité sont censées modifier le ton, le niveau de détail ou le style des réponses. Elles ne fonctionnent pas comme des compartiments parfaitement étanches. OpenAI souligne que l’apprentissage par renforcement ne maintient pas toujours les comportements acquis dans un mode unique.
Autrement dit, une habitude encouragée dans une personnalité peut influencer, au moins ponctuellement, d’autres réponses produites par le même modèle. C’est ce mécanisme qui explique que les allusions aux créatures fantastiques aient pu sortir de leur cadre initial.
Le cas montre aussi la difficulté de concevoir des assistants capables d’adopter un ton plus vivant sans laisser apparaître des automatismes inadaptés. Une référence humoristique peut convenir dans une conversation informelle. Elle devient gênante lorsqu’un utilisateur demande une explication professionnelle, une aide administrative ou une information factuelle.
OpenAI renforce ses outils de contrôle
À la suite de cette enquête, OpenAI indique avoir ajusté son approche afin de limiter la diffusion de comportements similaires entre plusieurs versions de ses systèmes. L’entreprise a également mis en place de nouveaux outils d’audit destinés à repérer et corriger ce type d’effet avant qu’il ne s’installe durablement.
Selon OpenAI, un simple mécanisme de récompense peut modifier des habitudes de langage sur plusieurs générations d’un même modèle.
Les équipes de développement ont aussi ajouté, dans certains outils internes, des consignes explicites demandant de ne pas évoquer de créatures fantastiques sans lien direct avec la demande. Cette mesure vise un symptôme précis, tandis que les outils d’audit doivent aider à repérer l’apparition d’autres biais stylistiques.
Le terme « biais » ne désigne pas forcément ici un jugement politique ou social. Il peut aussi s’agir d’une préférence involontaire du système pour un mot, une image, une tournure ou un type de réponse. Dans le cas observé, le biais concernait une habitude lexicale devenue disproportionnée.
Ce que cela implique pour les utilisateurs en France
En France, ChatGPT est utilisé dans des cadres très variés : rédaction, apprentissage, programmation, organisation personnelle ou préparation de documents. Cet épisode rappelle qu’une réponse fluide et assurée ne garantit pas, à elle seule, qu’elle est adaptée à la demande.
Lorsqu’un assistant conversationnel ajoute une référence étrange, un ton déplacé ou une information sans rapport, l’utilisateur peut reformuler sa question, demander une réponse strictement factuelle ou signaler le problème. Pour un usage scolaire, professionnel, juridique, médical ou financier, une vérification auprès de sources compétentes reste nécessaire.
Les modèles d’IA générative produisent du texte en prédisant des suites de mots cohérentes à partir de leur entraînement et des instructions reçues. Ils ne raisonnent pas comme un humain qui vérifierait spontanément la pertinence de chaque image employée. Un détail encouragé durant l’entraînement peut donc ressortir là où il n’était pas attendu.
L’affaire des gobelins illustre une réalité plus large : le réglage du style d’une IA ne se limite pas à choisir un ton plus sérieux, plus concis ou plus créatif. Derrière chaque préférence apparente se trouvent des choix d’entraînement, des évaluations et des contrôles continus. OpenAI estime que mieux comprendre l’émergence de ces comportements devient indispensable à mesure que ces outils prennent place dans les usages quotidiens.
