En Allemagne, un designer numérique assure avoir mis au point une chemise estivale capable de brouiller la vision des caméras de surveillance dopées à l’IA.
Présenté par le site en ligne Dezeen comme un projet expérimental, ce vêtement aux airs de chemise hawaïenne bariolée a été conçu par le designer allemand Simon Weckert. Son objectif : rendre son porteur méconnaissable pour certaines caméras de vidéosurveillance utilisant l’intelligence artificielle pour détecter les personnes dans l’espace public.
Une chemise criarde pensée comme un camouflage numérique
Le projet s’appelle « Digital Camouflage ». À première vue, il s’agit d’une chemise de vacances, très colorée, presque agressive pour les yeux. Le motif semble purement décoratif. Mais derrière ces formes abstraites se cache un objectif précis : perturber les algorithmes de détection de personnes intégrés aux caméras de sécurité.
Le motif de la chemise a été conçu pour que les caméras de surveillance dotées d’IA ne reconnaissent plus le porteur comme un être humain identifiable.
Interrogé par Dezeen, Simon Weckert rappelle comment fonctionnent ces systèmes. Selon lui, les algorithmes ne comprennent pas ce qu’est un humain au sens classique. Ils se basent sur des statistiques visuelles apprises à partir de millions d’images d’entraînement.
Le designer détaille que, dans les premières couches des réseaux de neurones, l’IA repère surtout :
- les contours et arêtes d’une silhouette ;
- les contrastes de couleur et de luminosité ;
- les dégradés de textures.
Dans les couches plus profondes, le système finit par détecter des formes plus complexes, comme la silhouette tête-épaules, les proportions entre les membres et le torse, ou encore la continuité du contour d’un corps par rapport à l’arrière-plan. Pour la machine, résume le créateur, une « personne » n’est qu’un assemblage de statistiques visuelles.
Un motif généré contre la machine, avec la machine
Paradoxalement, ce motif anti-surveillance a été généré à l’aide de l’IA elle-même. Simon Weckert explique avoir utilisé ce qu’il appelle une « boucle d’attaque », une sorte de dialogue itératif entre le motif et le système de détection.
Le designer a généré des motifs, les a présentés au système, mesuré la capacité de l’algorithme à repérer encore une personne, puis ajusté le dessin jusqu’à faire s’effondrer la confiance de la machine.
Concrètement, la méthode décrite fonctionne par étapes :
Selon le créateur, cette approche est nécessaire, car les « angles morts » de la vision artificielle ne sont pas intuitifs pour un observateur humain. En clair, un simple graphiste ne peut pas deviner à l’œil ce qui va perturber un système automatisé. Seule la machine serait en mesure d’indiquer ce qu’elle échoue à voir.
Simon Weckert parle d’une forme de symétrie poétique : l’IA qui surveille l’espace public aurait été la même qui a enseigné au vêtement l’art de s’y dissimuler.
Visible pour les humains, invisible pour certains algorithmes
Pour un passant dans la rue, la Digital Camouflage ne passe pas inaperçue. Le motif est décrit par le site comme « hideux », presque hypnotique. Les couleurs saturées et les formes abstraites attirent le regard plus qu’elles ne le détournent.
À l’œil nu, le porteur ressort nettement de la foule ; pour les systèmes testés par le designer, la chemise rend au contraire sa présence difficile à interpréter comme une silhouette humaine.
Les tests mentionnés par Simon Weckert font état de situations où l’algorithme ne parvient plus à assigner l’étiquette « personne » au porteur de la chemise. La figure n’est pas assimilée à un corps humain, ou elle est classée comme un simple amas de couleurs sans signification.
Ce type d’attaque est connu dans la recherche sous le nom d’« exemple contradictoire » ou « perturbation antagoniste ». Une modification visuelle minime pour un humain peut suffire à dérouter un modèle entraîné, qui va alors commettre une erreur de classification.
Une démarche artistique autant que politique
Au-delà de la performance technique, le projet s’inscrit dans un débat plus large sur la surveillance algorithmique dans l’espace public, notamment en Allemagne, pays où ces questions suscitent régulièrement des réactions vives.
En transformant une chemise de loisir en outil de contre-surveillance, Simon Weckert interroge la banalisation des caméras intelligentes. Son vêtement n’éteint pas une caméra et ne bloque pas l’enregistrement vidéo, mais cherche à casser l’automatisation de l’identification.
Le message sous-jacent : si les systèmes reposent sur des statistiques visuelles, il serait possible, au moins dans certains cas, de réintroduire une forme d’opacité en jouant sur ces statistiques.
Ce que cela dit des forces et faiblesses de l’IA de surveillance
Le projet rappelle que la reconnaissance automatisée d’objets ou de personnes ne repose pas sur une compréhension « humaine » de la scène. L’IA n’a ni intuition ni bon sens. Elle corrèle des motifs présents dans les images avec des catégories apprises.
Une chemise peut suffire à renverser le rapport de force : le corps reste là, bien visible, mais la catégorie « personne » vacille dans les logiciels.
Pour un lecteur français, ce type de démarche illustre deux enjeux concrets :
- la dépendance croissante aux systèmes automatisés pour surveiller, alerter ou filtrer l’accès à certains espaces ;
- la fragilité de ces mêmes systèmes face à des stratégies de contournement ciblées.
Les autorités ou les exploitants privés misent de plus en plus sur l’automatisation pour analyser les flux, détecter des comportements suspects ou compter les passages. Des projets de caméras capables de signaler des attroupements, des intrusions ou des mouvements jugés anormaux se multiplient.
La chemise de Simon Weckert rappelle qu’une telle infrastructure reste vulnérable à ceux qui comprennent ses limites techniques. La perturbation d’une seule personne ne met évidemment pas à terre un système global, mais elle montre qu’il ne s’agit pas d’un dispositif infaillible.
Quelles implications pour la France ?
En France, la question de la vidéosurveillance couplée à l’IA est au cœur de nombreux débats, notamment autour des grands événements sportifs et culturels. Des expérimentations sont encadrées par la loi, avec des règles spécifiques pour la détection automatisée de situations comme des départs de feu, des mouvements de foule ou certains comportements dangereux.
Les systèmes testés ou déployés s’appuient eux aussi sur des modèles d’IA d’analyse d’images. Ils repèrent des silhouettes, des trajectoires, des objets, puis déclenchent éventuellement une alerte, ensuite vérifiée par un opérateur humain. La logique statistique décrite par Simon Weckert s’applique donc également à ces dispositifs.
La perspective de vêtements ou accessoires conçus pour brouiller ces algorithmes pose à terme des questions juridiques et pratiques, même si ces objets restent pour l’instant marginaux et expérimentaux.
En l’état, la réglementation française ne cible pas spécifiquement ce type de camouflage visuel. Les obligations portent davantage sur les finalités de la vidéosurveillance, la durée de conservation des images, les droits des personnes filmées ou les conditions d’expérimentation de l’analyse automatisée.
Pour les chercheurs comme pour les industriels, la montée de ces « attaques visuelles » pourrait inciter à renforcer les modèles utilisés, à les rendre plus robustes aux perturbations ou à combiner plusieurs sources d’information (comportement, contexte, capteurs multiples) plutôt que de s’appuyer uniquement sur l’image brute.
Comprendre ce qu’est une attaque « contradictoire » contre une IA
La chemise Digital Camouflage offre un exemple concret de ce que les spécialistes appellent une attaque contradictoire. Le principe consiste à ajouter ou modifier des éléments visuels que l’œil humain juge secondaires, mais que l’algorithme interprète de manière disproportionnée.
| Point de vue humain | Point de vue de l’IA |
|---|---|
| Motif criard, mais corps parfaitement identifiable | Statistiques de couleurs et de contours très éloignées de celles d’un corps humain typique |
| Silhouette d’une personne en chemise | Ensemble de pixels qui ne correspondent plus au modèle « personne » appris |
| Incohérence esthétique | Incohérence statistique qui désoriente le classificateur |
Ces attaques peuvent prendre diverses formes : lunettes, maquillage, motifs imprimés sur des sacs ou des vêtements. La chemise conçue par le designer allemand s’inscrit dans cette famille, avec une dimension assumée de provocation artistique.
Pour un citoyen, ces travaux soulignent un point clé : l’IA de surveillance n’est ni magique ni omnisciente. Elle repose sur des modèles mathématiques perfectibles. À mesure que ces systèmes se généralisent, des contre-mesures techniques, ludiques ou militantes risquent de se multiplier, posant de nouvelles questions aux législateurs comme aux opérateurs de sécurité.
