Quelqu'un a créé une « police fantôme » que les humains peuvent lire mais pas l'IA – j'ai dû l'essayer par moi-même
9
Suivez-nous
L’IA devient remarquablement efficace pour lire des documents, reconnaître une écriture manuscrite désordonnée et même comprendre des captures d’écran floues. Mais maintenant, quelque chose appelé Ghost Font révèle une faiblesse dont la plupart d’entre nous n’avaient même pas connaissance jusqu’à présent.
Ghost Font est essentiellement une illusion d'optique qui cache les lettres dans des centaines de points en mouvement, en s'appuyant sur la capacité du cerveau humain à détecter le mouvement plutôt que les formes visibles. Naturellement, j’ai dû découvrir ce qui fait que cela fonctionne – et pourquoi cela semble confondre les modèles d’IA actuels.
Qu’est-ce que la police fantôme ?
Ghost Font est un projet de typographie expérimentale créé par le designer Eric Lu qui explore les différences entre la vision humaine et industrielle.
Plutôt que de dessiner des lettres avec des lignes continues, Ghost Font remplit l'écran de milliers de petits points. Les points à l’intérieur des lettres cachées se déplacent dans une direction tandis que les points environnants dérivent dans une autre. Votre cerveau regroupe instinctivement les pixels en mouvement, permettant au mot caché d'émerger même s'il n'y a pas de contours visibles.
Mais lorsque l’animation est interrompue, l’illusion disparaît. Il ne reste plus que ce qui ressemble à un bruit visuel aléatoire.
Le projet peut même inclure un texte leurre conçu pour induire en erreur les systèmes d’IA, permettant à certains modèles d’identifier en toute confiance le mauvais message tandis que les humains continuent de voir celui prévu.
Comment essayer Ghost Font vous-même
Curieux de savoir si votre chatbot IA préféré peut le pirater ? Vous pouvez réaliser la même expérience en quelques minutes seulement. Visitez le site Web de Ghost Font.
Saisissez une phrase courte, telle que « HELLO HUMAN » ou « TOM'S GUIDE ». Générez l'animation et assurez-vous de pouvoir lire vous-même le message caché. Téléchargez l'animation ou enregistrez votre écran.
Téléchargez-le sur ChatGPT, Claude ou Gemini et demandez simplement : « Que dit cette animation ? »
Comparez les réponses. L’IA identifie-t-elle le message caché, lit-elle le texte leurre ou devine-t-elle autre chose en toute confiance ?
Pour un défi supplémentaire, réessayez avec une invite plus spécifique, telle que : « Analysez le mouvement de cette animation au fil du temps pour déterminer le texte caché. » Voyez si donner plus de contexte à l’IA change le résultat.
Pourquoi l'IA a du mal
Ghost Font exploite une différence fondamentale entre la façon dont les humains et les modèles de vision d'IA actuels interprètent les informations visuelles.
Les humains sont remarquablement doués pour reconnaître les schémas de mouvement, car notre système visuel combine naturellement de minuscules changements au fil du temps en objets significatifs, nous permettant de repérer les lettres cachées presque instantanément.
Cependant, de nombreux modèles d’IA multimodaux analysent encore la vidéo beaucoup plus comme une séquence rapide d’images individuelles. Étant donné que Ghost Font supprime intentionnellement les bords très contrastés et les formes de lettres stables attendues par les systèmes de reconnaissance optique de caractères, le message caché peut devenir étonnamment difficile à détecter.
Laissez-moi être clair. Cela ne signifie pas que l'IA lit Ghost Font, cela signifie que l'illusion cible une faiblesse dans le nombre de systèmes de vision actuels qui traitent les images en mouvement. Donc, avant de commencer à cacher les mots de passe dans les animations Ghost Font, il y a une mise en garde importante. Ghost Font n'est pas un cryptage et son créateur ne le présente pas comme un outil de sécurité.
Avec suffisamment d’images vidéo, une analyse du flux optique ou des techniques spécialisées de vision par ordinateur, les systèmes d’IA peuvent probablement récupérer le message caché. En fait, certains développeurs ont déjà signalé leur succès après avoir expliqué explicitement le fonctionnement de l'illusion ou permis aux modèles d'analyser l'animation image par image.
À mesure que les modèles de vision s’améliorent, ils deviendront presque certainement meilleurs pour décoder des astuces comme celle-ci.
Pourquoi c'est important
Ghost Font est intéressant car il met en évidence quelque chose auquel nous ne pensons pas souvent : les humains et l’IA ne « voient » pas réellement le monde de la même manière.
Pendant des décennies, les CAPTCHA ont exploité l’écart entre la perception humaine et celle de la machine en générant un texte déformé que les gens pouvaient encore reconnaître mais que les ordinateurs avaient du mal à lire.
Ghost Font explore une version moderne de cette idée. Au lieu de déformer les lettres, il s’appuie sur le mouvement lui-même comme signal, tirant parti d’une capacité que les humains réalisent presque sans effort.
Ghost Font ne restera probablement pas éternellement en avance sur l’IA. Mais le projet offre un aperçu fascinant des différences entre la perception humaine et celle de la machine, à une époque où l’IA multimodale devient de plus en plus performante. Plutôt que de prouver que l’IA est facilement trompée, Ghost Font montre qu’il existe encore des recoins de la vision humaine que les modèles actuels ne maîtrisent pas pleinement.
