Les chercheurs ont suivi 821 attaques deepfake – Grok d'Elon Musk était lié à la plupart d'entre elles

L'IA Grok d'Elon Musk représentait 87 % des fichiers générés par l'IA et liés à des attaques deepfake au cours du premier semestre 2026, selon un nouveau rapport de Resemble AI.

Les chercheurs ont examiné 1 760 reportages et identifié 821 attaques distinctes impliquant au moins 15 736 victimes documentées. Ensemble, ces incidents comprenaient environ 3,46 millions d’images synthétiques, de vidéos et de fichiers audio. L'ensemble de données de Resemble AI est basé sur des incidents signalés publiquement, et son pourcentage s'applique uniquement aux fichiers que les chercheurs pourraient compter et attribuer à un outil particulier.

Même avec cette mise en garde, la figure montre avec quelle rapidité un générateur d’images d’IA largement disponible peut être transformé en un outil d’utilisation abusive et abusive.

Les résultats arrivent alors qu’Elon Musk place un pari financier important sur Grok. Suite à l'acquisition de xAI par SpaceX, Musk a déclaré lors d'une réunion à l'échelle de l'entreprise que les revenus de SpaceX en matière d'IA dépasseraient ceux de tous ses autres produits dès septembre, selon Business Insider.

SpaceX a déclaré 2,56 milliards de dollars de revenus en matière d'IA au cours de son dernier trimestre, plaçant Grok et l'infrastructure qui la sous-tend au centre de l'avenir de l'entreprise. Cela rend difficile de dissocier les questions sur la manière dont l’outil est utilisé et sa croissance commerciale rapide.

Une attaque sur six concernait du contenu explicite

Resemble AI a découvert que 137 des 821 attaques – soit environ une sur six – impliquaient des images sexuelles non consensuelles d’adultes ou d’enfants.

Grok a fait l'objet de nombreuses critiques plus tôt cette année après que les utilisateurs ont commencé à demander au chatbot de déshabiller numériquement les gens ou de les placer dans des situations sexualisées. Certaines des images auraient représenté des mineurs, ce qui a donné lieu à des enquêtes de la part des régulateurs du monde entier.

La Commission européenne a ouvert une enquête formelle sur X pour des images sexualisées générées avec Grok, tandis que le procureur général de Californie, Rob Bonta, a ouvert une enquête sur la création et la diffusion de matériel explicite non consensuel via la plateforme. Les autorités du Royaume-Uni, d’Australie et d’autres pays ont également examiné l’outil.

Resemble AI estime que les entreprises qui autorisent ou distribuent les images documentées pourraient faire face à une responsabilité civile potentielle pouvant atteindre 2,24 milliards de dollars en vertu de la loi américaine. Ce nombre est une estimation plutôt qu’un relevé des pénalités ou des poursuites déjà intentées.

Les pertes financières directes vérifiées identifiées par les chercheurs étaient bien moindres, totalisant 6,95 millions de dollars. Cependant, de nombreux incidents concernaient une atteinte à la réputation, du harcèlement ou de l'exploitation sexuelle plutôt qu'une simple escroquerie financière.

Les attaques Deepfake sont de plus en plus difficiles à compter

La société a calculé que la couverture des attaques avait une portée potentielle de 292,8 milliards au cours du premier semestre, ce qui correspond presque aux 296,4 milliards enregistrés sur l’ensemble de 2025.

Les deepfakes politiques étaient parmi les plus largement couverts. Resemble AI a identifié 22 incidents de désinformation politique qui ont chacun généré une portée médiatique potentielle de plus d'un milliard de personnes.

En revanche, la fraude par deepfake en entreprise a presque disparu de la vue du public. Les chercheurs n’ont trouvé que 15 incidents d’entreprise signalés publiquement, et 14 d’entre eux sont apparus dans une seule publication.

Resemble AI suggère que les entreprises peuvent être réticentes à divulguer les attaques réussies, car cela pourrait attirer l'attention des régulateurs, nuire à leur réputation ou inquiéter les investisseurs. Cela ne signifie pas que la fraude par deepfake en entreprise a disparu. Il se peut simplement que cela se produise hors de la vue du public.

Un détecteur qui vérifie si une scène obéit aux lois de la physique

Resemble AI a publié le rapport aux côtés de DETECT-World, un nouveau système conçu pour reconnaître le contenu créé par des générateurs d'IA qu'il n'a jamais rencontré auparavant.

Le système combine les signatures familières de l’IA avec une analyse visant à déterminer si une scène a un sens physique. Il peut vérifier si l'éclairage du visage d'une personne correspond aux sources de lumière visibles, si les ombres tombent dans la bonne direction et si les objets au premier plan et à l'arrière-plan se déplacent de manière cohérente.

Pour la vidéo, le système traite des fenêtres de quatre secondes à 40 images par seconde. Il produit une probabilité globale que le fichier ait été manipulé, des scores indiquant quand des moments suspects apparaissent et une carte thermique identifiant la partie affectée de la trame.

Resemble AI indique que DETECT-World a atteint une précision de 95,8 % sur les images et de 98,2 % sur la vidéo, mais les deux résultats proviennent de tests de référence internes et sont toujours en attente de validation externe.

Conclusion

Ce rapport rappelle que la technologie permettant de détecter les deepfakes s'améliore, mais qu'elle est toujours à la recherche d'outils capables de les créer et de les distribuer presque instantanément.

En attendant que cet écart soit comblé, nous devons trouver la source originale, rechercher la confirmation auprès de médias réputés et éviter de partager du contenu suspect simplement parce qu'il semble réel.