Présentation de la détection d'images Pangram (aperçu de la recherche)

Nous sommes ravis d'annoncer la présentation en avant-première d'un tout nouveau produit venant compléter la gamme Pangram : Pangram Image.

Pangram Image est un modèle permettant de détecter les images générées par l'IA. Il détecte les images produites par tous les principaux fournisseurs d'images générées par l'IA, notamment GPT Image d'OpenAI, Nano Banana de Gemini, Midjourney, FLUX et Grok Imagine, ainsi que par certains fournisseurs de vidéos générées par l'IA, tels que Kling, Seedance, Veo et Wan.

Pangram Image surpasse de loin les performances des méthodes de détection d'images par IA les plus avancées, tant universitaires que commerciales. Lors d'un test comparatif interne portant sur 5 détecteurs commerciaux, Pangram Image a atteint une précision de 99,5 %, contre 98 % pour son concurrent le plus proche. Lors de tests comparatifs externes, tels que le NTIRE 2026 AI Image Challenge, Synthbuster et Mirage, Pangram Image atteint systématiquement un AUROC supérieur à 99 % et devance ses concurrents de plusieurs points de pourcentage.

Nous comprenons que, du point de vue des artistes et des créateurs, les fausses accusations d’IA visant des œuvres d’art véritablement authentiques causent un préjudice grave, et nous avons pris des précautions particulières pour éviter que cela ne se produise avec notre modèle. Sur un sous-ensemble de 2 000 images issues de WikiArt, nous avons correctement classé chacune d’entre elles comme étant d’origine humaine. Sur ReLAION, un ensemble de données varié regroupant des images provenant d’Internet antérieures à 2022, notamment des photos, des graphiques web, des images de synthèse (CGI) et bien d’autres, Pangram Image affiche un taux de faux positifs de 0,16 %, soit environ 1 sur 625.

À l'instar de notre modèle textuel phare, nous publions ouvertement notre méthodologie et collaborons avec la communauté scientifique. Pangram Image est disponible dans le tableau de bord en ligne pour tous les utilisateurs de Pangram, qu'ils soient gratuits ou payants, et sera bientôt disponible dans notre extension Chrome ainsi que dans d'autres intégrations.

Bien que nous soyons extrêmement fiers de ce modèle, il ne s'agit pas de la version définitive de Pangram Image, et nous continuerons à l'améliorer et à en augmenter la précision au cours des prochaines semaines. Nous estimons avoir déjà réalisé d'importants progrès, et nous sommes ravis de partager publiquement cette première version du modèle. Pendant la phase de prévisualisation de la recherche, l'accès à l'API Pangram Image se fait uniquement sur invitation. N'hésitez pas à nous contacter si vous souhaitez collaborer avec nous alors que nous faisons évoluer rapidement ce modèle.

Pourquoi maintenant ?

Les images générées par l'IA sont désormais incroyablement réalistes. Autrefois, on pouvait repérer ces images en comptant les doigts ou en recherchant des anomalies dans le texte. Aujourd'hui, les images générées par l'IA suivent des instructions et sont plus réalistes que jamais.

De plus, les images générées par l’IA sont de plus en plus courantes. Sur Internet, on en trouve partout, des vidéos TikTok de « Fruit Love Island » aux vidéos de guerre en Iran générées par l’IA. On entend parler de personnes qui utilisent l’IA pour ajouter des insectes sur une photo de leur plat afin d’obtenir le remboursement de leur commande. On voit même des images manifestement générées par l’IA imprimées sur des menus et des panneaux.

Tout comme pour le texte, tous les cas d’utilisation de l’imagerie générée par l’IA ne sont pas nuisibles. Mais il existe de nombreux scénarios où l’on souhaite vraiment le savoir. Ces derniers mois, une photo de Mitch McConnell à l’hôpital a fait l’objet de spéculations selon lesquelles elle aurait été générée par l’IA (ce qui n’était pas le cas). Des photos du mariage de Taylor Swift générées par l’IA ont circulé sur les réseaux sociaux. Une image générée par l’IA a même été finaliste d’un grand concours de photographie.

Contrairement au texte, des efforts considérables sont déployés pour garantir la traçabilité de la provenance des images et des vidéos. Des initiatives telles que SynthID et C2PA, ainsi que l’utilisation de métadonnées et de filigranes invisibles sur les images, permettent d’identifier la chaîne de provenance des images réelles et de celles générées par l’IA. Malheureusement, les filigranes sont facilement contournés par des outils qui les désossent et suppriment les métadonnées. De plus, alors qu’OpenAI et Google mettent tous deux en œuvre SynthID, ce n’est pas le cas d’autres fournisseurs d’images générées par l’IA, ce qui signifie que se fier uniquement aux filigranes ne permettra jamais d’être pleinement sûr de la provenance d’une image dépourvue de métadonnées.

Fonctionnalités de détection d'images

Nous avons entraîné notre modèle d'image pour qu'il détecte des images provenant d'un large éventail de générateurs d'images basés sur l'IA, notamment GPT Image d'OpenAI, Nano Banana de Gemini, FLUX, Midjourney et Grok Imagine. Ce modèle est également capable de détecter des images extraites de vidéos générées par des générateurs vidéo basés sur l'IA, notamment Kling, Seedance, Veo et Wan.

Dans la plupart des cas, les images retouchées par IA seront identifiées par notre modèle comme étant entièrement générées par IA, en raison de la manière dont les outils modernes de génération d'images recréent l'image dans son intégralité, même lorsque de légères retouches sont apportées.

Notre fonctionnalité de carte thermique nous permet également de détecter les images mixtes : elle vous indique les parties de l'image qui ont été identifiées comme issues de l'IA. En interne, nous avons trouvé cette fonctionnalité utile pour tester des captures d'écran ou des photos du monde réel qui comportent des éléments générés par l'IA, mais qui ne sont pas entièrement générées par l'IA. Nous pensons que le partage de ces informations issues de la carte thermique peut aider les utilisateurs à mieux comprendre notre modèle ; c'est pourquoi nous affichons directement cette carte thermique dans le tableau de bord.

Dans le cadre de cette première version de test, certaines catégories d'images ne sont pas encore prises en charge. Nous ne sommes actuellement pas en mesure de traiter les images dont la résolution est inférieure à 512 × 512 pixels, car la quantité d'informations dont dispose notre modèle est considérablement réduite dans ces images de petite taille. Nous ne sommes pas non plus en mesure de détecter avec certitude les « deepfakes » et les « face swaps », car nous nous sommes concentrés sur les générateurs d'images grand public les plus courants dans cette première version.

Pour des raisons de sécurité, nous ne sommes actuellement pas en mesure de traiter les contenus signalés par nos systèmes de modération comme contenant des images non adaptées au travail (NSFW). Nous pourrons lever cette restriction à l'avenir, à mesure que nous mettrons en place davantage de contrôles de sécurité et que nous sortirons de la phase de préversion de recherche.

Comment nous l'avons conçu

Architecture

Notre modèle s'appuie sur l'architecture DINOv3, référence dans le secteur. DINOv3 est un puissant modèle de représentation en vision par ordinateur à usage général, qui représente les images sous forme de vecteurs, également appelés « embeddings » ou « features » : des listes de nombres qui codent l'ensemble des éléments visuels significatifs d'une image dans un format compressé.

Ces représentations sont suffisamment puissantes pour contenir toutes les informations nécessaires à la résolution d’une grande variété de tâches de vision par ordinateur, telles que la classification, l’estimation de la profondeur ou la segmentation, avec un degré de précision exceptionnel. Notre hypothèse était que, compte tenu de la nature polyvalente de ces représentations et de leur capacité à appréhender à la fois les propriétés locales et globales des images, elles constitueraient un point de départ naturel pour la détection d’images par l’IA.

DINOv3 extrait des caractéristiques d'images polyvalentes qui permettent la classification, la recherche, l'analyse en composantes principales (ACP), la détection, la segmentation et l'estimation de la profondeur.

Image reproduite avec l'aimable autorisation du blog Meta Research

Ce qui rend ces caractéristiques si puissantes, c’est une avancée issue d’une longue lignée de recherches appelée « apprentissage auto-supervisé ». Ces caractéristiques sont acquises par un modèle qui apprend les propriétés générales des images à partir d’ensembles de données à grande échelle, plutôt que d’être optimisées pour une tâche spécifique. DINO, en particulier, utilise une technique appelée « auto-distillation », dans laquelle un réseau neuronal « élève » doit reproduire la sortie d’un réseau neuronal « enseignant » à travers différentes vues et augmentations d’une image. Les schémas et les connaissances du monde que DINO acquiert au cours de son apprentissage le rendent bien plus performant que si l'on avait initialisé au hasard un réseau neuronal et commencé à apprendre la tâche de détection d'images par l'IA à partir de zéro.

Nous constatons toutefois que la détection de l'IA n'est pas une simple tâche en aval. Plutôt que de suivre la procédure classique consistant à entraîner simplement une tête de classification sur des caractéristiques DINO figées, nous recourons à un apprentissage continu afin d'affiner entièrement le réseau de base en même temps que la tête de classification chargée de la détection de l'IA : cela permet aux caractéristiques DINO d'évoluer à mesure que notre modèle acquiert une meilleure compréhension des différences entre les images humaines et celles générées par l'IA au cours de notre deuxième phase d'apprentissage.

Données d'entraînement

La qualité, la diversité et le volume des données sont essentiels pour tout modèle de base, et Pangram Image ne fait pas exception. Nous avons constaté que la composition spécifique des données, qu’il s’agisse d’images créées par l’homme ou générées par l’IA, avait un impact bien plus important sur la précision finale du modèle que tout autre facteur que nous avons testé.

Nous avons longuement décrit notre système de génération de données synthétiques destiné à notre détecteur de textes générés par IA, que nous appelons « synthetic mirroring ». Ce système crée des exemples variés générés par IA en demandant aux modèles d’IA de produire des textes très similaires, mais pas exactement identiques, à des textes humains. Ce système ancre chaque exemple généré par l’IA dans des sujets, des styles, des genres et des informations spécifiques réels, et empêche le modèle de se surajuster aux différences entre des paires de textes humains et générés par l’IA qui n’ont rien à voir avec le style d’écriture de l’IA. En effet, l’ensemble de données d’IA utilisé pour entraîner le détecteur de texte est purement synthétique : cela signifie que nous générons nous-mêmes l’intégralité des données à l’aide d’API LLM.

Pour Pangram Image, nous continuons à recourir à la technique de « miroir synthétique ». Nous utilisons un modèle vision-langage (VLM), c'est-à-dire un modèle linguistique capable de traiter également des images en entrée, afin de générer dans un premier temps une légende extrêmement détaillée d'une image du monde réel. Nous réinjectons ensuite cette légende dans un modèle de génération d'images en tant que consigne. Parfois, les images se ressemblent de manière troublante !

Une photo de notre équipe et de son miroir synthétique généré par IA

Une photo de notre équipe et de son miroir synthétique généré par IA

L’un des défis auxquels nous avons été confrontés dès le début du développement de Pangram Image était que les types d’images produites par nos miroirs synthétiques ne correspondaient pas à la distribution des images générées par IA réelles que les utilisateurs publiaient en ligne. Nous avons réalisé que notre technique de mise en miroir synthétique était insuffisante pour simuler la distribution complexe des images générées par IA que l’on trouve « à l’état sauvage » sur Internet. Lorsqu’ils créent des images générées par IA, les utilisateurs les recadrent et les retouchent souvent d’une manière difficile à simuler.

Notre solution a finalement consisté à nous appuyer beaucoup plus fortement sur des images d’IA issues du monde réel et provenant d’Internet, en complément des images que nous avons générées de manière synthétique en interne. Nous avons constitué nos ensembles de données issues du monde réel dans le respect des principes éthiques du scraping, afin de garantir le respect du travail des créateurs et d’éviter de collecter par inadvertance des données à caractère personnel ou des données dont l’utilisation n’aurait pas été autorisée par les créateurs. De plus, nous appliquons des augmentations importantes au cours de notre processus d’entraînement afin de refléter la manière dont les images sont déformées, compressées et retouchées lorsqu’elles sont partagées en ligne.

Image d'origine avant l'augmentation

La même image après augmentation — recadrée, redimensionnée et compressée

Image d'origine avant l'augmentation

La même image après augmentation — recadrée, redimensionnée et compressée

Original Enrichi

Nous nous appuyons également sur un nouveau système, l’entraînement composite, pour générer des cartes thermiques de haute qualité facilitant l’interprétation des images mixtes (IA/humaines). Dans le cadre de l’entraînement composite, nous superposons des images générées par l’IA et des images prises par des humains afin d’entraîner notre modèle à comprendre à la fois les caractéristiques locales et globales. Cela nous permet de présenter des cartes thermiques dans notre modèle, ce qui, selon nous, renforce considérablement la confiance des utilisateurs et permet de scanner des objets du monde réel contenant des images générées par l’IA.

La formation combinée intègre des images générées par l'IA et des images prises par des humains, ce qui permet au modèle d'apprendre à la fois des caractéristiques locales et globales, et de produire des cartes thermiques interprétables.

Évaluation et tests

Des évaluations rigoureuses sont au cœur de notre stratégie pour l'ensemble de nos produits. Pour Pangram Image, nous avons créé un grand nombre d'ensembles d'évaluation afin de mesurer nos performances dans divers domaines. L'approvisionnement éthique en données revêt une importance capitale pour notre mission et nos valeurs en tant qu'entreprise : dans le cadre de cet engagement, nous avons collaboré avec plusieurs personnes, tant au sein de Pangram qu'à l'extérieur, afin de recueillir des images offertes par leurs propriétaires dans le but de faire progresser la détection d'images par l'IA.

Test comparatif des détecteurs croisés

Nous avons créé un ensemble de référence interne composé de 1 130 images d'exemple afin de comparer, de manière économique, divers détecteurs d'images basés sur l'IA disponibles dans le commerce. Nous avons rassemblé 500 exemples d'images représentant des personnes identifiées, dont 100 provenant de la galerie photo personnelle de l'iPhone de notre directeur technique, Bradley, afin de garantir qu'une partie de cet ensemble de référence n'ait jamais été vue par aucun des modèles de détection d'images basés sur l'IA.

Nous avons ensuite demandé à Claude de créer 100 prompts reflétant des cas d’utilisation concrets de la génération d’images par IA, puis nous avons soumis ces prompts à cinq modèles de pointe de génération d’images par IA : Flux 2 Pro, Bytedance Seedream, Gemini 3.1 Flash Image (Nano Banana), GPT Image et Riverflow v2. Enfin, nous avons récupéré 30 images sur le site web de Midjourney (car celui-ci ne dispose pas d’API).

Nous présentons ici les résultats obtenus à la fois sur des données brutes et sur des données augmentées, ce qui implique de réduire la résolution à 1024 × 1024 et de convertir l'image au format JPEG avec un niveau de qualité de 50. Ce niveau de compression est plus élevé que celui de la plupart des images réelles ; nous estimons donc qu'il constitue un bon indicateur de qualité dans les scénarios les plus défavorables.

Nettoyer

Augmenté

Taux de faux positifs

Afin de comprendre le fonctionnement de notre FPR à grande échelle, nous avons effectué des évaluations sur des images antérieures à 2022 issues du jeu de données ReLAION, provenant de Common Crawl, qui propose un ensemble très varié d’images provenant de l’ensemble du Web. Nous avons limité notre sélection aux images antérieures à 2022 afin d’éviter toute contamination des données par des modèles de génération d’images.

Généralisation aux vidéos générées par l'IA

Afin de déterminer si nous étions également en mesure de détecter des contenus vidéo générés par l'IA, nous avons également créé un ensemble de données interne composé de vidéos issues des modèles de génération vidéo de pointe. Ces vidéos ont été générées à partir de photos réelles de personnes issues de notre ensemble de données.

Ces images vidéo ont été annotées à l'aide d'un VLM Gemini. Nous présentons nos résultats pour 9 modèles vidéo : Google Veo 3.1 et Veo3.1 Fast, Wan2.7, Grok Image Video, Kling Video O1 et 3.0 Standard, Seedance 2.0 et 2.0 Fast.

Généralisation aux images générées par l'IA sur les réseaux sociaux dans le monde réel

Notre nouveau compte @PangramData a notamment constitué l’une des sources de ces évaluations. Nous tenons à remercier la communauté de nous avoir aidés à mieux comprendre l’utilisation de l’IA dans la vie réelle et d’avoir pris le temps de partager ces résultats avec nous. Après avoir nettoyé manuellement les données pour supprimer les images qui ne correspondaient pas au sujet ou qui n'étaient manifestement pas issues de l'IA, nous avons constaté que notre modèle ne correspondait pas aux images soumises pour seulement 2 des 43 images que nous avons reçues. Il s'agit d'un ensemble de données extrêmement utile pour nous, car il nous permet de bien comprendre les types d'images que nos utilisateurs considèrent comme issues de l'IA.

Conflits de faux négatifs :

Un désaccord de type « faux négatif » entre notre modèle et la proposition de la communauté

Un désaccord de type « faux négatif » entre notre modèle et la proposition de la communauté

Tests de performance réalisés par des organismes indépendants

Outre nos ensembles d'évaluation internes, nous comparons également nos résultats à ceux obtenus sur des benchmarks tiers pertinents. Pangram Image atteint des performances de pointe par rapport aux approches précédentes. Les différents benchmarks utilisent des indicateurs spécifiques variés, tels que la précision macro, le mAP ou l'AUROC ; nous calculons donc ces indicateurs conformément aux spécifications de chaque article et présentons la comparaison la plus proche de celle indiquée dans ces publications.

Étude de cas Reddit r/IsThisAI

L’une des meilleures sources dont nous disposons pour évaluer l’avis de la communauté sur la nature « IA » ou non d’images du monde réel est le subreddit /r/IsThisAI. Cela en fait une étude de cas représentative de l’alignement de notre modèle avec les préférences humaines, et nous permet d’identifier les modes de défaillance de notre modèle. Pour cette étude de cas, nous avons recueilli un ensemble de 100 publications issues de ce subreddit. Parmi celles-ci, 27 ne faisaient pas l'objet d'un consensus clair au sein de la communauté et ont donc été exclues de notre ensemble d'évaluation. Le consensus a été évalué par un annotateur humain.

Sur les 73 images restantes, 48 ont été classées comme « IA » par la communauté, tandis que les 25 autres ont été classées comme « humaines ». Pangram Image a correctement suivi la décision de Reddit pour les 25 échantillons « humains » et pour 40 des 45 échantillons « IA », qu’il a classés comme « IA ». Cela s’inscrit dans notre politique visant à calibrer nos modèles afin de minimiser les risques de faux positifs.

Quelle est la prochaine étape pour Pangram Image ?

Même si nous estimons qu’il s’agit d’un excellent modèle et que nous envisageons l’avenir avec enthousiasme, nous savons qu’il reste encore beaucoup à faire. En matière de recherche, nous savons que les performances peuvent être améliorées dans des cas adversariaux, par exemple lorsque les filigranes sont supprimés ou que les images générées par l’IA sont modifiées après leur création. De plus, nous prévoyons de continuer à réduire le taux de faux positifs pour le rapprocher de celui de notre modèle textuel.

En ce qui concerne le produit, des améliorations sont prévues au fil du temps. Le bot X sera bientôt capable de détecter les images générées par l'IA, et le tableau de bord pourra accepter des vidéos comme données d'entrée. À terme, nous intégrerons Pangram Image à l'extension Chrome, afin que tous les utilisateurs de Pangram bénéficient d'étiquettes IA proactives sur les images de leurs flux sociaux.

Références

1 : Park et al., « Community Forensics : Utilisation de milliers de générateurs pour entraîner des détecteurs d’images falsifiées », CVPR 2025. https://huggingface.co/datasets/OwensLab/CommunityForensics-Eval/blob/main/README.md 2 : Qin et al., « Scaling Up AI-Generated Image Detection with Generator-Aware Prototypes », CVPR 2026, tableau 1. https://openaccess.thecvf.com/content/CVPR2026/papers/Qin_Scaling_Up_AI-Generated_Image_Detection_with_Generator-Aware_Prototypes_CVPR_2026_paper.pdf 3 : Guo et al., « OmniAID : Decoupling Semantic and Artifacts for Universal AI-Generated Image Detection in the Wild », https://arxiv.org/pdf/2511.08423 4 : Pantsios et al., « Collecte automatisée de données en milieu réel pour la détection continue d’images générées par l’IA », https://arxiv.org/pdf/2605.02567 5 : Gushchin et al., « NTIRE 2026 Challenge on Robust AI-Generated Image Detection in the Wild », https://arxiv.org/pdf/2604.11487

Remerciements

Nous tenons à remercier Artem Frenk pour ses contributions à la recherche, Ben Glickenhaus pour le développement technique, Lu Lyu et Fanyi Pan pour la conception et l'interface utilisateur, ainsi que Tianxu Zhou pour l'intégration de l'extension Chrome.