Presentazione di Pangram Image Detection (anteprima di ricerca)

Siamo lieti di annunciare un'anteprima di ricerca relativa a una novità assoluta nella famiglia di modelli Pangram: Pangram Image.

Pangram Image è un modello per il rilevamento di immagini generate dall'intelligenza artificiale. Rileva le immagini prodotte da tutti i principali fornitori di immagini generate dall'IA, tra cui GPT Image di OpenAI, Nano Banana di Gemini, Midjourney, FLUX e Grok Imagine, nonché da alcuni fornitori di video generati dall'IA, tra cui Kling, Seedance, Veo e Wan.

Pangram Image supera di gran lunga le prestazioni dei metodi accademici e commerciali all’avanguardia nel campo del rilevamento di immagini tramite IA. In un benchmark interno che ha messo a confronto 5 rilevatori commerciali, Pangram Image raggiunge un'accuratezza del 99,5%, rispetto al 98% del concorrente più vicino. Nei benchmark esterni, come l'NTIRE 2026 AI Image Challenge, Synthbuster e Mirage, Pangram Image raggiunge costantemente un AUROC superiore al 99% e supera i concorrenti di diversi punti percentuali.

Siamo consapevoli che, dal punto di vista degli artisti e dei creatori, le false accuse di "arte generata dall'IA" rivolte a opere autentiche causano gravi danni, e abbiamo prestato particolare attenzione affinché ciò non accadesse con il nostro modello. Su un sottoinsieme di 2.000 immagini presenti in WikiArt, abbiamo classificato correttamente ogni singola immagine come opera realizzata dall’uomo. Su ReLAION, un dataset eterogeneo di immagini provenienti da Internet e risalenti a prima del 2022, che include foto, grafica web, immagini generate al computer (CGI) e altro ancora, Pangram Image mostra un tasso di falsi positivi dello 0,16%, pari a circa 1 su 625.

Come per il nostro modello di testo di punta, rendiamo pubblica la nostra metodologia e collaboriamo attivamente con la comunità scientifica. Pangram Image è disponibile nella dashboard web per tutti gli utenti Pangram, sia gratuiti che a pagamento, e sarà presto disponibile anche nella nostra estensione per Chrome e in altre integrazioni.

Sebbene siamo incredibilmente orgogliosi di questo modello, questa non è la versione definitiva di Pangram Image e nelle prossime settimane continueremo a perfezionarlo per migliorarne l’accuratezza. Riteniamo di aver già compiuto grandi progressi e siamo entusiasti di condividere pubblicamente questa prima versione del modello. Durante la fase di anteprima della ricerca, l’accesso all’API di Pangram Image è riservato esclusivamente su invito. Vi invitiamo a contattarci se siete interessati a collaborare con noi mentre continuiamo a perfezionare rapidamente questo modello.

Perché proprio adesso?

Le immagini generate dall'intelligenza artificiale sono diventate incredibilmente realistiche. In passato, era possibile riconoscere le immagini generate dall'intelligenza artificiale contando le dita o individuando errori nel testo. Oggi, le immagini generate dall'intelligenza artificiale seguono le istruzioni e sono più realistiche che mai.

Inoltre, le immagini generate dall’IA sono sempre più diffuse. Online, si trovano ovunque: dai TikTok di “Fruit Love Island” ai video sulla guerra in Iran generati dall’IA. Si sentono storie di persone che usano l’IA per aggiungere insetti in una foto della propria insalatiera, al fine di ottenere un rimborso sulla consegna. Si vedono persino immagini palesemente generate dall’IA stampate su menu e cartelli.

Proprio come nel caso dei testi, non tutti gli utilizzi delle immagini generate dall’IA sono dannosi. Tuttavia, ci sono molti scenari in cui vorremmo davvero saperlo. Negli ultimi mesi, è circolata un’immagine di Mitch McConnell in ospedale che molti hanno ipotizzato fosse generata dall’IA (ma non lo era). Sui social media sono circolate foto del matrimonio di Taylor Swift generate dall’IA. Un’immagine generata dall’IA è arrivata addirittura in finale in un importante concorso fotografico.

A differenza del testo, si stanno compiendo notevoli sforzi per garantire che sia possibile tracciare la provenienza di immagini e video. Iniziative come SynthID e C2PA, i metadati e le filigrane invisibili applicate alle immagini, consentono di identificare la catena di provenienza sia delle immagini reali che di quelle generate dall’IA. Purtroppo, le filigrane vengono facilmente aggirate da strumenti in grado di decodificarle e di rimuovere i metadati. Inoltre, mentre OpenAI e Google implementano entrambi SynthID, altri fornitori di immagini generate dall’IA non lo fanno, il che significa che affidarsi esclusivamente alle filigrane non consentirà mai di avere piena certezza sulla provenienza di un’immagine priva di metadati.

Funzionalità di rilevamento delle immagini

Abbiamo addestrato il nostro modello di analisi delle immagini a riconoscere immagini provenienti da un'ampia gamma di generatori di immagini basati sull'intelligenza artificiale, tra cui GPT Image di OpenAI, Nano Banana di Gemini, FLUX, Midjourney e Grok Imagine. Questo modello è inoltre in grado di riconoscere fotogrammi provenienti da generatori di video basati sull'intelligenza artificiale, tra cui Kling, Seedance, Veo e Wan.

Nella maggior parte dei casi, le immagini modificate dall'IA verranno contrassegnate dal nostro modello come interamente generate dall'IA, poiché i moderni strumenti di generazione delle immagini ricreano l'intera immagine anche quando vengono apportate piccole modifiche.

Possiamo inoltre individuare immagini miste grazie alla nostra funzione "mappa termica", che mostra quali parti dell'immagine sono state segnalate come generate dall'IA. A livello interno, abbiamo riscontrato che questa funzione è utile per testare screenshot o foto del mondo reale che includono elementi generati dall'IA all'interno della scena, ma che non sono interamente generate dall'IA. Riteniamo che condividere queste informazioni della mappa termica possa aiutare gli utenti a comprendere meglio il nostro modello, pertanto stiamo rendendo visibile questa mappa termica direttamente nella dashboard.

In questa prima anteprima della ricerca, alcune categorie di immagini non sono ancora state prese in considerazione. Al momento non siamo in grado di elaborare immagini di dimensioni inferiori a 512 × 512 pixel, poiché in queste immagini più piccole la quantità di informazioni a disposizione del nostro modello è notevolmente ridotta. Inoltre, non siamo in grado di rilevare con certezza i deepfake e gli scambi di volti, poiché in questa versione iniziale ci siamo concentrati sui generatori di immagini più comuni utilizzati dai consumatori.

Per motivi di sicurezza, al momento non siamo inoltre in grado di elaborare i contenuti segnalati dai nostri sistemi di moderazione perché contenenti immagini non adatte al lavoro (NSFW). Potremo rimuovere questa restrizione in futuro, man mano che svilupperemo ulteriori controlli di sicurezza e usciremo dalla fase di anteprima di ricerca.

Come l'abbiamo realizzato

Architettura

Il nostro modello si basa sull'architettura DINOv3, uno standard del settore. DINOv3 è un potente modello di rappresentazione per la visione artificiale a uso generico, che rappresenta le immagini come vettori, noti anche come embedding o caratteristiche: elenchi di numeri che codificano tutte le informazioni visive rilevanti di un'immagine in un formato compresso.

Queste rappresentazioni sono talmente potenti da contenere tutte le informazioni necessarie per risolvere una vasta gamma di compiti di visione artificiale, quali la classificazione, la stima della profondità o la segmentazione, con un grado di accuratezza eccezionale. La nostra ipotesi era che, data la natura generica di queste rappresentazioni e la loro capacità di cogliere sia le proprietà locali che quelle globali delle immagini, esse potessero costituire un punto di partenza naturale per il rilevamento delle immagini tramite l’intelligenza artificiale.

DINOv3 estrae caratteristiche delle immagini di uso generale che supportano la classificazione, il recupero, l'analisi PCA, il rilevamento, la segmentazione e la stima della profondità

Immagine per gentile concessione di: Meta Research Blog

Ciò che rende queste caratteristiche così potenti è un progresso derivante da una lunga linea di ricerca denominata “apprendimento auto-supervisionato”. Queste caratteristiche vengono apprese da un modello che apprende le proprietà generali delle immagini su set di dati su larga scala, anziché essere ottimizzate per un compito specifico. DINO, in particolare, utilizza una tecnica chiamata “auto-distillazione”, in cui una rete neurale “allieva” deve riprodurre l’output di una rete neurale “maestra” attraverso diverse viste e aumentazioni di un’immagine. I modelli e la conoscenza del mondo che DINO acquisisce nel corso del suo addestramento lo rendono molto più potente rispetto a quanto si otterrebbe inizializzando casualmente una rete neurale e iniziando ad apprendere il compito di rilevamento delle immagini tramite IA partendo da zero.

Abbiamo tuttavia riscontrato che il rilevamento dell’IA non è solo un’ordinaria attività a valle. Anziché seguire la procedura tipica che consiste semplicemente nell’addestrare un modulo di classificazione sulla base di caratteristiche DINO fisse, utilizziamo invece l’addestramento continuativo per ottimizzare completamente la struttura portante insieme al modulo di classificazione per il rilevamento dell’IA: ciò consente alle caratteristiche DINO di evolversi man mano che il nostro modello acquisisce una comprensione delle differenze tra le immagini umane e quelle generate dall’IA nel corso della nostra seconda fase di addestramento.

Dati di addestramento

La qualità, la diversità e la mole dei dati sono fondamentali per qualsiasi modello di base, e Pangram Image non fa eccezione. Abbiamo riscontrato che la composizione specifica dei dati, sia per le immagini generate dall’uomo che per quelle generate dall’IA, ha avuto un impatto maggiore sull’accuratezza finale del modello rispetto a qualsiasi altro fattore che abbiamo preso in considerazione.

Abbiamo scritto ampiamente del nostro sistema di generazione di dati sintetici per il nostro rilevatore di testi generati dall’IA, che chiamiamo “synthetic mirroring”. Il sistema di “synthetic mirroring” crea esempi di testi generati dall’IA molto vari, stimolando i modelli di IA a produrre testi che appaiano molto simili, ma non esattamente identici, a quelli scritti da esseri umani. Questo sistema fonda ogni esempio generato dall’IA su argomenti, stili, generi e informazioni specifiche reali, impedendo al modello di subire un overfitting dovuto alle differenze tra coppie di testi umani e generati dall’IA che non hanno nulla a che vedere con lo stile di scrittura dell’IA. Infatti, il set di dati generato dall’IA utilizzato per l’addestramento del rilevatore di testi è puramente sintetico: ciò significa che generiamo noi stessi tutti i dati utilizzando le API LLM.

Per Pangram Image continuiamo a utilizzare la tecnica del mirroring sintetico. Utilizziamo un modello visione-linguaggio (VLM), ovvero un modello linguistico in grado di accettare anche immagini come input, per generare innanzitutto una didascalia estremamente dettagliata di un’immagine del mondo reale. Successivamente, inseriamo tale didascalia in un modello di generazione di immagini come prompt. A volte, le immagini risultano stranamente simili!

Una foto della nostra squadra e del suo specchio sintetico basato sull'intelligenza artificiale

Una foto della nostra squadra e del suo specchio sintetico basato sull'intelligenza artificiale

Una delle sfide che abbiamo affrontato sin dall’inizio nello sviluppo di Pangram Image è stata che i tipi di immagini prodotte dai nostri “specchi sintetici” non corrispondevano alla distribuzione delle immagini generate dall’IA nel mondo reale che le persone pubblicavano online. Ci siamo resi conto che la nostra tecnica di mirroring sintetico non era sufficiente a simulare la complessa distribuzione delle immagini generate dall’IA che si possono trovare online “in ambiente reale”. Quando si creano immagini generate dall’IA, spesso le persone le ritagliano e le modificano in modi difficili da simulare.

La nostra soluzione è stata, in definitiva, quella di fare molto maggiore affidamento su immagini di IA del mondo reale provenienti da Internet, oltre alle immagini che abbiamo generato sinteticamente internamente. Abbiamo creato i nostri set di dati del mondo reale nel rispetto dei principi etici dello scraping, per garantire il rispetto del lavoro dei creatori ed evitare di acquisire inavvertitamente dati personali o dati il cui utilizzo non sarebbe stato autorizzato dai creatori stessi. Inoltre, durante il processo di addestramento applichiamo potenti tecniche di potenziamento per assicurarci di cogliere i modi in cui le immagini vengono distorte, compresse e modificate quando vengono condivise online.

Immagine originale prima dell'aumento

La stessa immagine dopo l'aumento della risoluzione: ritagliata, ridimensionata e compressa

Immagine originale prima dell'aumento

La stessa immagine dopo l'aumento della risoluzione: ritagliata, ridimensionata e compressa

Originale Arricchito

Ci avvaliamo inoltre di un nuovo sistema, l’addestramento composito, per fornire mappe di calore di alta qualità che facilitino l’interpretazione delle immagini miste generate dall’IA e dall’uomo. Nell’addestramento composito, sovrapponiamo immagini generate dall’IA e immagini create dall’uomo per addestrare il nostro modello a comprendere sia le caratteristiche locali che quelle globali. Ciò ci consente di presentare mappe di calore nel nostro modello, il che, a nostro avviso, migliora significativamente la fiducia degli utenti e permette di analizzare oggetti del mondo reale che contengono immagini generate dall’IA.

Il modello di addestramento combina immagini generate dall'IA e immagini reali, in modo che il modello apprenda sia le caratteristiche locali che quelle globali, generando mappe di calore interpretabili

Valutazione e collaudo

Valutazioni affidabili sono fondamentali per la nostra strategia su tutti i nostri prodotti. Per Pangram Image, abbiamo creato un gran numero di set di valutazione per misurare le nostre prestazioni in diversi ambiti. L’acquisizione etica dei dati è estremamente importante per la nostra missione e i nostri valori come azienda: nell’ambito di questo impegno, abbiamo collaborato con diverse persone, sia all’interno che all’esterno di Pangram, per raccogliere immagini donate dai rispettivi proprietari a sostegno del progresso nel campo del rilevamento delle immagini tramite IA.

Test comparativo tra rilevatori

Abbiamo creato un benchmark interno composto da 1.130 immagini di esempio per confrontare, in modo economicamente vantaggioso, una serie di rilevatori di immagini basati sull’intelligenza artificiale disponibili in commercio. Abbiamo raccolto 500 immagini di persone note, tra cui 100 immagini provenienti dal rullino fotografico dell’iPhone personale del nostro CTO Bradley, per garantire che alcune delle immagini del benchmark non fossero mai state viste da nessuno dei modelli di rilevamento di immagini basati sull’intelligenza artificiale.

Abbiamo quindi chiesto a Claude di creare 100 prompt che riflettessero casi d’uso reali della generazione di immagini tramite IA, e abbiamo fornito questi prompt a 5 modelli all’avanguardia di generazione di immagini tramite IA: Flux 2 Pro, Bytedance Seedream, Gemini 3.1 Flash Image (Nano Banana), GPT Image e Riverflow v2. Infine, abbiamo reperito 30 immagini dal sito web di Midjourney (poiché non dispongono di un’API).

Presentiamo i risultati sia sui dati non elaborati, sia sui dati potenziati, il cui trattamento prevede il ridimensionamento a 1024x1024 e la conversione dell’immagine in formato JPEG con qualità pari a 50. Si tratta di un livello di compressione dell’immagine superiore a quello della maggior parte delle immagini reali; riteniamo quindi che ciò fornisca una buona misura della qualità negli scenari più sfavorevoli.

Pulisci

Aumentato

Tasso di falsi positivi

Per comprendere il funzionamento del nostro FPR su larga scala, abbiamo effettuato una valutazione su immagini precedenti al 2022 provenienti dal dataset ReLAION, tratto da Common Crawl, che offre una raccolta estremamente variegata di immagini provenienti da tutto il web. Abbiamo filtrato i dati limitandoci a quelli precedenti al 2022 per evitare la contaminazione dei dati da parte dei modelli di generazione di immagini.

Estensione ai video sull'intelligenza artificiale

Per verificare se fossimo in grado di rilevare anche contenuti video generati dall’intelligenza artificiale, abbiamo creato un set di dati interno composto da video prodotti dai modelli di generazione video all’avanguardia. Questi video sono stati generati a partire da foto reali di persone presenti nel nostro set di dati.

Questi fotogrammi video sono stati etichettati con Gemini VLM. Presentiamo i nostri risultati relativi a 9 modelli video: Google Veo 3.1 e Veo3.1 Fast, Wan2.7, Grok Image Video, Kling Video O1 e 3.0 Standard, Seedance 2.0 e 2.0 Fast.

Generalizzazione alle immagini generate dall'IA sui social media nel mondo reale

Una delle fonti di queste valutazioni è stato il nostro nuovo account @PangramData. Vorremmo ringraziare la comunità per averci aiutato a comprendere l’utilizzo dell’IA nel mondo reale e per aver dedicato del tempo a condividere con noi questi risultati. Dopo aver pulito manualmente i dati per rimuovere le immagini che non rientravano nell’ambito di analisi o che chiaramente non erano frutto dell’IA, abbiamo riscontrato che il nostro modello non era d’accordo con le immagini inviate solo in 2 casi su 43. Si tratta di un set di dati incredibilmente utile per noi, poiché ci fornisce una solida comprensione dei tipi di immagini che i nostri utenti ritengono siano frutto dell’IA.

Disaccordi di tipo "falso negativo":

Una discrepanza di tipo "falso negativo" tra il nostro modello e il contributo della comunità

Una discrepanza di tipo "falso negativo" tra il nostro modello e il contributo della comunità

Test prestazionali di terze parti

Oltre ai nostri set di valutazione interni, confrontiamo i nostri risultati anche con benchmark di terze parti pertinenti. Pangram Image raggiunge prestazioni all’avanguardia rispetto agli approcci precedenti. I diversi benchmark riportano metriche specifiche diverse, quali l’accuratezza macro, l’mAP o l’AUROC; pertanto, calcoliamo le metriche in base al documento specifico e riportiamo il confronto più vicino a quanto indicato.

Caso di studio su Reddit r/IsThisAI

Una delle migliori fonti a nostra disposizione per valutare il giudizio della comunità sul fatto che le immagini del mondo reale siano o meno generate dall’IA è il subreddit /r/IsThisAI. Ciò lo rende un valido caso di studio rappresentativo per verificare l’allineamento del nostro modello alle preferenze umane e ci permette di individuare le modalità di errore del nostro modello. Per questo caso di studio, abbiamo raccolto un insieme di 100 post dal subreddit. Di questi, 27 non presentavano un chiaro consenso da parte della comunità del subreddit e, di conseguenza, sono stati esclusi dal nostro insieme di valutazione. Il consenso è stato valutato da un annotatore umano.

Delle restanti 73 immagini, 48 sono state classificate come "AI" dalla comunità, mentre le altre 25 sono state classificate come "umane". Pangram Image ha concordato correttamente con la decisione di Reddit su tutti i 25 campioni "umani" e su 40 dei 45 campioni "AI", classificandoli come "AI". Ciò è in linea con la nostra politica di calibrare i nostri modelli per ridurre al minimo la possibilità che si verifichino falsi positivi.

Quali sono i prossimi passi per Pangram Image?

Sebbene riteniamo che questo sia un ottimo modello e guardiamo con entusiasmo al futuro, sappiamo che c’è ancora molto da fare. Dal punto di vista della ricerca, sappiamo che è possibile migliorare le prestazioni nei casi di attacchi avversariali, ad esempio quando vengono rimossi i watermark o le immagini generate dall’IA vengono modificate dopo la generazione. Inoltre, intendiamo continuare a ridurre il tasso di falsi positivi fino a un livello più vicino a quello del nostro modello di testo.

Per quanto riguarda il prodotto, sono previsti miglioramenti nel corso del tempo. Il bot X sarà presto in grado di rilevare le immagini generate dall’IA, mentre la dashboard potrà accettare video come input. Infine, integreremo Pangram Image nell’estensione per Chrome, in modo che tutti gli utenti di Pangram ricevano etichette proattive generate dall’IA sulle immagini presenti nei loro feed social.

Bibliografia

1: Park et al., “Community Forensics: Utilizzo di migliaia di generatori per addestrare i rilevatori di immagini false”, CVPR 2025. https://huggingface.co/datasets/OwensLab/CommunityForensics-Eval/blob/main/README.md 2: Qin et al., “Scaling Up AI-Generated Image Detection with Generator-Aware Prototypes,” CVPR 2026, Tabella 1. https://openaccess.thecvf.com/content/CVPR2026/papers/Qin_Scaling_Up_AI-Generated_Image_Detection_with_Generator-Aware_Prototypes_CVPR_2026_paper.pdf 3: Guo et al., “OmniAID: Decoupling Semantic and Artifacts for Universal AI-Generated Image Detection in the Wild,” https://arxiv.org/pdf/2511.08423 4: Pantsios et al., “Raccolta automatizzata di dati in contesti reali per il rilevamento continuo di immagini generate dall’IA,” https://arxiv.org/pdf/2605.02567 5: Gushchin et al., “NTIRE 2026 Challenge on Robust AI-Generated Image Detection in the Wild,” https://arxiv.org/pdf/2604.11487

Ringraziamenti

Desideriamo ringraziare Artem Frenk per il contributo alla ricerca, Ben Glickenhaus per la parte ingegneristica, Lu Lyu e Fanyi Pan per il design e l'interfaccia utente, e Tianxu Zhou per l'integrazione dell'estensione per Chrome.