Sì, il rilevamento tramite intelligenza artificiale può essere accurato

In breve: gli studiosi e i moderatori dei contenuti dovrebbero rivedere le loro valutazioni sugli strumenti di rilevamento dell'IA o sui "checker" basati sull'IA. Il consenso raggiunto nel 2023 sulla base di articoli accademici e dei media mainstream è ormai superato. I più recenti modelli di rilevamento dell'IA, come Pangram, non solo hanno raggiunto il livello dei più recenti modelli di linguaggio (LLM), ma sono stati progettati per resistere alle sfide del futuro.

Come siamo arrivati a questo punto: una breve storia del rilevamento dell'IA

Quando ChatGPT è stato lanciato nel 2022, scrittori e creatori di contenuti si sono riversati su questo nuovo strumento di intelligenza artificiale per creare contenuti. Da allora non si è più fermato. I creatori hanno sfruttato ChatGPT (e altri modelli di IA) e i suoi concorrenti per scrivere di tutto, da documenti di grandi dimensioni come articoli di ricerca e romanzi a brevi frammenti come e-mail, commenti su Reddit e recensioni su Amazon. I contenuti generati dall'IA hanno invaso Internet. Tuttavia, sin dall'avvento degli LLM, c'è stata la richiesta di distinguere ciò che è scritto dall'uomo da ciò che è scritto dall'IA. OpenAI ha effettivamente colto questa esigenza e ha creato un prodotto in grado di classificare il testo come generato dall'IA. Con l'aumentare dell'adozione dell'IA, è cresciuta la domanda di rilevatori o classificatori di IA, in particolare nelle scuole e nelle università dove l'integrità accademica era fondamentale. Alcuni studenti (che spesso sono i primi ad adottare le novità) hanno utilizzato i modelli più recenti per portare a termine i compiti, sostenere gli esami e presentare domanda di ammissione all'università. Alcuni ricercatori, sotto pressione per i tempi, hanno preso delle scorciatoie e hanno presentato lavori scritti o assistiti dall'IA per le pubblicazioni. Pertanto, sono stati lanciati molti strumenti nella speranza di affrontare queste preoccupazioni. Gli operatori storici del software accademico come TurnItIn hanno lanciato uno strumento nell'aprile 2023 chiamato AI Checker per soddisfare i clienti esistenti nel settore dell'istruzione. Anche Grammarly ha lanciato il proprio strumento nel 2024 chiamato Grammarly Authorship. L'idea prevalente di queste aziende era che, se i loro strumenti erano in grado di identificare il plagio, avrebbero dovuto identificare anche l'IA. L'istruzione superiore, in particolare, doveva passare dai "controllori di plagio" ai "controllori di IA". Tuttavia, era chiaro fin dall'inizio che questo non avrebbe funzionato.

I primi rilevatori di IA promettevano precisione basandosi sui concetti di "perplexity" e "burstiness". Il CTO di Pangram, Bradley Emi, spiega questi termini:«La "perplexity" indica quanto ogni parola in un testo sia inaspettata o sorprendente. La "burstiness" è la variazione della "perplexity" nel corso di un documento. Se nel documento sono disseminate parole e frasi sorprendenti, allora la "burstiness" è elevata».

Non ci soffermeremo su questi termini, ma affidarsi eccessivamente a questi fattori nella creazione di uno strumento di rilevamento dell'IA comporta tre difetti ricorrenti:

• Questi strumenti a volte risultano inaffidabili se utilizzati su modelli diversi come Claude, GPT-4, ecc.
• Questi strumenti non migliorano col passare del tempo; pertanto, apportare piccole modifiche ai modelli di linguaggio di grandi dimensioni (LLM) ne ridurrebbe l'accuratezza.
• Hanno erroneamente classificato i testi in inglese non madrelingua (ESL) come generati dall'intelligenza artificiale

Si tratta di preoccupazioni concrete, in particolare per le istituzioni accademiche. Le conseguenze di accusare ingiustamente studenti e ricercatori di ricorrere all’IA nei loro studi e nelle loro pubblicazioni sono enormi: possono compromettere intere carriere. È incredibilmente rischioso affidarsi a strumenti con un’efficacia anche solo del 95% nel filtrare i contenuti generati dall’IA. Pertanto, molte istituzioni accademiche di primo piano come il MIT, la Vanderbilt e l'Università della California a Berkeley non sostengono l'uso dei rilevatori di IA da parte dei propri docenti. In molti casi, hanno citato articoli di ricerca specifici che descrivevano le scarse prestazioni dei rilevatori di IA, come "Testing of Detection Tools for AI-Generated Text", e articoli di settore come " Why AI writing detectors don’t work".

OpenAI ha ritenuto questi problemi talmente complessi da decidere di abbandonare il proprio classificatore di testo basato sull'intelligenza artificiale nel luglio 2023, affermando che «il classificatore non è più disponibile a causa del suo basso tasso di accuratezza». Molti dirigenti scolastici sono giunti a una conclusione: se OpenAI non ci riesce, probabilmente è impossibile.

Mentre le principali università e l'opinione pubblica erano concordi nel ritenere che la promessa del rilevamento tramite IA fosse irrealizzabile o addirittura una truffa, aziende come Pangram Labs hanno apportato miglioramenti significativi in questo campo, rendendo il rilevamento tramite IA uno strumento fondamentale sia in ambito universitario che aziendale.

Perché il rilevamento dell'IA sarà diverso nel 2025

Il rilevamento dell'intelligenza artificiale viene spesso descritto come una corsa agli armamenti tra studenti alla ricerca di scorciatoie e docenti intenzionati a distinguere ciò che è scritto da esseri umani da ciò che non lo è. Nel 2025, i sistemi di rilevamento hanno alzato la posta in gioco.

Nell'agosto del 2025, due ricercatori della Chicago Booth, Brian Jabarian e Alex Emi, hanno pubblicato un articolo intitolato Scrittura artificiale e rilevamento automatizzato, in cui affermano che «la maggior parte dei rilevatori di IA commerciali funziona molto bene, con Pangram in particolare che raggiunge tassi di falsi positivi e falsi negativi vicini allo zero». Definiscono Pangram «l’unico rilevatore che soddisfa un limite rigoroso (tassi di falsi positivi ≤ 0,005) senza compromettere la capacità di rilevare con precisione i testi generati dall’IA». Questo è un esempio di quanto sia progredito il rilevamento dell'IA in pochi anni. Ma come è successo?

In primo luogo, i ricercatori nel campo dell'intelligenza artificiale hanno migliorato i set di dati raccogliendo una gamma più ampia di testi scritti da esseri umani e generati dall'intelligenza artificiale. Ciò include non solo articoli accademici, ma anche altri tipi di scritti, come e-mail e articoli. In secondo luogo, gli sviluppatori hanno utilizzato l'apprendimento attivo per ridurre i tassi di falsi positivi. Ciò significa che individuano i testi più difficili da classificare come generati dall'intelligenza artificiale o da esseri umani, per poi reintegrarli nei propri modelli.

E in questa corsa agli armamenti, i creatori di IA generativa non hanno ancora reagito in modo tale da riuscire a eludere alcuni rilevatori di IA. Quando è stato lanciato il tanto pubblicizzato GPT-5 di OpenAI, prometteva una riduzione delle allucinazioni, un tono più raffinato e una scrittura più creativa. Nel giro di 12 ore, il cofondatore di Pangram Labs, Max Spero, ha pubblicato su LinkedIn che, senza alcun addestramento aggiuntivo, lo strumento di rilevamento IA di Pangram era in grado di classificare i test di GPT-5 con una percentuale simile a quella dei modelli precedenti:

«Pangram è l'unico rilevatore basato sull'intelligenza artificiale in grado di individuare in modo affidabile GPT-5 senza essere stato specificatamente addestrato a farlo.»

Le istituzioni si stanno adeguando alla nuova realtà

Esistono preoccupazioni fondate riguardo all’uso dei rilevatori di IA. Molti di essi presentano ancora tassi di falsi positivi allarmanti e pubblicizzano in modo ingannevole la propria accuratezza. Tuttavia, alcune delle tecnologie più recenti sono incredibilmente affidabili e vengono attivamente integrate nelle aziende e nelle università. Ad esempio, la società di ricerca di esperti Qwoted ha recentemente integrato il rilevamento dell'IA nel proprio flusso di lavoro per ridurre le citazioni scritte dall'IA da parte di "esperti". "Il futuro del giornalismo dipende dalla fiducia. Ecco perché siamo lieti di collaborare con Pangram, che ha stabilito lo standard di riferimento per il rilevamento e l'attribuzione dell'IA."

Anche ricercatori e giornalisti stanno tornando a far parte del gruppo. I critici di lunga data stanno cambiando opinione e stanno valutando come integrare il rilevamento dell'IA in una politica più ampia sull'intelligenza artificiale. Rob Waugh di Press Gazette ha recentemente consigliato Pangram agli utenti che desiderano individuare i testi generati dall'IA. “Tali strumenti non sono affidabili al 100%, ma Pangram è stato valutato come accurato rispetto ad altri strumenti di verifica dell'IA online ed è integrato in servizi di risposta giornalistica come Qwoted per individuare proposte e testi generati dall'IA.”

Ci piacerebbe discutere del vostro caso d'uso e valutare se Pangram possa essere utile alla vostra organizzazione. Metteteci alla prova e contattateci per conoscere le nostre soluzioni aziendali.