Ogni giorno vengono pubblicati 60.000 articoli di cronaca generati dall'intelligenza artificiale

Panoramica

Il settore dell'informazione è un'industria da 150 miliardi di dollari che impiega migliaia di reporter e giornalisti per scrivere articoli che registrano miliardi di visualizzazioni. Con l'avvento dell'intelligenza artificiale e l'ascesa dei modelli linguistici di grandi dimensioni, molti siti di informazione di scarsa qualità, e alcuni operatori poco scrupolosi, hanno fatto ricorso all'IA per generare contenuti in modo economico, rapido e su larga scala. Poiché l'IA non può sostituire il ruolo di un giornalista, questi siti si limitano a ripetere le informazioni apprese durante l'addestramento o a copiare e riformulare gli articoli di altre testate.

È stato inoltre dimostrato che i contenuti non autentici risultano meno apprezzati e meno visitati dagli utenti online. In un recente post sul blog abbiamo citato una ricerca condotta da NP Digital, la quale ha chiaramente evidenziato che i lettori online preferiscono e danno la priorità agli articoli redatti da persone in carne e ossa. Nello specifico:

• I lettori hanno trascorso il 93% di tempo in più sulle pagine con contenuti redatti da esseri umani rispetto a quelle con contenuti generati esclusivamente dall'intelligenza artificiale.
• In media, i lettori erano 3,6 volte più propensi a visitare articoli scritti da esseri umani rispetto a quelli generati dall'intelligenza artificiale.

Queste pubblicazioni basate sull'intelligenza artificiale hanno lo scopo principale di sottrarre traffico e potenziali introiti pubblicitari ai contenuti giornalistici autentici e fanno parte di un fenomeno sempre più diffuso di "content farming" che, nel 2023, ha conquistato il 21% delle impressioni pubblicitarie e generato oltre 10 miliardi di dollari.

Consapevoli della minaccia e dei potenziali danni causati dalla diffusione di notizie non attendibili, abbiamo voluto quantificare la reale portata del problema. Abbiamo collaborato con NewsCatcher per classificare un campione di notizie pubblicate a livello globale in un determinato giorno.

Configurazione dell'esperimento

Abbiamo iniziato raccogliendo tutte le notizie di cronaca mondiale pubblicate il 1° luglio 2024.

L'API di NewsCatcher è la fonte più completa di articoli di cronaca internazionale pubblicati quotidianamente, con oltre 75.000 fonti e al servizio di grandi organizzazioni aziendali. La loro tecnologia ci ha permesso di effettuare ricerche nel testo completo di articoli pubblicati in tutto il mondo, redatti in diverse lingue e che trattano un'ampia gamma di argomenti.

Utilizzando NewsCatcher, abbiamo raccolto tutte le notizie pubblicate in un giorno; da questo insieme di dati abbiamo analizzato 857.434 articoli provenienti da 26.675 testate online, che considereremo come un campione rappresentativo delle notizie pubblicate quotidianamente.

Metodo di rilevamento

Dopo aver raccolto gli articoli, abbiamo utilizzato il nostro classificatore Pangram Text per determinare quali fossero stati generati dall’IA. Pangram Text è leader del settore in termini di precisione di classificazione (oltre 30 volte più accurato rispetto alla seconda soluzione commerciale più importante), con un forte impegno a garantire una bassa incidenza di falsi positivi. Nel nostro rapporto tecnico, dimostriamo che il nostro tasso di falsi positivi sulle notizie è solo dello 0,001%, il che ci permette di essere certi, quando prevediamo che una notizia sia stata generata dall’IA, che sia effettivamente così. La nostra soluzione in genere accetta un documento o un testo e restituisce una previsione della probabilità che sia stato generato da un LLM. Per una pagina web, dovremmo eseguire una post-elaborazione e una pulizia dei contenuti della pagina per isolare solo il testo dell'articolo, ma utilizzando la soluzione NewsCatcher siamo stati in grado di estrarre direttamente il testo pulito ed eseguire l'inferenza con il nostro classificatore di testo.

Distribuzione delle nostre previsioni su una scala logaritmica. Utilizziamo una scala logaritmica per mostrare che le previsioni vicine a 0 o 1 sono da 100 a 1000 volte più frequenti rispetto a quelle situate al centro dello spettro.

Abbiamo quindi classificato gli editori in base al totale complessivo dei loro articoli e li abbiamo raggruppati in base alla ripartizione dei loro contenuti generati dall'intelligenza artificiale. La struttura di classificazione è la seguente:

• Se un editore avesse meno del 10% dei propri articoli contrassegnati come generati dall'IA, verrebbe considerato un editore umano
• Se un editore avesse tra il 10% e il 50% dei propri articoli contrassegnati come generati dall'IA, verrebbe considerato un editore di contenuti generati dall'IA di secondaria importanza
• Se un editore avesse tra il 50% e l'80% dei propri articoli contrassegnati come generati dall'IA, verrebbe considerato un importante editore di contenuti generati dall'IA
• Se un editore avesse oltre l'80% dei propri articoli contrassegnati come generati dall'IA, verrebbe considerato un editore interamente basato sull'IA

Statistiche aggregate

Analizzando il campione complessivo degli articoli, abbiamo riscontrato che:

Sono stati classificati come AI 59.653 articoli, pari al 6,96% del corpus.

La ripartizione degli editori online

Editori classificati in base alla quantità di contenuti sull'intelligenza artificiale che pubblicano Abbiamo quindi esaminato le classificazioni dell'IA in base a caratteristiche chiave quali la lingua in cui è stato scritto l'articolo, il paese in cui è stato pubblicato, l'argomento trattato e la sua particolare rilevanza politica.

Paesi con la maggiore frequenza di articoli sull'intelligenza artificiale (minimo 100 articoli)

Grafico degli articoli sull'intelligenza artificiale prodotti per paese (percentuale del totale degli articoli di cronaca scritti per paese) In generale, si nota che il Ghana rappresenta un caso piuttosto anomalo per quanto riguarda i contenuti generati dall'intelligenza artificiale. Sebbene la frequenza complessiva sia inferiore, anche l'India è un importante produttore di contenuti generati dall'intelligenza artificiale, il che non dovrebbe sorprendere, dato che l'impatto dei deepfake sulle recenti elezioni indiane.

Frequenza dell'IA per argomento

Grafico degli articoli sull'intelligenza artificiale per argomento (percentuale del totale degli articoli di cronaca dedicati a ciascun argomento)

Notiamo che la bellezza (articoli sponsorizzati), la tecnologia e il mondo degli affari (truffe legate alle criptovalute) sono argomenti particolarmente ricorrenti negli articoli sull'IA. È piuttosto sorprendente che la politica tenda a registrare un numero di articoli sull'IA inferiore alla media: riteniamo che ciò sia dovuto al fatto che gli inserzionisti tendono a evitare i siti di notizie politiche a causa dei rischi legati alla sicurezza del marchio, riducendo così l'incentivo per gli editori a produrre contenuti politici pensati appositamente per la pubblicità.

Come si presentano le “notizie” sull’IA?

Identifichiamo diverse categorie di articoli di attualità sull'intelligenza artificiale: siti creati a scopo pubblicitario (MFA), articoli sponsorizzati, frodi e disinformazione.

Realizzato per la pubblicità

Un sito il cui unico scopo è quello di pubblicare annunci pubblicitari anziché fornire contenuti validi è un "MFA", ovvero un sito creato appositamente per la pubblicità. Ecco un esempio di MFA:

Sito creato appositamente per la pubblicità e pieno di annunci

Come si può notare, nella parte superiore della pagina web non vi è alcun contenuto effettivo oltre al titolo, mentre sono presenti 8 annunci pubblicitari che competono per attirare l’attenzione dell’utente. Il contenuto generato dall’intelligenza artificiale che segue non è realmente destinato alla lettura: è lì solo per attirare visitatori sul sito e generare introiti pubblicitari prima che gli utenti, come spesso accade, abbandonino immediatamente la pagina. Spesso gli inserzionisti non sono nemmeno consapevoli di fare pubblicità su questi siti: la natura programmatica della pubblicità digitale implica che le offerte per questo spazio pubblicitario vengono acquistate e vendute in pochi millisecondi utilizzando algoritmi di offerta automatizzati. Aziende come Jounce Media aiutano gli inserzionisti a evitare di sprecare il loro budget su siti come questo e fanno parte di un gruppo di aziende denominato “Supply Chain Optimizers”.

Jounce definisce tre caratteristiche fondamentali di un MFA:

1. Traffico a pagamento: siti che hanno un pubblico organico scarso o inesistente e che dipendono dalle visite generate da annunci clickbait provenienti da altri siti.
2. Monetizzazione aggressiva: grazie a un elevato carico pubblicitario e a inserzioni che si aggiornano automaticamente a intervalli rapidi, questi editori sfruttano un'opportunità di arbitraggio sui mercati delle aste, ma a scapito di un'esperienza utente negativa.
3. KPI superficiali: questi siti ottengono punteggi elevati in termini di metriche di facciata, come la visibilità e i tassi di completamento dei video, ma una ricerca condotta da Jounce dimostra che gli annunci pubblicitari sui siti MFA non influenzano effettivamente le decisioni di acquisto dei consumatori.

In sintesi, i siti MFA sottraggono traffico pubblicitario a siti con contenuti legittimi, al fine di offrire spazi pubblicitari a basso costo. Forniscono metriche ingannevoli alle campagne pubblicitarie programmatiche, senza però offrire alcun contenuto utile né un reale ritorno sull'investimento agli inserzionisti. Inquinano il web e rendono l'esperienza di navigazione sgradevole per l'utente medio.

Sebbene non esista un parametro preciso per definire cosa sia un MFA, stimiamo che gli MFA rappresentino circa il 50% dei contenuti generati dall'intelligenza artificiale presenti online.

Contenuti a pagamento/sponsorizzati

Alcune notizie su Internet possono essere acquistate come strumento pubblicitario per un prodotto, pur presentandosi come contenuti autentici scritti da un influencer o da una testata specializzata in recensioni. Abbiamo notato che la bellezza è uno degli argomenti con la più alta frequenza di contenuti generati dall'intelligenza artificiale. Analizzando i dati, abbiamo scoperto che gran parte degli articoli di "attualità" relativi al tema della bellezza sono semplicemente articoli sponsorizzati come questo:

Questo contenuto sponsorizzato di scarsa qualità è stato redatto dall'intelligenza artificiale

Molti copywriter ricorrono semplicemente all'uso dell'intelligenza artificiale per scrivere questi articoli sponsorizzati di scarsa qualità, poiché l'obiettivo è semplicemente quello di vendere lo spazio pubblicitario, piuttosto che produrre una recensione autentica.

Truffe

I truffatori del mondo delle criptovalute utilizzano l'intelligenza artificiale per sfornare contenuti a ritmo serrato

Notiamo anche molte campagne truffaldine di basso livello generate dall'intelligenza artificiale. In particolare, le truffe legate alle criptovalute sembrano essere molto diffuse e vengono persino promosse su siti affidabili come Medium.

Disinformazione

Un sito di disinformazione alimentato da contenuti generati dall'intelligenza artificiale

Sebbene constatiamo che l'uso dell'intelligenza artificiale sia in genere meno diffuso nell'ambito dell'informazione politica (in gran parte perché molti inserzionisti tendono a evitare questo settore a causa dei rischi legati alla sicurezza del marchio), l'intelligenza artificiale rappresenta una componente sempre più importante delle campagne di disinformazione. Newsguard dispone di un centro di monitoraggio dell'intelligenza artificiale che tiene traccia in modo dettagliato e aggiornato della disinformazione generata dall'intelligenza artificiale.

A differenza delle altre forme di inganno per cui vediamo i malintenzionati ricorrere all'intelligenza artificiale, lo scopo di questi articoli è in realtà quello di indurre le persone a leggere i contenuti. In genere, l'obiettivo di queste campagne è quello di influenzare il sentimento o l'opinione pubblica su un determinato argomento.

Con l'avvicinarsi delle elezioni statunitensi a novembre, non possiamo che aspettarci che questo tipo di abuso dell'intelligenza artificiale continui.

Sintesi

• Si stima che, a luglio 2024, circa il 7% delle notizie quotidiane a livello mondiale sia generato dall'intelligenza artificiale.
• L'Africa occidentale e l'Asia meridionale rappresentano dei casi a sé stanti per quanto riguarda la quantità di contenuti sull'intelligenza artificiale pubblicati.
• I settori della bellezza, della tecnologia e degli affari presentano la percentuale più alta di contenuti sull'intelligenza artificiale, mentre quelli della politica e dell'opinione registrano la percentuale più bassa.
• I contenuti generati dall'intelligenza artificiale vengono solitamente associati a comportamenti fraudolenti o ingannevoli. I siti MFA cercano di indurre gli inserzionisti a credere che spazi pubblicitari di bassa qualità siano in realtà di alta qualità. I contenuti sponsorizzati non sono necessariamente ingannevoli, ma non sono nemmeno autentici e non possono essere scambiati per vere recensioni dei consumatori. Le truffe e la disinformazione rappresentano una vera minaccia per gli utenti di Internet e il potenziale danno causato da questi siti è evidente.

Vuoi saperne di più sulla nostra mappa dei contenuti relativi all'IA presenti sul web o sulla nostra lista di siti da evitare per gli inserzionisti? Contattaci all'indirizzo info@pangram.com!