È possibile eludere il rilevamento dell'IA modificando il testo?

Oggigiorno, gli strumenti di scrittura basati sull'intelligenza artificiale sono ovunque. Sono integrati nel tuo client di posta elettronica, nelle estensioni di Chrome e persino nella tastiera del tuo telefono! Noi di Pangram non siamo contrari di per sé all'uso dell'intelligenza artificiale per scrivere o per aiutarti a scrivere. Esistono molti casi in cui l'eloquenza, il tono e la velocità di un modello di linguaggio (LLM) sono talmente preziosi da rendere l'assistenza dell'IA un vantaggio netto.

Ma ovviamente ci sono determinati contesti in cui l’IA non dovrebbe essere utilizzata per scrivere. Biglietti personali o sentiti, documenti legali importanti o lavori da presentare nell’ambito di un compito scolastico dovrebbero provenire interamente dalla tua mente. Naturalmente, la tentazione rimane. È facile pensare di poter prendere un testo generato dall’IA, modificarlo leggermente, magari sottoporlo a un rilevatore di IA una o due volte, e che questo ti metterà al sicuro in contesti così delicati.

Tuttavia, nella pratica, cercare di "aggirare" il sistema di rilevamento tramite modifiche al testo è inefficace, richiede molto tempo e finisce per essere più faticoso che scrivere da zero. Questo perché i moderni sistemi di rilevamento basati sull'intelligenza artificiale funzionano davvero! Credeteci: abbiamo sentito più volte gli utenti che si iscrivono a Pangram proprio per questo scopo specifico, solo per ritrovarsi stanchi, frustrati e aver dedicato più tempo del previsto a cercare di ingannare il sistema di rilevamento.

In questo post del blog vi mostreremo come e perché Pangram continua a rilevare l'uso dell'IA anche dopo aver riformulato, modificato e riscritto il testo generato dall'IA. Infine, vi sveleremo il segreto per ottenere un risultato "umano" con Pangram. (Attenzione, spoiler: si tratta di riscrivere l'intero documento da zero)

La promessa della «modifica di testi generati dall'IA»

Molti credono che ingannare un rilevatore sia un compito semplice. Pensano che basti cambiare qualche parola per aggiungere quel “tocco umano magico” che modificherà la classificazione del rilevatore. Tuttavia, si tratta di un fraintendimento fondamentale sul funzionamento dei moderni rilevatori di IA di alta qualità. Pangram è un classificatore di sequenze basato sul deep learning, addestrato su milioni di documenti scritti da esseri umani e generati dall’IA. Il modo in cui addestriamo Pangram lo rende sensibile a migliaia di piccoli segnali relativi a un testo specifico, dalla frequenza di determinate parole e frasi, alla struttura e alla composizione delle frasi, fino all'organizzazione generale e al tono del documento. Ciascuno di questi piccoli segnali viene utilizzato in combinazione con gli altri per creare una previsione sul testo. Modificando un documento, potresti credere di alterare questi segnali. Ma il più delle volte ne rimangono abbastanza da consentire a Pangram di rilevarlo comunque in modo affidabile. Spesso, l'errore di valutazione sta proprio qui: Pangram non si limita a scansionare le parole specifiche che si inviano al rilevatore, ma anche gli argomenti, la struttura e l'organizzazione del testo. In definitiva, queste caratteristiche di ordine superiore sono quelle più difficili da rimuovere attraverso una rapida modifica e parafrasi. Per modificare in modo significativo uno qualsiasi di questi aspetti di un dato documento sarebbe necessaria una completa riscrittura del documento. A quel punto, diventa più facile scrivere i propri documenti nel modo giusto fin dall'inizio.

Non ci credete ancora? Proviamo insieme con alcuni esempi!

I tentativi di modificare il testo per renderlo "più naturale"

Ho chiesto a GPT-5-Thinking di scrivermi un saggio su Jurassic Park. Ecco cosa ha scritto:

Jurassic Park, diretto da Steven Spielberg e uscito nel 1993, rimane uno dei film più iconici della storia del cinema. Tratto dal romanzo di Michael Crichton, la storia immagina cosa accadrebbe se gli scienziati riuscissero a riportare in vita i dinosauri utilizzando il DNA conservato. Il ricco imprenditore John Hammond costruisce un parco a tema futuristico per mettere in mostra queste creature, ma ciò che inizia come un trionfo scientifico degenera rapidamente nel caos quando la natura si rivela impossibile da controllare. In sostanza, Jurassic Park non è solo un'avventura ricca di azione, ma anche un monito sull'ambizione umana. Il film esplora temi quali l'arroganza scientifica, l'imprevedibilità della natura e i limiti etici del progresso tecnologico. Personaggi come il dottor Ian Malcolm ricordano al pubblico che solo perché qualcosa può essere fatto, non significa che debba esserlo. Questa tensione tra innovazione e responsabilità ha fatto sì che la storia risuonasse ben oltre i suoi effetti speciali. Altrettanto importante è l'uso rivoluzionario che il film fa delle immagini generate al computer e dell'animatronica, che hanno dato vita ai dinosauri in modi mai visti prima. Questi risultati visivi hanno stabilito nuovi standard nel settore e ispirato una generazione di registi. In definitiva, Jurassic Park rimane non solo un intrattenimento emozionante, ma anche un promemoria del posto fragile che l'umanità occupa nel mondo naturale.

Ovviamente, Pangram lo individua facilmente come testo generato dall'intelligenza artificiale.

Rilevato dall'IA...

1. Eliminazione delle frasi ricorrenti relative all'intelligenza artificiale

Un errore comune che spesso sentiamo commettere dagli utenti è quello di cercare di eliminare tutte le frasi generate dall'IA evidenziate da Pangram, nella speranza che così facendo si riesca a "eliminare l'IA". Proviamo a farlo!

Jurassic Park, diretto da Steven Spielberg e uscito nel 1993, rimane ancora oggi uno dei film più imponenti e iconici della storia del cinema. Tratto dal romanzo di Michael Crichton, la storia immagina cosa accadrebbe se gli scienziati riuscissero a riportare in vita i dinosauri utilizzando il DNA conservato. Il ricco imprenditore John Hammond costruisce un parco a tema futuristico per mettere in mostra queste creature, ma ciò che inizia come un trionfo scientifico degenera rapidamente nel caos quando la natura si rivela impossibile da controllare. Fondamentalmente, Jurassic Park non è solo un'avventura ricca di azione, ma anche un severo monito contro l'eccesso umano. Il film esplora temi quali l'arroganza scientifica, l'imprevedibilità della natura e i limiti etici del progresso tecnologico. Personaggi come il dottor Ian Malcolm ricordano al pubblico che il fatto che qualcosa sia possibile non significa che debba essere fatto. Questa tensione tra ingegnosità umana e responsabilità ha reso la storia più incisiva dei semplici effetti speciali.

Altrettanto importante è l'uso innovativo che il film fa delle immagini generate al computer e dell'animatronica, che hanno portato i dinosauri nel mondo reale come mai prima d'ora. Questi straordinari risultati hanno stabilito nuovi standard nel settore e ispirato un'intera generazione di registi. In definitiva, «Jurassic Park» rimane nella memoria non solo come un'esperienza di intrattenimento mozzafiato, ma anche come una riflessione sulla fragilità del posto che l'umanità occupa nell'universo.

La differenza

Mi hanno beccato di nuovo! Sono ancora sicuro al 99,9%

Molti non capiscono perché questo non funzioni, ed è importante fare chiarezza! La funzione "AI Phrases" di Pangram è ciò che chiamiamo "post hoc". Ciò significa che è stata calcolata dopo la previsione del rilevamento dell'IA. Le frasi AI sono indicazioni visive di frasi che compaiono molto più spesso nei testi generati dall'IA rispetto a quelli scritti da esseri umani. Tuttavia, non vengono utilizzate direttamente dal modello di previsione di Pangram, e modificarne o ridurne il numero non ridurrà la tua previsione AI.

2. Modificare parole comuni

Ma capisco: si tratta solo di cambiare qualche parola. Sicuramente, se ne cambiassimo qualcuna in più, riusciremmo a smentire la previsione di Pangram, no? Proviamo!

«Jurassic Park», diretto da Steven Spielberg e presentato per la prima volta al pubblico nel 1993, è ancora oggi uno dei film più importanti e iconici della storia del cinema. Tratto da un romanzo straordinario scritto da Michael Crichton, la storia immagina cosa accadrebbe se gli scienziati riuscissero a ricreare i dinosauri utilizzando il DNA conservato. Il ricco imprenditore John Hammond costruisce un parco a tema futuristico, stravagante e folle, per mettere in mostra queste creature, ma ciò che inizia come un trionfo scientifico degenera rapidamente nel caos quando la natura si rivela impossibile da controllare. Fondamentalmente, Jurassic Park non è solo un'avventura ricca di azione, ma anche un'opera davvero importante sulle fallacie dell'eccesso umano. Il film affronta una serie di temi quali l'arroganza scientifica, la vera realtà della natura e i limiti del progresso tecnologico. Personaggi come il dottor Ian Malcolm ricordano al pubblico che solo perché qualcosa può essere fatto, non significa che debba essere fatto. Questa tensione tra i limiti dell'ingegno umano e la profondità della nostra responsabilità ha reso la storia molto più d'impatto dei semplici effetti speciali. Altrettanto importante è l'uso davvero rivoluzionario della CGI e dell'animatronica, che ha portato i dinosauri nel mondo reale come mai prima d'ora. Questo affascinante nuovo risultato ha stabilito lo standard di riferimento per gli effetti visivi e ha davvero ispirato una nuova generazione di registi. In definitiva, Jurassic Park è ancora famoso dopo tutti questi anni non solo come un'opera di intrattenimento emozionante, ma anche come una dichiarazione della fragilità e della precarietà del posto dell'umanità all'interno dell'ordine naturale.

Altre novità!

Ancora rilevato. ¯_(ツ)_/¯

3. Riscrittura delle frasi

Va bene. Sai una cosa? Sembra che ci voglia un po' più di impegno. Riscriverò l'intera frase da zero. In questo modo, l'intera frase sarà stata scritta da un essere umano e Pangram non potrà certo classificarla come generata dall'IA, giusto? Proviamo. Riscriverò completamente la prima frase.

"Jurassic Park", diretto da Steven Spielberg e uscito nel 1993, rimane uno dei film più iconici della storia del cinema.

Ora diventerà:

Sin dal suo debutto nel 1993, il classico film di Steven Spielberg *Jurassic Park* è stato considerato uno dei capolavori più acclamati della storia del cinema.

L'ho scritto tutto da zero. E sono un essere umano! Di sicuro questo non farà scattare il rilevatore di pangrammi!

Noooooo 😭😭😭😭

Ho un'idea! Aggiungo la mia frase completamente riscritta al mio documento, che ho già in gran parte riformulato! A quel punto sarà sicuramente abbastanza "umano", no?

Lo rilevo ancora. 😠

A questo punto, potresti continuare a provarci. Potresti riscrivere altre frasi o cercare di riformularle in modo più complesso. Tuttavia, anche in questo esempio specifico, la maggior parte delle parole è stata completamente sostituita rispetto al testo originale generato dall'IA. Ciò dimostra chiaramente che Pangram non analizza direttamente le parole prodotte dall'IA. Al contrario, esamina in modo olistico una serie di caratteristiche relative alla struttura, all'organizzazione e al tono di un determinato documento.

Conclusione

In fin dei conti, c'è solo un modo per liberarsi delle migliaia di piccoli indizi che mettono in allarme i rilevatori di IA come Pangram. Ovvero: devi ideare, sederti e mettere nero su bianco le tue idee partendo da zero.

Noi di Pangram non siamo contrari all'intelligenza artificiale. Tuttavia, crediamo fermamente che la scrittura umana sia importante e preziosa. Ciò che hai da dire conta! Ma conta anche il modo in cui lo dici. Assumere il controllo dell'intero processo di scrittura è il modo migliore per rimanere sinceri, personali e professionali. Quindi, la prossima volta che ti troverai in una situazione in cui potrebbe essere utilizzato un sistema di rilevamento dell'IA, valuta la possibilità di scrivere il testo da solo. :-]

Non fare come lui