È stata l'intelligenza artificiale a scriverlo? 4 modi per verificare se un testo è stato generato

Quasi tutti noi abbiamo letto di recente qualcosa che sembrava così meccanico, privo di anima o finto da farci porre questa domanda: l’ha scritto l’IA? Man mano che strumenti di IA come ChatGPT diventano sempre più diffusi, il confine tra la scrittura umana e quella automatizzata continuerà a sfumarsi.

Anche se hai la «sensazione» che un testo sia stato generato dall’intelligenza artificiale, potrebbero essere in gioco l’integrità accademica e/o le decisioni relative alle assunzioni. La tua sensazione che un testo sia stato generato dall’intelligenza artificiale potrebbe essere errata e, in tal caso, qualcuno potrebbe subire un danno a causa di quella sensazione

Esamineremo quattro metodi collaudati per stabilire se un determinato testo sia stato scritto dall'intelligenza artificiale. Questi quattro metodi spaziano dall'analisi linguistica manuale all'utilizzo di software avanzati di rilevamento dell'IA, appositamente sviluppati per le tecnologie di intelligenza artificiale odierne.

1. Analizzare la struttura della frase

Cercare frasi con lunghezza e struttura uniformi può rivelare se un testo è stato generato dall'intelligenza artificiale. Molti modelli di IA generano frasi caratterizzate da lunghezza e struttura uniformi. Tuttavia, la maggior parte dei testi scritti da esseri umani presenta una certa irregolarità: un mix di frasi brevi e incisive e frasi lunghe e complesse. Se un testo è troppo uniforme, potrebbe trattarsi di un testo generato dall'IA.

A differenza degli scrittori umani, l'intelligenza artificiale commette raramente errori grammaticali o refusi. Per questo motivo, uno dei modi migliori per individuare un testo scritto dall'intelligenza artificiale è verificare se il testo presenta frasi grammaticalmente impeccabili, ma risulta monotono o eccessivamente formale. Ciò può indicare che il contenuto è stato generato dall'intelligenza artificiale.

Molti modelli di scrittura basati sull'intelligenza artificiale producono frasi che contengono molte più parole di quelle necessarie per trasmettere un'informazione. Ad esempio, usano tre parole quando ne basterebbe una sola. Se leggete un testo che contiene molte parole superflue che riempiono la frase senza però approfondire un punto specifico, è probabile che quel testo sia stato generato dall'intelligenza artificiale.

2. Individua le "frasi tipiche dell'IA" (indizi lessicali)

È possibile individuare le "frasi tipiche dell'IA" per capire se un testo è stato generato dall'intelligenza artificiale. I modelli linguistici di grandi dimensioni sono addestrati per essere utili e cortesi. A seguito di questo addestramento, non è raro che i contenuti scritti prodotti da questi modelli facciano un uso eccessivo di specifiche parole di transizione e di aggettivi privi di significato che compaiono spesso nei loro dati di addestramento.

Per individuare un testo generato dall'intelligenza artificiale, ti consigliamo di cercare queste espressioni tipiche dell'IA:

• Trattino basso.
• Esplora.
• Arazzo.
• Fondamentale.
• Imbracatura.
• Illuminare
• Testamento.
• Paesaggio.
• In conclusione.

Se un testo contiene in abbondanza una di queste espressioni, è possibile che sia stato generato dall'intelligenza artificiale.

Oltre ad essere disponibili e cortesi, i modelli di IA tendono spesso ad assumere un tono neutro ed eccessivamente diplomatico. Espressioni come «È importante notare che» e «D'altra parte» ricorrono frequentemente per evitare di assumere una posizione decisa. Prestate attenzione anche a queste espressioni: un testo che ne fa un uso massiccio potrebbe essere stato generato dall'IA.

3. Utilizzare strumenti per rilevare l'IA con precisione

Il metodo più affidabile per capire se un testo è stato generato dall'intelligenza artificiale è quello di utilizzare un rilevatore di IA dedicato come Pangram. Anche se l'intuizione è utile, è comunque soggettiva. Strumenti come Pangram sono oggettivi.

Pangram individua modelli statistici invisibili all'occhio umano. Individuando questi modelli, Pangram è in grado di stabilire se un determinato contenuto sia stato generato dall'intelligenza artificiale.

Sono disponibili molti strumenti diversi per il rilevamento dell'IA. Molti di questi strumenti, tuttavia, sono poco efficaci perché si basano sulla "perplessità" – ovvero quanto un testo sia prevedibile – per stabilire se un testo sia stato prodotto dall'IA. Ciò ha portato a situazioni in cui opere come la Dichiarazione d'Indipendenza sono state segnalate come generate dall'IA.

Anziché cercare segni di perplessità o altri indizi tipici di ChatGPT, i rilevatori di IA come Pangram utilizzano il deep learning per individuare specifici modelli sintattici. Ciò consente loro di stabilire con precisione se un testo sia stato generato dall'IA o meno.

I migliori strumenti di rilevamento della scrittura generata dall'IA vantano oggi un tasso di accuratezza del 99,98% e un numero di falsi positivi prossimo allo zero. Pangram è uno di questi strumenti. Al contrario, gli strumenti gratuiti di rilevamento dell'IA sono spesso inaffidabili e soggetti a falsi positivi.

4. Distinguere la sfumatura tra "assistito" e "generato"

È possibile distinguere tra "contenuti assistiti dall'IA" e "contenuti generati dall'IA" per capire se un testo è stato generato dall'IA. Questo perché la domanda "È stata l'IA a scrivere questo?" non ha sempre una risposta univoca. Ad esempio, qualcuno può scrivere le idee principali che compongono un contenuto e poi utilizzare l'IA per modificarlo.

È possibile utilizzare strumenti di analisi avanzati, come Pangram, per capire se le idee principali di un testo siano state scritte da una persona e poi modificate dall'intelligenza artificiale, oppure se il testo sia stato interamente generato da un sistema automatico.

La scrittura basata sull'intelligenza artificiale si colloca su un continuum:

• Per "testo interamente generato dall'IA" si intende un testo creato interamente dall'intelligenza artificiale; ciò comprende le idee fondamentali, la struttura del testo e il contenuto, oltre a qualsiasi altro elemento in esso contenuto.
• La scrittura assistita dall'intelligenza artificiale è un testo redatto inizialmente da una persona e poi perfezionato tramite l'intelligenza artificiale.

Prova un'analisi dei segmenti basata sull'intelligenza artificiale:
Strumento di rilevamento dell'IA