Vi presentiamo le frasi generate dall'intelligenza artificiale di Pangram

Se si presta sufficiente attenzione, spesso è possibile individuare in un testo alcuni indizi che suggeriscono che sia stato scritto da un'intelligenza artificiale. Alcune strutture sintattiche, scelte lessicali o formattazioni ricorrono molto più spesso nei testi generati dall'intelligenza artificiale rispetto a quelli scritti da esseri umani.

Forse conosci già alcune espressioni che sembrano indicare che un testo sia stato generato dall'intelligenza artificiale. Gli esempi sono molti: «tessuto complesso», «una testimonianza di» o anche la parola «approfondire», come ha ampiamente diffuso lo scrittore e investitore Paul Graham.

Tweet di Paul Graham

Se sei un utente abituale della dashboard di Pangram, avrai forse notato che abbiamo iniziato a evidenziare le espressioni più abusate dall'IA, come ad esempio "complesso intreccio" nel saggio generato dall'IA riportato qui sotto.

Ecco il nuovo strumento "Frasi AI" di Pangram! Ecco come funziona:

Quando si esegue la scansione di un documento e Pangram rileva che è stato generato dall'intelligenza artificiale, effettuiamo una seconda scansione alla ricerca di frasi tipiche dell'IA.

Per addestrare il nostro modello affinché raggiunga un elevato livello di precisione, utilizziamo set di dati interni composti da decine di milioni di documenti generati sia da esseri umani che dall'IA. Inoltre, il nostro team è in grado di analizzare entrambi questi set di dati alla ricerca di sequenze di parole ricorrenti nella scrittura umana e in quella generata dall'IA. Successivamente, possiamo confrontare le statistiche per verificare se l'IA effettivamente fa un uso eccessivo di determinate frasi. Utilizziamo una tecnica chiamata analisi N-Gram (la somiglianza fonetica con PaNGram potrebbe non essere una coincidenza 😊), e i risultati sono sorprendenti. Si vede chiaramente che ci sono innumerevoli frasi che l'IA sembra usare molto più spesso degli esseri umani. Sono talmente tante, infatti, che abbiamo deciso di creare uno strumento per visualizzare queste frasi direttamente sulla dashboard di Pangram.

Perché è importante?

Noi di Pangram ci occupiamo di preservare le voci umane. Il nostro modello di rilevamento principale è in grado di elaborare centinaia di migliaia di dettagli relativi a un testo per stabilire se sia stato generato dall'intelligenza artificiale.

Tuttavia, ci interessa anche la spiegabilità. Sapere che una determinata espressione è fortemente sovrarappresentata nei testi generati dall'IA può aiutarti a comprendere meglio (e a spiegare agli altri!) perché abbiamo individuato o meno un determinato testo come generato dall'IA. Se sai che un testo contiene diverse espressioni che compaiono centinaia o migliaia di volte più frequentemente nei testi generati dall'IA rispetto a quelli scritti da esseri umani, disponi ora di prove più quantificabili a sostegno del nostro giudizio.

Vogliamo tenere voi, i nostri utenti, informati non solo sul fatto che un testo sia generato dall'IA, ma anche su come possiamo riconoscerlo. Le frasi generate dall'IA sono una parte fondamentale di questa missione e del nostro percorso generale verso l'interpretabilità.

Nei prossimi post del blog analizzeremo alcune delle espressioni più abusate nel campo dell'IA, quindi continuate a seguirci! Per ulteriori informazioni su Pangram o sulle nostre funzionalità di interpretabilità, non esitate a contattarci all'indirizzo info@pangram.com