Presentazione delle frasi AI di Pangram

Se presti abbastanza attenzione, spesso puoi trovare indizi in un testo che suggeriscono che sia stato scritto dall'intelligenza artificiale. Alcune strutture sintattiche, scelte lessicali o formati ricorrono molto più spesso nei testi generati dall'intelligenza artificiale che in quelli scritti da esseri umani.

Forse conosci già alcune frasi che sembrano indicare che un testo è stato generato dall'intelligenza artificiale. Gli esempi sono molti: "complesso intreccio", "testimonianza di" o anche la parola "approfondire", come ha ampiamente pubblicizzato lo scrittore e investitore Paul Graham.

Tweet di Paul Graham

Ora, se sei un utente abituale della dashboard di Pangram, avrai anche notato che abbiamo iniziato a evidenziare le frasi AI più utilizzate, come "complesso intreccio" nel saggio AI riportato di seguito.

Questo è il nuovo strumento AI Phrases di Pangram! Ecco come funziona:

Quando si esegue la scansione di un documento e Pangram rileva che è stato generato dall'intelligenza artificiale, viene eseguita una seconda scansione alla ricerca di frasi comuni dell'intelligenza artificiale.

Per addestrare il nostro modello affinché sia altamente accurato, utilizziamo set di dati interni composti da decine di milioni di documenti generati da esseri umani e dall'intelligenza artificiale. Separatamente, il nostro team può esaminare entrambi questi set di dati alla ricerca di sequenze di parole comuni nella scrittura umana e in quella generata dall'intelligenza artificiale. Quindi, possiamo confrontare le statistiche per vedere se l'intelligenza artificiale effettivamente abusa di determinate frasi. Utilizziamo una tecnica chiamata analisi N-Gram (il suono simile a PaNGram potrebbe non essere una coincidenza 😊) e i risultati sono sorprendenti. Vediamo chiaramente che ci sono innumerevoli frasi che l'IA sembra usare molto più spesso degli esseri umani. Sono talmente tante che abbiamo deciso di creare uno strumento per visualizzare queste frasi direttamente sulla dashboard di Pangram.

Perché è importante?

Qui a Pangram, ci interessa preservare le voci umane. Abbiamo un modello di rilevamento di base in grado di elaborare centinaia di migliaia di dettagli su un testo per stabilire se sia stato generato dall'intelligenza artificiale.

Tuttavia, siamo anche interessati alla spiegabilità. Sapere che una determinata frase è altamente sovrarappresentata nel testo generato dall'IA può consentire di comprendere meglio (e spiegare agli altri!) perché abbiamo rilevato un testo come generato dall'IA o meno. Se si sa che un testo contiene diverse frasi che compaiono centinaia o migliaia di volte più frequentemente nei testi generati dall'IA rispetto a quelli scritti da esseri umani, si dispone ora di prove più quantificabili a sostegno del nostro giudizio.

Vogliamo tenere informati voi, i nostri utenti, non solo sul fatto che un testo sia generato dall'IA, ma anche su come possiamo riconoscerlo. Le frasi IA sono una parte fondamentale di questa missione e del nostro percorso complessivo verso l'interpretabilità.

Nei prossimi post del blog esamineremo alcune delle espressioni più abusate nel campo dell'IA, quindi continuate a seguirci! Per ulteriori informazioni su Pangram o sulle nostre funzionalità di interpretabilità, non esitate a contattarci all'indirizzo info@pangram.com.