Un viaggio tra le espressioni più abusate nel campo dell'IA

Come abbiamo visto la settimana scorsa, l’intelligenza artificiale tende a usare in modo eccessivo determinate parole ed espressioni. Probabilmente ne conoscerete già alcune a memoria: da «a testament to» a «delve». L’uso ripetuto di queste espressioni può essere un chiaro indizio del fatto che il testo che state leggendo sia stato generato dall’intelligenza artificiale, ma ce ne sono davvero troppe perché una singola persona possa tenerne traccia.

Per risolvere questo problema, abbiamo recentemente introdotto uno strumento chiamato «frasi AI», che evidenzia proprio queste espressioni. Nel corso dello sviluppo di questo strumento, abbiamo creato un ampio set di dati contenente le frasi AI più comunemente utilizzate. In questo articolo vi illustreremo alcune delle frasi AI più ricorrenti presenti nel nostro set di dati e vi spiegheremo come utilizzarle per affinare la vostra intuizione riguardo ai testi generati dall'intelligenza artificiale.

Parte 1: Artefatti dell'IA

Dovremmo partire dall’ovvio: a volte un’IA ti dice effettivamente di essere un’IA! Spesso ciò accade in seguito a un rifiuto. Quando un utente chiede a un’IA di fare qualcosa che le è stato vietato, questa deve comunicare all’utente che non può soddisfare la richiesta e, in tale contesto, il modello spesso ammette di essere un’IA. Molti rifiuti da parte dell'IA iniziano con la frase "In quanto modello linguistico di IA...". Ne consegue che questo tipo di frase sarebbe abbastanza comune nei testi generati dall'IA ed estremamente raro nei testi scritti da esseri umani. I numeri lo confermano! Molte delle frasi più comuni generate dall'IA sono autoreferenziali.

Parte 2: Frasi abusate

I "fenomeni tipici dell'IA" sono tra le espressioni più abusate nel campo dell'intelligenza artificiale, ma in fin dei conti sono piuttosto ovvi e quindi piuttosto banali. Ora arriviamo alla parte interessante: espressioni che sono effettivamente sovrarappresentate nei testi sull'IA, ma che non hanno nulla a che vedere con il "essere un'IA". Eccone un paio:

Parte 3: Perché l'IA ricorre eccessivamente alle frasi fatte?

È facile capire perché un'IA che dice "In quanto IA..." possa essere molto più comune nei testi generati dall'intelligenza artificiale. Ma cosa fa sì che le frasi apparentemente non correlate della Parte 2 siano più comuni? Innanzitutto, esiste un fenomeno noto come "collasso modale", in cui i risultati generati dall'IA diventano eccessivamente generici o ripetitivi perché si basano su sequenze di parole ad alta probabilità. Il collasso modale...

Inoltre, dopo l'addestramento, è prassi comune ricorrere al RLHF (Reinforcement Learning from Human Feedback, ovvero apprendimento per rinforzo basato sul feedback umano). Durante questo processo, gli annotatori umani valutano i testi generati dall'IA in base a una serie di attributi, con l'obiettivo di favorire alcuni modelli e scoraggiarne altri. Nel corso di questo processo, se determinate risposte o frasi hanno maggiori probabilità di essere premiate dagli annotatori umani, diventeranno sempre più frequenti.

Di conseguenza, alcune di queste espressioni abusate possono essere considerate una caratteristica di modelli, architetture e processi di addestramento specifici, piuttosto che semplici tratti distintivi della scrittura generata dall'IA in sé. Un articolo di Jenna Russell, Marzena Karpinska e Mohit Iyyer dell'Università del Maryland dimostra che modelli diversi hanno in realtà espressioni preferite diverse:

abusato

Ciò suggerisce che modelli diversi, addestrati con set di dati e strategie di ottimizzazione differenti, possano sviluppare tendenze specifiche nella ripetizione delle frasi.

Bonus: gli N-gram preferiti dal nostro team

Nell'ambito del nostro lavoro, il nostro team ha dedicato innumerevoli ore alla lettura e all'analisi di testi generati dall'intelligenza artificiale. Naturalmente, abbiamo sviluppato una certa affinità per alcune di queste frasi:

Ecco le frasi con l'IA preferite dal nostro team:

• Max (amministratore delegato): «In un mondo in continua evoluzione» (11.000 volte)

• Bradley (CTO): «È importante sottolineare» (3.000 volte)

• Lu (ingegnere fondatore): «natura complessa» (6.000 volte)

• Elyas (ingegnere fondatore): «un mosaico vivace» (17.000 volte)