Il 3% delle recensioni in prima pagina su Amazon è ora generato dall'intelligenza artificiale

I contenuti generati dall'intelligenza artificiale sono ormai diventati la norma e si trovano ovunque, dalle riviste scientifiche ai titoli dei giornali fino ai lavori accademici. Ora l'intelligenza artificiale sta influenzando anche le nostre abitudini di acquisto.

Amazon è stato il primo rivenditore online a introdurre una funzione dedicata alle recensioni dei clienti, ma il sistema rischia di essere manipolato da modelli linguistici di grandi dimensioni (LLM) come ChatGPT, Claude e Gemini. Pubblicare recensioni generate dall'intelligenza artificiale costituisce una pratica illegale ai sensi della legge federale degli Stati Uniti.

Amazon ha dichiarato che sta utilizzando strumenti avanzati per individuare cronologie di recensioni sospette e rimuovere le recensioni generate dall'intelligenza artificiale prima che un cliente le veda.

Il nostro studio

La nostra ricerca indica che Amazon ha ancora del lavoro da fare.

Noi di Pangram volevamo scoprire quante recensioni su Amazon siano generate dall'intelligenza artificiale e se tendano ad essere più positive o negative rispetto a quelle scritte da persone reali.

A tal fine, abbiamo raccolto 30.000 recensioni in prima pagina relative a 500 dei prodotti più venduti su Amazon e le abbiamo analizzate utilizzando il nostro rilevatore basato sull'intelligenza artificiale. Abbiamo preso in esame dieci categorie di prodotti più venduti, tra cui articoli per l'infanzia, giocattoli e giochi, computer portatili, dispositivi medici, benessere e relax, bellezza e arredamento. Abbiamo registrato il punteggio a stelle di ciascuna recensione e se si trattasse o meno di un "Acquisto verificato".

Abbiamo riscontrato numerose prove della presenza di recensioni generate dall'intelligenza artificiale tra i best seller di Amazon

Abbiamo riscontrato che il 3% delle recensioni totali analizzate – 909 recensioni in totale – è stato generato dall'intelligenza artificiale con un elevato grado di certezza. Con la crescente diffusione di strumenti di intelligenza artificiale come ChatGPT Agent, le "content farm" sono in grado di produrre automaticamente recensioni generate dall'intelligenza artificiale su larga scala. Se le piattaforme non interverranno, presto sarà difficile fidarsi delle recensioni presenti su Internet.

L'intelligenza artificiale scrive più recensioni a cinque stelle rispetto agli esseri umani

Dei 500 best seller di Amazon che abbiamo analizzato, il 74% delle recensioni scritte dall'intelligenza artificiale ha assegnato ai prodotti una valutazione di 5 stelle. Questo dato è da confrontare con il 59% delle recensioni autentiche scritte da esseri umani. Vale anche il contrario: gli esseri umani hanno scritto più recensioni da 1 stella rispetto all'intelligenza artificiale, il 10% contro il 22%.

E le recensioni con l'indicazione "Acquisto verificato"?

Il badge "Acquisto verificato" viene spesso utilizzato dai clienti come un indicatore affidabile di affidabilità: dimostra infatti che chi ha scritto la recensione ha effettivamente acquistato il prodotto. Il nostro studio ha rilevato che il 93% delle recensioni generate dall'intelligenza artificiale presenti nella prima pagina (93%) riportava il badge "Acquisto verificato", a dimostrazione del fatto che questo badge, da solo, non è più un simbolo affidabile di affidabilità.

Se una recensione è stata scritta da un'intelligenza artificiale, quanto è affidabile?

È probabile che alcune recensioni siano state scritte da venditori che utilizzano modelli di linguaggio generativo (LLM) per simulare i feedback e aumentare la valutazione dei propri prodotti. Altre potrebbero invece essere state scritte da clienti ben intenzionati che non hanno il tempo di scriverne una di proprio pugno o non riescono a trovare le parole giuste per descrivere la propria opinione su un prodotto.

Non ha importanza, perché il risultato è una rappresentazione potenzialmente inesatta di un prodotto.

Se le recensioni scritte dall'intelligenza artificiale stessero gonfiando le valutazioni dei prodotti, ciò potrebbe influire direttamente sulle decisioni di acquisto.

Va riconosciuto che Amazon sta cercando di contrastare le recensioni generate dall'intelligenza artificiale, ma, stando ai risultati dello studio, i suoi sforzi non stanno dando risultati sufficienti.

Il numero di recensioni generate dall'intelligenza artificiale che sfuggono ai controlli suggerisce che Amazon abbia ancora del lavoro da fare.

Le recensioni generate dall'intelligenza artificiale minano la fiducia e, dato che le recensioni online sono uno dei fattori principali su cui ci basiamo per decidere se acquistare un prodotto, potremmo iniziare a dubitare che valga la pena effettuare l'acquisto.

Come riconoscere le recensioni generate dall'intelligenza artificiale

Quando leggi le recensioni, cerca riferimenti a dettagli specifici del prodotto. I commenti generici o un linguaggio troppo vago possono essere un indizio del fatto che la recensione sia stata generata dall'intelligenza artificiale.

Se hai intenzione di lasciare una recensione, resisti alla tentazione di usare ChatGPT o un altro modello di linguaggio di grandi dimensioni (LLM). La tua esperienza e la tua opinione sincere sono importanti e potrebbero aiutare le persone a prendere una decisione consapevole sull'acquisto di un prodotto.

Puoi anche utilizzare il rilevatore di IA di Pangram per verificare che le recensioni che stai leggendo siano autentiche. La nostra estensione per Chrome ti permette di selezionare qualsiasi testo su Internet per verificare la presenza di contenuti generati dall'IA.

Conclusione

Nonostante le recensioni generate dall'intelligenza artificiale siano illegali, continuano a sfuggire ai controlli e a fuorviare i clienti. Nemmeno Amazon stessa riesce a individuarle tutte!

Le aziende hanno la responsabilità di garantire che i clienti ricevano informazioni veritiere sui prodotti, e non l'opinione di ChatGPT; occorre quindi fare di più per impedire che tali contenuti vengano pubblicati sui siti di e-commerce.