Come Quora utilizza Pangram per gestire le risposte scritte dall'intelligenza artificiale

Nell'aprile 2024, Pangram Labs ha avviato una collaborazione con Quora per aiutarla a contrastare gli spammer che utilizzavano ChatGPT per rispondere ai post con risposte inautentiche generate dall'intelligenza artificiale.

Quora è uno dei siti web più grandi al mondo: si colloca al 33° posto nella classifica dei siti web più visitati al mondo e, ad agosto 2024, registra oltre 1 miliardo di pagine viste al mese (Fonte: Semrush). Quora consente agli utenti di pubblicare domande, che vengono visualizzate e alle quali rispondono gli altri utenti che navigano sul sito.

"La nostra missione è condividere e far crescere il sapere mondiale. Siamo fermamente convinti che gran parte del sapere sia racchiuso nelle menti delle persone e che, abbinando le domande giuste alle persone giuste, possiamo far emergere quel sapere."

Lexie Wu, responsabile di prodotto del gruppo e responsabile della moderazione presso Quora

Qual è il problema delle risposte fornite dall'intelligenza artificiale?

Un esempio di risposta generata dall'intelligenza artificiale

L'IA generativa permette agli spammer di generare centinaia o migliaia di risposte dall'aspetto autentico con il minimo sforzo. Si potrebbe sostenere che una risposta generata dall'IA rappresenti comunque un vantaggio netto. Gli utenti ricevono una risposta che, pur essendo forse di qualità bassa o media, è spesso sostanzialmente corretta. È meglio di niente, no?

Forse, se lo si considera isolatamente – ma la presenza di risposte generate dall'intelligenza artificiale su Quora comporta diversi effetti indesiderati.

1. Quando una domanda ha già ricevuto una risposta, ciò scoraggia gli altri dal dedicare tempo alla stesura di una propria risposta. Pertanto, anche se una domanda ha ricevuto una risposta accettabile da parte dell'IA, tale risposta riduce la probabilità che qualcuno decida di condividere la propria esperienza concreta.
2. L'intelligenza artificiale soppianta i post autentici. Come su molte piattaforme, le visualizzazioni e il coinvolgimento sono un gioco a somma zero. Ogni volta che un utente vede contenuti generati dall'intelligenza artificiale nel proprio feed o nella propria raccolta, altri creatori reali vengono privati del coinvolgimento che meritano.
3. Rischio reputazionale. Le persone si accorgono quando una risposta che stanno leggendo è stata scritta da un'intelligenza artificiale. Ciò solleva una domanda: perché visitare Quora se poi si leggono solo risposte generate dall'intelligenza artificiale? Perché non andare direttamente su ChatGPT? Quora offre una proposta di valore diversa rispetto a ChatGPT – risposte autentiche fornite da persone reali – e cura la propria piattaforma per garantire che ciò rimanga un dato di fatto.

Perché usare Pangram?

A volte è difficile capire a occhio nudo se un testo sia stato scritto da un'intelligenza artificiale. Altre volte, si tratta semplicemente di un'operazione che richiede tempo, poiché il moderatore deve leggere attentamente il testo per un po' prima di poterne essere certo. Automatizzare questo processo alleggerisce il carico di un lavoro di moderazione altrimenti oneroso, consentendo di risparmiare tempo e denaro nel lungo periodo.

Sebbene esistano alcune soluzioni open source volte a risolvere il problema del rilevamento dell'intelligenza artificiale per GPT-2, nessuna di esse ha funzionato in modo soddisfacente con GPT-4, il modello linguistico di grandi dimensioni (LLM) più comunemente utilizzato. Piattaforme come Quora cercano una soluzione in grado di classificare i risultati generati anche da modelli avanzati come GPT-4. Idealmente, una soluzione dovrebbe continuare a funzionare con i nuovi LLM, dato che ogni due mesi circa vengono rilasciati modelli linguistici all'avanguardia.

Pangram, grazie a valutazioni solide e a un'accuratezza oltre 100 volte superiore rispetto a concorrenti come GPTZero, era una delle poche soluzioni in grado di rilevare in modo affidabile i contenuti generati da GPT-4 nell'aprile 2024 e rimane ancora oggi, con un ampio margine, il modello di rilevamento dell'IA più accurato.

Inoltre, la pipeline di dati di Pangram è progettata per garantire la compatibilità con le future versioni dei modelli di linguaggio di grandi dimensioni (LLM). È in grado di generare dati di addestramento sintetici e di addestrare un nuovo modello entro 24 ore dalla disponibilità di un nuovo LLM. Nel luglio 2024, Pangram ha esteso il supporto linguistico a oltre 20 lingue e continua ad apportare miglioramenti ai modelli per garantire un'elevata precisione ai propri clienti.

Impatto

A settembre 2024, Quora ha individuato oltre un milione di post generati dall'intelligenza artificiale, migliorando la qualità dei contenuti su tutto il sito e mantenendo la propria reputazione di fonte di informazioni autentica e affidabile.

Pangram continua a fungere da moltiplicatore di risorse per i team Trust & Safety, fornendo loro gli strumenti necessari per definire con sicurezza le politiche relative ai contenuti generati dall'intelligenza artificiale.

Hai un caso d'uso per il rilevamento tramite IA? Contattaci all'indirizzo info@pangram.com!