Foto di Valentin Antonucci.
Siamo lieti di annunciare un importante aggiornamento di Pangram Text, il nostro modello di punta per il rilevamento dei testi generati dall'intelligenza artificiale. Pangram Text è ora in grado di rilevare testi generati dall'intelligenza artificiale in spagnolo, francese, italiano, portoghese, tedesco, russo e cinese mandarino, con la stessa precisione all'avanguardia del settore garantita per i testi scritti in inglese. Stiamo lanciando immediatamente il nostro nuovo modello multilingue per proteggere le piattaforme online dallo spam generato dall'intelligenza artificiale.
Per verificare l'accuratezza del nostro modello sulle lingue diverse dall'inglese, utilizziamo tre corpora multilingue di grandi dimensioni e eterogenei, provenienti da diversi ambiti: le recensioni multilingue di Amazon, Wikipedia e XLSum (BBC News International).
Per la parte umana del benchmark, campioniamo documenti casuali che superano i nostri filtri di controllo di validità. Per la parte AI del benchmark, utilizziamo una combinazione di GPT-3.5, GPT-4 e GPT-4o. Innanzitutto, chiediamo al modello di linguaggio di grandi dimensioni (LLM) di riassumere il documento reale, ad esempio: «Di cosa tratta questa recensione?». Successivamente, gli chiediamo di generare una recensione, un articolo o una notizia sulla base del riassunto. Generare il benchmark in questo modo elimina la possibilità di rumore nelle etichette, oltre a garantire che le distribuzioni dei dati umani e di IA siano il più simili possibile tra loro.
| Lingua | Accuratezza delle recensioni su Amazon | Accuratezza di Wikipedia | XLSum (BBC News) Accuratezza |
|---|---|---|---|
| Spagnolo | 99.59% | 99.75% | 99.75% |
| Francese | 98.84% | 99.33% | 98.50% |
| italiano | N/A | 99.82% | N/A |
| Tedesco | 99.44% | 99.95% | N/A |
| Portoghese | N/A | 99.83% | 99.70% |
| russo | N/A | 98.34% | 99.35% |
| cinese | 99.70% | 99.54% | 98.10% |
Poiché il nostro modello si basa su un'architettura simile a quella dei moderni modelli linguistici di grandi dimensioni, ricorriamo a un pre-addestramento su larga scala per garantire che la nostra struttura di base venga addestrata su un ampio corpus multilingue prima di procedere alla messa a punto di un modulo di rilevamento basato sull'intelligenza artificiale. Utilizziamo inoltre un tokenizzatore che supporta numerose lingue, tra cui il russo e il cinese.
Abbiamo scelto le lingue che rappresentano la maggior parte di quelle utilizzate su Internet.
Utilizziamo Amazon Comprehend per rilevare la lingua del testo inserito. Se la lingua non è supportata, restituiremo "Lingua non supportata" come risultato.
Sì, prevediamo di rilasciare aggiornamenti futuri con prestazioni migliorate per le lingue diverse dall'inglese, man mano che continuiamo ad ampliare il nostro set di dati multilingue tramite l'apprendimento attivo.
In futuro contiamo di aggiungere il supporto per altre lingue. Se c'è una lingua che vorresti fosse supportata, faccelo sapere!
Contattaci all'indirizzo info@pangram.com per ulteriori informazioni sul rilevamento multilingue tramite IA.

Bradley è un ricercatore nel campo dell'intelligenza artificiale ed è esperto nello sviluppo di prodotti basati sul deep learning per il settore industriale. Recentemente ha guidato il gruppo di ricerca sul deep learning presso Absci, un'azienda che si occupa di scoperta di farmaci tramite intelligenza artificiale generativa, mentre in precedenza ha fatto parte del team principale di visione artificiale di Tesla Autopilot.
Durante gli studi universitari, Bradley è stato autore di numerose pubblicazioni nel campo della ricerca sul deep learning presso lo Stanford Vision Lab. Ha conseguito una laurea in fisica e un master in intelligenza artificiale presso l'Università di Stanford. Oltre all'intelligenza artificiale, nutre un grande interesse per l'istruzione e la filosofia ed è un appassionato giocatore di golf.






