Le ultime novità nella ricerca sul rilevamento dell'intelligenza artificiale

Pangram continua ad affermarsi come autorità nel rilevamento dei contenuti generati dall'intelligenza artificiale. Il nostro approccio e il nostro modello all'avanguardia nel settore compaiono costantemente negli ultimi studi nel campo del rilevamento dell'intelligenza artificiale, quindi oggi vorremmo mettere in evidenza alcuni studi recenti e i loro risultati!

Studio 1: Le persone che utilizzano frequentemente ChatGPT per attività di scrittura sono in grado di individuare con precisione e sicurezza i testi generati dall'intelligenza artificiale.

Panoramica dello studio

In questo articolo, i ricercatori dell'Università del Maryland studiano la capacità umana di individuare i testi generati dall'intelligenza artificiale. Assumono annotatori con diversi livelli di familiarità con i modelli di linguaggio grande (LLM) per leggere 300 articoli di saggistica e cercare di classificarli come scritti da esseri umani o generati dall'intelligenza artificiale. Scoprono che le persone che utilizzano spesso gli LLM per attività di scrittura eccellono nell'individuare i testi generati dall'intelligenza artificiale, anche senza formazione specifica.

Cosa dice Pangram

Lo studio mette a confronto le capacità umane con quelle dei "rilevatori automatici" (noti anche come Pangram). Dai un'occhiata ai risultati:

Il modello Humanizer di Pangram (maggiori informazioni in seguito) e Pangram sono stati di gran lunga i migliori rilevatori, individuando il 100% di tutti i testi generati dall'IA. Entrambi i nostri modelli hanno inoltre mantenuto un'elevata robustezza nei confronti della parafrasi e dell'umanizzazione, conservando un tasso di rilevamento del 90%.

Per ulteriori informazioni:

Consulta lo studio pubblicato qui

Studio 2: Sfida per il rilevamento di testi generati automaticamente in diversi ambiti

Panoramica dello studio

In questo studio, i ricercatori dell'Università della Pennsylvania hanno voluto verificare se i rilevatori fossero in grado di generalizzare un insieme fisso di modelli di IA, tipi di documenti e "attacchi avversari" (tentativi di rendere il testo generato dall'IA più difficile da rilevare). Hanno scoperto che "i rilevatori sono in grado di rilevare in modo affidabile testi provenienti da molti domini e modelli contemporaneamente". Se qualcuno vi dice che i rilevatori di IA non funzionano, mostrategli questo studio!

Cosa dice Pangram

Ecco Pangram, al primo posto! Siamo arrivati primi, a pari merito con un rilevatore di un team di ricerca della Leidos progettato e addestrato appositamente per questo studio.

Per ulteriori informazioni:

Trova qui il nostro intero post sul blog dedicato a questo argomento e dai un'occhiata allo studio pubblicato qui!

Studio 3: ESPERANTO: Valutazione delle frasi sintetizzate per migliorare la robustezza nel rilevamento dell'intelligenza artificiale per l'origine del testo

Panoramica dello studio

Questo studio esamina un attacco denominato "back-translation", in cui i malintenzionati traducono il testo in diverse lingue prima di ritradurlo in inglese, al fine di eludere il rilevamento dell'IA. Hanno scoperto che è possibile mantenere il significato semantico del testo riducendo significativamente la rilevabilità del testo IA (sulla maggior parte dei rilevatori 😄).

Cosa dice Pangram

Come potete vedere, Pangram mostra la migliore robustezza in tutte le categorie. Mentre la retrotraduzione può talvolta dimezzare o quasi ridurre di quattro volte il tasso di rilevamento dei concorrenti, Pangram rimane robusto.

Per ulteriori informazioni:

Leggi il nostro primo post sul blog qui e lo studio pubblicato qui!

Bonus: Ricerca condotta da Pangram

Se desideri saperne di più sulla ricerca condotta internamente da Pangram per migliorare il nostro modello, puoi leggere ulteriori informazioni su tali studi qui:

DAMAGE: Rilevamento di testi generati dall'intelligenza artificiale modificati in modo avverso

Relazione tecnica sul classificatore di testi generati dall'intelligenza artificiale Pangram

Impegno nella ricerca

Qui a Pangram, ci impegniamo a promuovere la ricerca in questo campo e, pertanto, offriamo accesso gratuito e illimitato agli studiosi interessati a studiare il rilevamento dell'IA con Pangram. Vuoi saperne di più? Contattaci all'indirizzo info@pangram.com