Le ultime novità nella ricerca sul rilevamento tramite IA

Pangram continua ad affermarsi come punto di riferimento nel rilevamento dei contenuti generati dall'intelligenza artificiale. Il nostro approccio e il nostro modello, all'avanguardia nel settore, vengono costantemente citati negli studi più recenti nel campo del rilevamento dell'intelligenza artificiale; per questo oggi abbiamo voluto mettere in evidenza alcuni studi recenti e i loro risultati!

Studio 1: Le persone che utilizzano spesso ChatGPT per attività di scrittura sono in grado di individuare con precisione e affidabilità i testi generati dall'intelligenza artificiale

Panoramica dello studio

In questo articolo, i ricercatori dell'Università del Maryland analizzano la capacità umana di individuare i testi generati dall'intelligenza artificiale. Hanno incaricato un gruppo di valutatori con diversi livelli di familiarità con i modelli di linguaggio (LLM) di leggere 300 articoli di saggistica e di classificarli come scritti da esseri umani o generati dall'intelligenza artificiale. È emerso che le persone che utilizzano spesso i modelli di linguaggio per attività di scrittura sono particolarmente abili nell'individuare i testi generati dall'intelligenza artificiale, anche senza aver ricevuto alcuna formazione specifica.

Cosa ci dice sul pangram

Lo studio mette a confronto le capacità umane con quelle dei "rilevatori automatici" (noti anche come Pangram). Date un'occhiata ai risultati:

Il modello Humanizer di Pangram (di cui parleremo più avanti) e Pangram sono stati di gran lunga i migliori rilevatori, individuando il 100% di tutti i testi generati dall'IA. Entrambi i nostri modelli hanno inoltre dimostrato un'elevata resistenza alla parafrasi e all'umanizzazione, mantenendo un tasso di rilevamento del 90%.

Per ulteriori informazioni:

Dai un'occhiata allo studio pubblicato qui

Studio 2: Sfida sul rilevamento di testi generati automaticamente in diversi ambiti

Panoramica dello studio

In questo studio, i ricercatori dell'Università della Pennsylvania hanno voluto verificare se i rilevatori fossero in grado di adattarsi a un insieme fisso di modelli di IA, tipi di documenti e "attacchi avversariali" (tentativi di rendere più difficile l'individuazione dei testi generati dall'IA). Hanno scoperto che "i rilevatori sono in grado di individuare in modo affidabile testi provenienti da molti ambiti e modelli contemporaneamente". Se qualcuno vi dice che i rilevatori di IA non funzionano, basta fargli vedere questo studio!

Cosa ci dice sul pangram

Ecco Pangram, in cima alla classifica! Siamo arrivati primi, a pari merito con un rilevatore di un gruppo di ricerca della Leidos, progettato e addestrato appositamente per questo studio.

Per ulteriori informazioni:

Leggi qui il nostro articolo completo su questo argomento e dai un'occhiata allo studio pubblicato qui!

Studio 3: ESPERANTO: Valutazione di frasi sintetizzate per migliorare la robustezza nel rilevamento basato sull'intelligenza artificiale dell'origine dei testi

Panoramica dello studio

Questo studio esamina un tipo di attacco denominato "back-translation", in cui i malintenzionati traducono un testo in diverse lingue per poi ritradurlo in inglese, con l'obiettivo di eludere i sistemi di rilevamento basati sull'intelligenza artificiale. Gli autori hanno scoperto che è possibile mantenere il significato semantico del testo riducendo al contempo in modo significativo la rilevabilità del testo generato dall'IA (sulla maggior parte dei sistemi di rilevamento 😄).

Cosa ci dice sul pangram

Come potete vedere, Pangram dimostra la massima affidabilità in tutte le categorie. Mentre la retrotraduzione può talvolta dimezzare o quasi ridurre a un quarto il tasso di rilevamento dei concorrenti, Pangram rimane affidabile.

Per ulteriori informazioni:

Dai un'occhiata al nostro primo post sul blog qui e allo studio pubblicato qui!

Bonus: la ricerca condotta da Pangram

Se desideri saperne di più sulle ricerche che Pangram conduce internamente per migliorare il nostro modello, puoi trovare ulteriori informazioni su tali studi qui:

DAMAGE: Individuazione di testi generati dall'IA e modificati in modo avversario

Relazione tecnica sul classificatore di testi generati dall'intelligenza artificiale Pangram

Impegno nella ricerca

Noi di Pangram ci impegniamo a promuovere la ricerca in questo campo e, per questo motivo, offriamo accesso gratuito e illimitato agli studiosi interessati a studiare il rilevamento dell'IA con Pangram. Vuoi saperne di più? Contattaci all'indirizzo info@pangram.com