Strumenti di controllo dei saggi, intelligenza artificiale e plagio

Che cos'è un correttore di saggi?

In passato, il termine "controllo dei saggi" era utilizzato per indicare strumenti in grado di analizzare un testo alla ricerca di errori ortografici, grammaticali e lessicali. Tali strumenti potevano essere impiegati anche per verificare la correttezza delle citazioni, come nel caso di Recite. Turnitin, un noto strumento didattico, si è rivelato di grande aiuto nella verifica del plagio.

Attualmente, il boom dell'intelligenza artificiale ha spinto gli educatori a prendere in considerazione l'uso di strumenti in grado di individuare i contenuti generati dall'intelligenza artificiale.

I sistemi di controllo automatico dei compiti basati sull'intelligenza artificiale sono affidabili?

Gli elevati tassi di falsi positivi (FPR) rappresentano una delle principali preoccupazioni per gli insegnanti. Avanzare un'accusa di disonestà accademica può essere rischioso, poiché basarla su un falso positivo può compromettere il rapporto tra insegnante e studente.

Tuttavia, con un tasso di falsi positivi (FPR) dello 0,01%, Pangram si rivela un rilevatore affidabile per l'uso nel settore dell'istruzione superiore. Ciò è stato confermato anche da organismi indipendenti, i quali hanno concluso che Pangram è il rilevatore di IA più accurato attualmente disponibile sul mercato.

Verificatore di saggi basato sull'intelligenza artificiale vs verificatore antiplagio

Uno strumento di controllo dei saggi basato sull'intelligenza artificiale rileva l'uso dell'IA in un determinato testo. Gli strumenti di controllo del plagio individuano l'uso di materiale esterno in un testo.

Pangram è uno strumento commerciale in grado di individuare sia i contenuti generati dall'intelligenza artificiale sia quelli plagiati. Durante l'analisi del testo, Pangram li considera come due casi distinti.

L'intelligenza artificiale può plagiare il lavoro umano?

Uno strumento di controllo antiplagio confronta un saggio con testi già esistenti per individuare eventuali somiglianze. Uno strumento di controllo dei saggi basato sull'intelligenza artificiale analizza un testo alla ricerca di modelli linguistici simili a quelli dei modelli di IA attuali.

I modelli di linguaggio di grandi dimensioni (LLM) come ChatGPT generano testi utilizzando enormi set di dati e sono noti per il plagio da tali dati. In un articolo pubblicato su una rivista, Amy B. Cyphert, professore associato presso la Facoltà di Giurisprudenza dell'Università della Virginia Occidentale, osserva che:

«Le ricerche indicano che quanto più spesso un set di dati contiene materiale protetto da copyright, tanto maggiore è la probabilità che un modello di linguaggio di grandi dimensioni (LLM) produca un risultato che includa testo tratto da quell'opera senza alcuna modifica.»

La memorizzazione si verifica quando un modello di linguaggio di grandi dimensioni (LLM) riproduce frasi tratte dal testo del set di addestramento. Che sia intenzionale o meno, gli LLM possono essere indotti a riprodurre in gran parte il lavoro altrui. Ciò significa che il risultato finale del processo di prompting potrebbe essere plagiato, in parte o nella sua interezza.

Mentre i ricercatori continuano a discutere su una definizione più articolata di plagio, le politiche sull’integrità accademica delle università stabiliscono che il plagio consiste nell’utilizzare il lavoro di qualcun altro senza citarne la fonte. L’Università del Michigan sottolinea che il plagio può essere intenzionale o non intenzionale. L’Università di Oxford elenca diverse forme di plagio, tra cui la citazione letterale non attribuita, il copia-incolla da Internet, la parafrasi, la collusione e la mancata menzione dell’aiuto ricevuto, ecc.

Quindi, in un istituto universitario:

Quando uno studente consegna un lavoro generato dall'intelligenza artificiale, potrebbe anche presentare un lavoro scritto da un essere umano che risulta essere plagiato!

Gli esseri umani possono plagiare opere generate dall'intelligenza artificiale?

A seconda dei punti di vista, forse!

Quando uno studente presenta un lavoro generato dall'intelligenza artificiale senza citarne la fonte, si configura un caso di disonestà accademica. La politica dell'Università della Florida del Sud recita:

«Poiché i chatbot basati sull'intelligenza artificiale e altri strumenti di IA generativa producono nuovi testi e immagini in risposta a prompt, l'utilizzo di materiale proveniente dall'IA generativa potrebbe essere considerato più come una forma di ghostwriting che come plagio.»

Il Comitato per l'Etica delle Pubblicazioni sottolinea che l'intelligenza artificiale non può essere considerata un autore in un articolo di ricerca poiché «gli strumenti di intelligenza artificiale non soddisfano i requisiti necessari per essere considerati autori, in quanto non sono in grado di assumersi la responsabilità del lavoro presentato. Non essendo soggetti giuridici, non possono dichiarare l'esistenza o l'assenza di conflitti di interesse né gestire i diritti d'autore e gli accordi di licenza».

Alcuni atenei ritengono che l'uso di contenuti generati dall'intelligenza artificiale costituisca senza dubbio un caso di plagio:

«Il plagio è l'atto di presentare come proprie idee, ricerche o scritti che non sono propri. Esempi di plagio includono: copiare le parole o le immagini di un'altra persona o di uno strumento di intelligenza artificiale senza utilizzare virgolette e senza citare la fonte da cui provengono. - City University of New York»

«Si parla di plagio quando si prendono le idee di qualcun altro e le si presentano come proprie, anche involontariamente. Se si utilizza l’intelligenza artificiale per riassumere un’idea o scrivere un elaborato, il lavoro non è al 100% proprio.» - Ohio University

In altri casi, invece, agli educatori spetta la responsabilità di elaborare politiche in materia di IA, quali:

«Linee guida chiare per i singoli corsi o compiti consentono agli studenti di concentrarsi sugli obiettivi di apprendimento che desiderate che raggiungano. Poiché spesso gli studenti non sanno bene quando o se possono ricorrere all’IA generativa, le linee guida risultano particolarmente utili quando sono adattate al vostro corso e ai vostri compiti specifici, dato che alcuni utilizzi dell’IA potrebbero favorire l’apprendimento degli studenti, mentre altri potrebbero interferire con processi importanti che gli studenti devono affrontare autonomamente.» - UPenn

«L'elaborazione di linee guida chiare sull'uso dell'intelligenza artificiale è fondamentale per salvaguardare l'integrità accademica e definire le aspettative degli studenti. Tali linee guida dovrebbero specificare quando e come è possibile utilizzare strumenti di intelligenza artificiale come ChatGPT, Perplexity.ai o Grammarly e garantire che gli studenti comprendano le implicazioni etiche dell'intelligenza artificiale nel lavoro accademico.» - NYU

Da questo breve elenco di regolamenti universitari, è possibile comprendere le diverse prospettive delle istituzioni riguardo all’uso dell’IA e al plagio. Sebbene l’IA sia uno strumento e non un autore, presentare contenuti generati dall’IA senza citarne la fonte è disonesto. I docenti dovrebbero definire chiaramente le aspettative nei confronti dei propri studenti. Per saperne di più sulle politiche applicabili ai corsi, il professor Christopher Ostro ha proposto un approccio articolato per affrontare il fenomeno dell’imbroglio tramite IA.

Pangram adotta un approccio improntato alla trasparenza nell'uso dell'intelligenza artificiale e dei contenuti esterni, in particolare in ambito accademico. Se sei interessato al nostro modello, prova gratuitamente i nostri strumenti di intelligenza artificiale e di rilevamento del plagio!