O que acontece quando um detetor de IA comete um erro?

À medida que a inteligência artificial se torna cada vez mais comum, os professores querem poder saber se os alunos estão a usar a IA para escrever os trabalhos por eles. Um detetor de IA para professores parece ser a solução óbvia, mas muitos mostram-se hesitantes. O que acontece se o software cometer um erro?

Essa preocupação faz sentido. Até agora, os detectores de IA têm sido bastante pouco fiáveis. Vários estudos revelaram que estas ferramentas muitas vezes não conseguem reconhecer quando um texto foi produzido por IA e que um plagiador determinado pode enganá-las introduzindo algumas paráfrases ou erros ortográficos. Estes falsos negativos são bastante problemáticos, uma vez que permitem que alguns textos gerados por computador passem despercebidos.

Mas o que é mais preocupante é a elevada taxa de falsos positivos dos sistemas de deteção precoce. Estes ocorrem quando um texto que foi, na verdade, escrito por um ser humano é identificado como sendo da IA, o que leva a situações de stress e a medidas disciplinares injustificadas para alunos que não fizeram nada de errado, a uma fiscalização desnecessária por parte dos professores e a uma quebra de confiança na escola.

O problema é particularmente grave entre os estudantes para quem o inglês não é a língua materna. Várias ferramentas de deteção de IA revelam preconceitos contra falantes não nativos. Um artigo de 2023 da Universidade de Stanford concluiu que vários detetores identificaram unanimemente (e de forma errada) 1 em cada 5 ensaios escritos por um falante não nativo de inglês como tendo sido gerados por IA. Quase todos foram erroneamente sinalizados por pelo menos um dos detetores.

Com que frequência os detectores de IA cometem erros?

Os detetores de IA mais populares reconhecem que cometem este tipo de erros com bastante frequência. O TurnItIn, por exemplo, apresenta uma taxa de falsos positivos de cerca de 1 em 200, o que significa que, por cada 200 trabalhos que um professor submete à análise, o trabalho original de um aluno será erroneamente marcado como gerado por IA. Outras ferramentas apresentam taxas de falsos positivos entre 1 em 500 e 1 em 100, enquanto estudos independentes revelaram que os números podem ser ainda mais elevados.

Por outro lado, a taxa de falsos positivos do Pangram é de apenas 1 em 10 000, medida através de testes realizados em dezenas de milhões de documentos. O nosso modelo é particularmente fiável no que diz respeito a textos com mais de algumas centenas de palavras, escritos em frases completas — exatamente o tipo de texto que os alunos costumam apresentar em trabalhos de grande envergadura.

Como é que os professores podem saber se um detetor de IA sinalizou por engano um texto escrito por um aluno?

Quando um detetor de IA sinaliza um texto como tendo sido gerado por IA, o professor tem algumas opções para ajudar a confirmar o resultado. Em primeiro lugar, deve simplesmente perguntar ao aluno sobre o uso da IA, abordando a conversa com humildade. Se o resultado for realmente um erro, o aluno poderá apresentar provas do seu processo de escrita, como um histórico de revisões detalhado no Google Docs ou cópias de rascunhos iniciais. Neste caso, os professores podem reconhecer que provavelmente encontraram um falso positivo extremamente raro. O aluno também deve ser capaz de discutir o seu processo de escrita em detalhe. Esta conversa pode revelar uma compreensão profunda do trabalho entregue, sugerindo que o aluno o escreveu de facto por si próprio. Por outro lado, pode revelar que o aluno utilizou IA de uma forma que não percebeu ser errada, confirmando as conclusões do detetor.

Se o aluno continuar a insistir que não utilizou IA, mas não conseguir apresentar provas nem explicar o seu trabalho de forma coerente, ainda assim é aceitável dar-lhe o benefício da dúvida. Afinal, seria extremamente prejudicial se fosse punido por algo que não fez. Neste caso, os professores podem orientar os alunos a manter registos do seu processo de escrita no futuro, o que ajudará a esclarecer quaisquer mal-entendidos futuros. Se o aluno estiver a mentir conscientemente sobre o uso de IA, provavelmente pensará duas vezes antes de o fazer no futuro. Mas se o seu trabalho continuar a ser sinalizado por um detetor de IA preciso como o Pangram, provavelmente é hora de escalar a situação. As probabilidades de um erro já são pequenas; as probabilidades de múltiplos erros são minúsculas.