Mitos e equívocos sobre a deteção de IA

Jason é professor de Inglês e Filosofia na New Roads School, em Los Angeles.

Introdução

Normalmente, perguntam-me o que os detetores de IA podem e não podem fazer. Hoje, vamos explorar alguns dos mitos e equívocos mais comuns sobre a deteção de IA. Vamos lá!

Mito 1: Em vez de usar a deteção de IA, devemos incorporar a IA no nosso ensino e ensinar os alunos a usá-la.

Devemos incorporar a IA no nosso ensino e ensinar os alunos a usá-la! Mas integrar a IA em vez de usar a deteção de IA é colocar duas ideias em conflito que, na verdade, não são contraditórias. A deteção de IA é um pré-requisito necessário para a incorporação da IA, para estabelecer limites sensatos em torno da tecnologia e garantir que ela seja usada de forma assistiva, e não abusiva.

Há uma certa falácia ludita que ocorre quando surge uma nova tecnologia e se sugere qualquer restrição — neste caso, que «detecção é igual a dissuasão», o que é falso.

Na prática, o oposto é verdadeiro. Aqueles que procuram ferramentas poderosas de deteção de IA são geralmente os que mais querem usar a IA nas suas salas de aula. Eles querem usar as ferramentas, mas não querem que elas sejam abusadas. Por outro lado, há aqueles que estão tão entusiasmados com o futuro da IA que querem usar ferramentas de IA sem restrições nas suas salas de aula, sob o ideal de que «este é o futuro». Eles não aceitam restrições. Ainda assim, há aqueles que abominam a IA e são do tipo «caneta e papel». São indivíduos ou escolas que decidiram que a única abordagem válida para a IA é não ter nenhuma. Não há necessidade de deteção quando a aula volta aos dias pré-informatizados. A verdade, porém, é que aqueles que buscam a deteção de IA são geralmente os mais interessados em maximizar o uso da IA para a aprendizagem em sala de aula. Eles querem evitar determinantes desnecessários enquanto experimentam e expandem a sua arte com a IA. Esta parece-nos a abordagem correta.

Mito 2: Os detetores de IA são caixas pretas que não revelam a sua metodologia e, portanto, não são confiáveis.

Embora seja verdade que outros detetores de IA não são transparentes quanto aos seus métodos, a Pangram partilhou abertamente a sua metodologia. A Pangram é aberta quanto aos seus métodos, porque acredita que é importante ganhar a confiança da comunidade científica e mostrar evidências factuais da precisão do software. A Pangram fornece uma demonstração interativa e animada da sua metodologia no seu site.

A Pangram também publica algumas das suas inovações técnicas em conferências e revistas sobre IA. Por exemplo, recentemente apresentou um trabalho que descreve como o sistema é robusto em relação a humanizadores e parafraseadores na conferência COLING.

Mito 3: A deteção de IA não foi revista por pares nem validada por académicos.

O trabalho da Pangram não só foi avaliado por pares, como também pode ser avaliado por qualquer pessoa a qualquer momento.

O Pangram foi recentemente apresentado e avaliado em vários trabalhos revisados por pares. O Pangram ganhou o prémio de detector mais preciso e robusto na COLING Shared Task, uma competição que contou com vários detectores de IA de código aberto e disponíveis comercialmente.

O Pangram também foi recentemente destaque numa pesquisa da Universidade de Maryland, que mostrou que ele é o único detetor automatizado de IA que supera especialistas humanos treinados na deteção de textos gerados por IA, e num outro artigo de pesquisa da Universidade de Houston, que demonstrou que o Pangram é o único detetor de IA robusto para tradução.

Estudos mais antigos que são comumente citados, como o estudo Weber-Wulff de 2023 e o estudo Liang, que demonstram que os detectores de IA são tendenciosos contra o ESL, não utilizam o Pangram como referência. Além de esses estudos estarem desatualizados, demonstramos que o Pangram se destaca nessas referências, enquanto outros detectores não.

A Pangram não tem medo de ser submetida a testes de estresse por pesquisadores, e é por isso que eles oferecem acesso gratuito e ilimitado a pesquisadores acadêmicos que desejam estudar a precisão do detector de IA da Pangram.

Mito 4: Os detetores de IA são imprecisos.

Muitas vezes, sou abordado por pessoas que afirmam que o seu trabalho foi sinalizado como IA, quando na verdade foi escrito por humanos. Infelizmente, acho que há alguns fatores em jogo aqui.

Há pessoas que acreditam que os detetores de IA simplesmente não funcionam, porque autores e instituições continuam a afirmá-lo sem pudor e sem provas. Veja, por exemplo , esteartigo que afirma que “Até meados de 2024, nenhum serviço de detecção foi capaz de identificar conclusivamente conteúdo gerado por IA com uma taxa melhor do que o acaso, e a Illinois State University não tem relação com nenhum desses serviços.”, o que é uma afirmação inventada, dado que mesmo os piores detectores de IA ainda detectam algum conteúdo de IA. O Pangram apresenta uma taxa de falsos positivos de 1/10 000, porque no seu desenvolvimento e metodologia, que podem ser lidos no seu white paper, esses são os números reais de detecções incorretas que observam, o que é cerca de 100 vezes melhor do que o segundo melhor software comercial disponível.

Nenhum software de deteção pode ser 100% preciso. Isso não é possível. Os detetores de IA geralmente são bons; a deteção Pangram é melhor. Nenhuma detecção de IA é 100% precisa. Se você executasse dois textos que afirmavam ser humanos através do Pangram (ou qualquer outro detector) e ambos fossem sinalizados como IA quando não eram, a probabilidade estatística de que o detector estivesse errado seria absurdamente menor do que a probabilidade de que o texto tivesse sido realmente escrito por IA. Esse é o problema que as escolas querem resolver: a confiança ao afirmar que algo foi escrito com IA, quando na verdade não foi. Com o Pangram, podemos ter muito mais confiança de que um texto é AI do que uma pessoa que afirma que não é.

Mito 5: Os detetores de IA não detetam ferramentas de assistência à escrita, como o Grammarly.

Existe um equívoco de que a ajuda da IA generativa, como o Grammarly, não será detetada. Talvez isso seja verdade com outros detetores, mas o Pangram detetará uma quantidade suficiente de assistência da IA generativa na escrita. Isso significa que, sim, o trabalho que escreveu é seu, mas está a ser sinalizado como IA porque utilizou uma quantidade significativa de IA para «limpá-lo». Vejo isso constantemente com os alunos.

O Grammarly já não é apenas um verificador gramatical. É uma ferramenta completa de assistência por IA que reescreve completamente as redações dos alunos usando um grande modelo de linguagem. Se um aluno usar o Grammarly dessa forma, para alterar fundamentalmente a composição e o estilo da sua redação original, o Pangram detectará a redação como sendo gerada por IA.

É por isso que incentivo fortemente os professores a adotarem uma política de IA, como o sistema de níveis no site da Pangram, para que não haja equívocos sobre quais tipos de ferramentas de IA são permitidas no processo de escrita e o que constitui má conduta.

Mito 6: Os detetores de IA causam danos ao criar falsas acusações contra alunos honestos.

Os detratores da detecção de IA costumam dizer que acusar falsamente os alunos de usar IA causa danos irreparáveis à reputação do aluno e à credibilidade do professor.

No entanto, o Pangram não é, por si só, uma ferramenta acusatória.

Na maioria das vezes, pela minha experiência, uma deteção positiva de IA na escrita de um aluno provavelmente é um mal-entendido ou simplesmente um aluno bem-intencionado que ficou sobrecarregado com a pressão do prazo. Uma conversa simples entre um professor e um aluno não precisa ser de natureza conflituosa. Acreditamos que os professores devem aproveitar a oportunidade para compreender o processo de escrita do aluno: perguntar ao aluno se ele compreende bem o material subjacente, analisar o histórico de revisões do aluno para ter uma ideia de como o documento foi elaborado e pedir ao aluno para explicar se e como utilizou a assistência da IA no processo de edição, em vez de concluir imediatamente que o aluno pretendia copiar.

Pangram costuma comparar os detetores de IA a detetores de metais: quando um detetor de metais dispara, não se é imediatamente preso. Em vez disso, uma deteção positiva é um motivo para iniciar uma conversa mais aprofundada e obter uma compreensão mais profunda do que realmente está a acontecer.

Conclusão

É importante — como com qualquer ferramenta — que os professores compreendam tanto os pontos fortes quanto as limitações da deteção por IA.

Embora sistemas como o Pangram sejam extremamente precisos na detecção de textos gerados por IA, raramente ocorrem erros.

É por isso que é vital que os professores estabeleçam orientações, políticas e limites claros nas suas salas de aula sobre que tipo de assistência de IA é permitida e por que as deteções positivas do Pangram devem ser levadas a sério, mas as conversas sobre o uso da IA devem ser abordadas com empatia e curiosidade. Uma deteção positiva do Pangram nunca deve ser usada isoladamente para punir ou acusar um aluno de má conduta académica sem uma compreensão mais profunda do processo de escrita do aluno.

Quer continuar a conversa? Jason terá todo o prazer em conversar e fornecer mais orientações sobre como estabelecer uma política de IA para a sua sala de aula. Ele pode ser contactado pelo e-mail jason@pangram.com.