Mitos e equívocos sobre a deteção de IA

O Jason é professor de Inglês e Filosofia na New Roads School, em Los Angeles.

Introdução

É frequente perguntarem-me o que os detectores de IA conseguem e não conseguem fazer. Hoje, vamos explorar alguns dos mitos e equívocos mais comuns sobre a deteção por IA. Vamos lá!

Mito 1: Em vez de recorrer à deteção por IA, devemos integrar a IA no nosso ensino e ensinar os alunos a utilizá-la.

Devemos integrar a IA no nosso ensino e devemos ensinar os alunos a utilizá-la! No entanto, opor a integração da IA à deteção de IA é colocar em confronto duas ideias que, na realidade, não são contraditórias. A deteção de IA é um pré-requisito necessário para a integração da IA, a fim de estabelecer limites sensatos em torno da tecnologia e garantir que esta é utilizada de forma assistiva, e não abusiva.

Existe uma certa falácia ludita que surge sempre que surge uma nova tecnologia e se sugere qualquer restrição — neste caso, a ideia de que «detecção é sinónimo de dissuasão», o que é falso.

Na prática, o oposto é verdadeiro. Quem procura ferramentas eficazes de deteção de IA é, normalmente, quem mais deseja utilizar a IA nas suas salas de aula. Querem utilizar as ferramentas, mas não querem que estas sejam utilizadas de forma abusiva. Por outro lado, há quem esteja tão entusiasmado com o futuro da IA que queira utilizar ferramentas de IA sem restrições nas suas salas de aula, partindo do princípio de que «este é o futuro». Não aceitam quaisquer restrições. Ainda assim, há quem abomine a IA e seja do tipo «caneta e papel». São indivíduos ou escolas que decidiram que a única abordagem válida à IA é não a ter de todo. Não há necessidade de deteção quando a aula regressa aos dias pré-informáticos. A verdade, no entanto, é que aqueles que procuram a deteção de IA são geralmente os mais interessados em maximizar a utilização da IA para a aprendizagem na sala de aula. Querem evitar determinantes desnecessários enquanto experimentam e expandem a sua arte com a IA. Esta parece-nos ser a abordagem correta.

Mito 2: Os detectores de IA são «caixas negras» que não revelam a sua metodologia e, por isso, não são de confiança.

Embora seja verdade que outros detetores de IA não sejam transparentes quanto aos seus métodos, a Pangram partilhou abertamente a sua metodologia. A Pangram é transparente quanto aos seus métodos, pois acredita que é importante conquistar a confiança da comunidade científica e apresentar provas concretas da precisão do software. A Pangram disponibiliza uma demonstração interativa e animada da sua metodologia no seu site.

A Pangram também publica algumas das suas inovações técnicas em conferências e revistas especializadas em IA. Por exemplo, apresentou recentemente na conferência COLING um trabalho que descreve a robustez do sistema face a ferramentas de humanização e parafraseamento.

Mito 3: A deteção de IA não foi submetida a revisão por pares nem validada por académicos.

O trabalho de Pangram não só foi revisto por pares, como também pode ser revisto por qualquer pessoa, a qualquer momento.

O Pangram foi recentemente destacado e avaliado em vários trabalhos sujeitos a revisão por pares. O Pangram ganhou o prémio de detetor mais preciso e robusto na Tarefa Partilhada COLING, uma competição que contou com vários detetores de IA de código aberto e disponíveis no mercado.

O Pangram foi também recentemente destacado num estudo da Universidade de Maryland, que demonstrou ser o único detetor automatizado de IA capaz de superar especialistas humanos na deteção de texto gerado por IA, bem como num outro artigo de investigação da Universidade de Houston, que demonstrou que o Pangram é o único detetor de IA que se mantém fiável mesmo após tradução.

Estudos de investigação mais antigos que são frequentemente citados, como o estudo de Weber-Wulff de 2023 e o estudo de Liang, que demonstra que os detetores de IA apresentam preconceitos contra o ESL, não incluem o Pangram nos seus testes comparativos. Não só estes estudos estão desatualizados, como também demonstrámos que o Pangram se destaca nestes testes comparativos, ao passo que outros detetores não o fazem.

A Pangram não tem receio de ser submetida a testes de resistência por parte de investigadores, e é por isso que concede acesso gratuito e ilimitado a investigadores académicos que pretendam estudar a precisão do detetor de IA da Pangram.

Mito 4: Os detectores de IA são imprecisos.

Já me abordaram várias vezes pessoas que afirmavam que o seu trabalho tinha sido sinalizado como sendo da IA, quando na verdade tinha sido escrito por um ser humano. Infelizmente, penso que há aqui alguns fatores em jogo.

Há quem acredite que os detectores de IA simplesmente não servem para nada, porque autores e instituições continuam a afirmá-lo sem qualquer remorso e sem apresentar provas. Veja-se, por exemplo, este artigo que afirma que «Até meados de 2024, nenhum serviço de deteção conseguiu identificar de forma conclusiva conteúdos gerados por IA com uma taxa superior à do acaso, e a Universidade Estadual de Illinois não tem qualquer relação com nenhum desses serviços.», o que é uma afirmação inventada, dado que mesmo os piores detetores de IA ainda conseguem identificar alguns conteúdos gerados por IA. A Pangram ostenta uma taxa de falsos positivos de 1 em 10 000, porque no seu desenvolvimento e metodologia, que podem ser consultados no seu livro branco, esses são os números reais de deteções incorretas que observam, o que é cerca de 100 vezes melhor do que o segundo melhor software comercial disponível.

Nenhum software de deteção pode ter 100% de precisão. Isso não é possível. Os detetores de IA são, em geral, bons; a deteção do Pangram é melhor. Nenhuma deteção de IA é 100% precisa. Se submetesse dois textos que alegassem ser de autoria humana ao Pangram (ou a qualquer outro detetor) e ambos fossem sinalizados como IA quando não o eram, a probabilidade estatística de o detetor estar errado é absurdamente menor do que a probabilidade de o texto ter sido realmente escrito por IA. Este é o problema que as escolas querem resolver: a confiança ao afirmar que algo foi escrito com IA, quando na verdade não foi. Com o Pangram, podemos estar muito mais confiantes de que um texto é de IA do que de uma pessoa que afirma que não é.

Mito 5: Os detectores de IA não identificam ferramentas de auxílio à redação, como o Grammarly

Existe um equívoco de que as ferramentas de IA generativa, como o Grammarly, não são detetadas. Talvez isso seja verdade no caso de outros detetores, mas o Pangram consegue detetar uma quantidade significativa de assistência de IA generativa na escrita. Isso significa que, sim, o trabalho que escreveste é da tua autoria, mas está a ser sinalizado como tendo sido produzido por IA porque utilizaste uma quantidade significativa de IA para o «aperfeiçoar». Vejo isto constantemente com os alunos.

O Grammarly já não é apenas um verificador gramatical. É uma ferramenta de assistência por IA completa, capaz de reescrever na íntegra as redações dos alunos utilizando um modelo de linguagem de grande escala. Se um aluno utilizar o Grammarly desta forma, para alterar profundamente a composição e o estilo do seu texto original, o Pangram irá detetar a redação como tendo sido gerada por IA.

É por isso que encorajo vivamente os professores a adotarem uma política relativa à IA, como o sistema de níveis disponível no site da Pangram, para que não haja equívocos sobre que tipos de ferramentas de IA são permitidas no processo de escrita e o que constitui má conduta.

Mito 6: Os detectores de IA causam danos ao gerar falsas acusações contra estudantes honestos.

Os críticos da deteção de IA costumam afirmar que acusar falsamente os alunos de recorrerem à IA causa danos irreparáveis à reputação do aluno e à credibilidade do professor.

No entanto, o pangram não é, por si só, uma ferramenta acusatória.

Na minha experiência, na maioria das vezes, uma detecção positiva de IA na redação de um aluno é provavelmente um mal-entendido, ou simplesmente um aluno bem-intencionado que se sentiu sobrecarregado pela pressão do prazo. Uma simples conversa entre um professor e um aluno não tem de ser de natureza conflituosa. Acreditamos que os professores devem aproveitar a oportunidade para compreender o processo de escrita do aluno: perguntar ao aluno até que ponto compreende o material subjacente, analisar o histórico de revisões do aluno para ter uma ideia de como o documento foi elaborado e pedir ao aluno que explique se e como utilizou assistência de IA no processo de edição, em vez de saltar imediatamente para a conclusão de que o aluno tencionava fazer batota.

Pangram costuma comparar os detectores de IA aos detectores de metais: quando um detector de metais dispara, não se é detido imediatamente. Pelo contrário, uma detecção positiva é um motivo para iniciar uma conversa mais aprofundada e compreender melhor o que realmente se passa.

Conclusão

É importante — tal como acontece com qualquer ferramenta — que os professores compreendam tanto os pontos fortes como as limitações da deteção por IA.

Embora sistemas como o Pangram sejam extremamente precisos na deteção de texto gerado por IA, ocasionalmente ocorrem erros.

É por isso que é fundamental que os professores estabeleçam orientações, políticas e limites claros nas suas salas de aula quanto ao tipo de assistência por IA permitido, e que as detecções positivas do Pangram sejam levadas a sério; no entanto, as conversas sobre a utilização da IA devem ser abordadas com empatia e curiosidade. Uma detecção positiva do Pangram nunca deve ser utilizada isoladamente para punir ou acusar um aluno de má conduta académica sem uma compreensão mais profunda do seu processo de escrita.

Quer continuar a conversa? O Jason terá todo o prazer em conversar consigo e dar-lhe mais orientações sobre como estabelecer uma política de IA para a sua sala de aula. Pode contactá-lo através do endereço jason@pangram.com.