Relatório técnico sobre a deteção de texto gerado por IA com elevada precisão

Processo de treino do classificador de texto gerado por IA da Pangram Labs

Introdução

Na Pangram Labs, estamos a desenvolver o melhor modelo de deteção de texto baseado em IA para proteger a Internet contra a inundação de conteúdos falsos, enganosos e de baixa qualidade. Acreditamos que, num mundo impulsionado pelas LLMs, os seres humanos precisarão de estar equipados com as melhores ferramentas para identificar a verdade, e queremos fornecer a tecnologia adequada para responder a essa necessidade.

A Pangram Labs desenvolveu um classificador avançado para detetar texto gerado por IA que possa ser utilizado em spam ou conteúdo fraudulento. Em que medida o nosso modelo é superior às alternativas existentes no mercado? Nesta publicação do blogue, apresentamos uma análise abrangente do desempenho do nosso modelo, acompanhada do nosso primeiro documento técnico divulgado publicamente.

Esta publicação no blogue abordará vários temas:

• Por que razão a deteção de texto gerado por IA é uma questão importante?
• Qual é o melhor detector de conteúdo gerado por IA?
• Por que é que a alta precisão é importante?
• Que tipo de conteúdo é que a Pangram Labs consegue detetar?
• Como é que a Pangram Labs abordou a resolução deste problema?

Para uma análise mais aprofundada e técnica, incluindo a metodologia, consulte o nosso Relatório Técnico sobre o Classificador de Textos Gerados por IA Pangram.

TL;DR

Realizámos uma análise comparativa da concorrência utilizando cerca de 2000 documentos para determinar os principais indicadores de precisão, incluindo a precisão global, as instâncias de falsos positivos e as instâncias de falsos negativos.

Our text classifier outperforms academic methods and shows significantly lower error rates in a comprehensive benchmark against other available AI text detection methods. Our model demonstrates 99.85% accuracy with 0.19% false positive rate across thousands of examples across ten different categories of writing and eight commonly used large language models. Other methods fail on more capable LLMs such as GPT-4 (<=75% accuracy) while Pangram Labs sustains 99-100% accuracy across all language models tested.

Comparação da precisão global

Introdução ao texto gerado por IA

Os modelos de linguagem de grande escala (LLMs), como o ChatGPT, viraram uma sensação em 2023, à medida que as capacidades da IA atingiram um ponto de viragem. Os LLMs que alimentam os assistentes de IA conseguiam responder a perguntas, debater ideias e escrever conteúdos, tudo isto soando de forma convincentemente humana. Isto gerou alguns resultados positivos — a informação está mais acessível do que nunca e os assistentes podem poupar-nos tempo na realização de tarefas rotineiras. No entanto, qualquer pessoa é capaz de produzir texto com um tom convincentemente humano praticamente sem esforço — o que tem as suas desvantagens. Os spammers podem escrever e-mails mais difíceis de filtrar. Os vendedores em mercados online podem produzir milhares de avaliações com aparência autêntica em poucos minutos. Malfeitores podem recorrer às redes sociais e influenciar a opinião pública com milhares de bots alimentados por LLMs.

Infelizmente, estes riscos sociais não podem ser mitigados ao nível dos modelos de linguagem (LLM) — os modelos de linguagem não têm capacidade para distinguir se um pedido é legítimo ou se é apenas mais um entre milhares criados por um spammer. Por esta razão, precisamos de filtros de conteúdo na camada de aplicação — para manter os espaços humanos verdadeiramente humanos.

Por que é que a Pangram Labs dá tanta importância à precisão

Temos ouvido muito ceticismo em relação a esta área de trabalho. Dizem que o problema é impossível de resolver, que já ficou demonstrado que os detetores de IA «não funcionam», ou que basta contornar o problema com as instruções. Ou mesmo que seja possível agora, será mais difícil no próximo ano e impossível quando a IA geral (AGI) for lançada.

A nossa posição é um pouco diferente. Acreditamos firmemente que este problema não só é possível resolver, como é necessário fazê-lo. Não importa o quão difícil seja, nem quantas horas tenhamos de dedicar para criar algo que os utilizadores possam usar e em que possam confiar. Sem o nosso trabalho, é apenas uma questão de anos até que a Internet seja invadida por spammers alimentados por IA. As vozes humanas serão abafadas pelo ruído.

Para nós, garantir que o problema está resolvido implica continuar a aumentar a dificuldade dos nossos conjuntos de avaliação. As primeiras avaliações eram fáceis de atingir os 100% de precisão, mas rapidamente se tornou evidente que isso não refletia a precisão no mundo real. Ao criar avaliações mais difíceis, conseguimos medir a nossa melhoria de forma objetiva. Já acreditamos que o nosso benchmark atual é ligeiramente mais difícil do que o que os spammers do mundo real produzem, e este benchmark está quase no limite. Quando voltarmos com novos números, pode parecer que outros métodos pioraram ainda mais, mas a realidade é que regressaremos com um conjunto de avaliação mais difícil, com as IAs mais capazes a serem levadas ao limite para criar texto que pareça autêntico, e o nosso objetivo é continuar a ser capazes de o detetar com 99% de precisão.

O problema nunca será totalmente resolvido, mas precisamos de avançar de forma constante para evitar ficarmos para trás, à medida que os LLMs se tornam cada vez mais capazes. Foi para isso que nos comprometemos e é isso que continuaremos a perseguir até ao fim.

Comparação de ferramentas de deteção de IA

No nosso relatório técnico, comparámos a Pangram Labs com as duas principais ferramentas de deteção de IA, bem como com um método académico de ponta de 2023 para a deteção de IA.

Comparamos:

• Pangram Labs
• GPTZero
• Originality.ai
• DetectGPT

O nosso conjunto de referência inclui 1 976 documentos — metade deles redigidos por seres humanos e a outra metade gerados por oito dos modelos de linguagem grande (LLM) mais populares, incluindo o ChatGPT e o GPT-4.

Comparação da precisão global

Uma breve explicação sobre o que estes números significam:

• Precisão: Que percentagem do total de documentos a ferramenta classificou corretamente?
• Taxa de falsos positivos: de todos os documentos criados por humanos, quantos foram classificados incorretamente como sendo da IA?
• Taxa de falsos negativos: de todos os documentos gerados pela IA, quantos foram classificados incorretamente como sendo de autoria humana?

Para ilustrar concretamente a taxa de falsos positivos: 9 % significa que um em cada 11 documentos redigidos por humanos será sinalizado como sendo de IA. Uma taxa de falsos positivos de 2 % significa que um em cada 50 documentos redigidos por humanos será sinalizado como sendo de IA. E 0,67 % significa que um em cada 150 documentos redigidos por humanos será sinalizado como sendo de IA.

Da mesma forma, uma taxa de falsos negativos de 10 % significa que um em cada dez documentos gerados por IA passa despercebido, enquanto uma taxa de falsos negativos de 1,4 % significa que um em cada setenta documentos gerados por IA passa despercebido.

Considere as implicações destes resultados. Não se pode confiar num modelo de deteção com uma taxa de falsos positivos de 9% — caso contrário, as falsas acusações seriam frequentes. E um modelo de deteção com uma taxa de falsos negativos de 10% deixaria passar tanto spam gerado por IA que, perante qualquer ataque, os utilizadores continuariam a ser inundados.

Analisar os resultados em profundidade

O nosso parâmetro de referência divide-se em dois eixos distintos: o domínio do texto e o LLM de origem. O «domínio do texto», ou simplesmente «domínio», é uma forma de se referir a uma categoria específica de escrita. Por exemplo, uma redação do ensino básico tem um estilo muito diferente de um artigo científico, que, por sua vez, é muito diferente de um e-mail. Ao dividir os resultados em diferentes domínios, conseguimos ter uma visão mais abrangente das áreas em que nos saímos bem e daquelas em que podemos concentrar os nossos esforços para melhorar.

Precisão por domínio de texto

Os resultados mostram que o Pangram Labs supera o GPTZero e o Originality em todos os dez domínios avaliados.

Um dos domínios, o e-mail, apresenta um resultado especialmente bom porque a Pangram Labs não inclui e-mails nos seus dados de treino. O nosso desempenho no domínio do e-mail deve-se inteiramente ao treino de um modelo robusto, capaz de se generalizar à maioria das categorias de texto que um LLM pode produzir.

Documentos de IA classificados corretamente, por LLM de origem

A análise por origem dos LLM revela um quadro diferente: os modelos concorrentes de deteção de IA apresentam melhores resultados em modelos de código aberto menos avançados, mas têm um desempenho inferior no ChatGPT (gpt-3.5-turbo) e enfrentam grandes dificuldades no GPT-4, o LLM mais avançado da OpenAI. Avaliámos várias versões dos modelos GPT 3.5 Turbo e GPT-4, uma vez que estes são os mais utilizados na prática.

Constatamos que somos o único modelo capaz de detetar texto do GPT-4 de forma fiável e que superamos a concorrência em todos os outros modelos que testámos.

Uma observação interessante é que a nossa concorrência apresenta um desempenho muito superior nos modelos de código aberto do que nos modelos GPT e Gemini de código fechado. A nossa hipótese é que isto se deve a uma dependência excessiva das características de perplexidade e burstiness – embora estas características sejam valiosas, só é possível calcular com precisão a perplexidade e a burstiness num modelo de código aberto: nos modelos de código fechado, só é possível fazer uma estimativa aproximada. Isto demonstra o valor da nossa abordagem baseada em aprendizagem profunda – não depende de características frágeis como a perplexidade e consegue aprender padrões subjacentes mais subtis.

Robustez

Uma pergunta que nos fazem frequentemente é: o que acontece quando é lançado um novo modelo de linguagem? É necessário treinar o modelo para cada novo modelo, a fim de detetar os seus resultados? Em suma, não. A OpenAI lançou duas novas versões dos seus LLMs nas últimas semanas. Sem qualquer treino nestes novos LLMs, avaliámos o nosso modelo e descobrimos que continuámos a ter um desempenho bastante bom!

• GPT-3.5-Turbo-0125: 99,66% de precisão
• GPT-4-0125-Pré-visualização: 99,18% de precisão

Estas novas versões são semelhantes às versões anteriores lançadas pela OpenAI. Por isso, a próxima pergunta que nos colocamos é: como nos saímos com famílias de modelos completamente diferentes? Para responder a esta questão, avaliámos o nosso modelo numa série de modelos de código aberto que o nosso classificador nunca tinha visto antes.

Desempenho de um LLM de código aberto, não observado pela Pangram Labs durante o treino.

É fantástico! Muito disso deve-se ao facto de muitos modelos de código aberto partirem da família Llama ou utilizarem conjuntos de treino de código aberto semelhantes, mas isso ajuda-nos a ter confiança na nossa capacidade de generalização sem precisarmos de treinar em todos os modelos de código aberto.

Dito isto, o nosso pipeline de dados foi concebido de forma a permitir-nos gerar um novo conjunto de treino poucas horas após o lançamento de uma API de LLM — estando o nosso único limite na restrição de taxa da API. Estamos plenamente conscientes de que os LLMs continuam a melhorar e, à medida que nos aproximamos da IA Geral (AGI), será cada vez mais importante mantermo-nos atualizados e garantir que conseguimos acompanhar até mesmo os agentes de IA mais avançados.

Inglês como Segunda Língua

Estudos anteriores revelaram que os detetores comerciais de LLM apresentam um viés consistente contra falantes não nativos (ESL, ou Inglês como Segunda Língua). Para comprovar esta hipótese, os investigadores utilizaram um conjunto de referência composto por 91 ensaios do TOEFL (Teste de Inglês como Língua Estrangeira) para testar vários detetores.

Analisámos as 91 redações do TOEFL do nosso conjunto de treino e avaliámos o Pangram Labs neste conjunto de referência. Graças ao nosso trabalho de minimização das taxas de falsos positivos para o ESL, registamos uma taxa de falsos positivos de 0% no conjunto de referência do TOEFL — o que significa que nenhuma das redações humanas deste conjunto de referência foi erroneamente classificada como sendo da IA.

Comparação com o padrão de referência do TOEFL

A abordagem da Pangram Labs à deteção de IA

Detetar conteúdos gerados por IA não é uma tarefa fácil. Treinamos um modelo de aprendizagem profunda com uma arquitetura baseada em transformadores, utilizando dois métodos fundamentais para elevar a precisão do nosso modelo a um novo patamar.

Espelhos sintéticos

Todos os documentos do nosso conjunto de treino estão classificados como «Humano» ou «IA». No aprendizado de máquina, chamamos a esses documentos de «exemplos».

Temos milhões de exemplos humanos disponíveis para treino a partir de conjuntos de dados públicos, mas não existem conjuntos de dados de IA equivalentes. Resolvemos isto emparelhando cada exemplo humano com um «espelho sintético» — um termo que usamos para descrever um documento gerado por IA baseado num documento humano. Solicitamos a um LLM um documento sobre o mesmo tema e com o mesmo comprimento. Para uma parte dos exemplos, fazemos com que o LLM comece pela primeira frase do documento humano, para tornar os documentos de IA mais variados.

Mineração de Negativos Rígidos

Logo no início, atingimos um limite no treino do nosso modelo. Tentámos adicionar mais exemplos, mas acabámos por constatar que o modelo estava «saturado» — a adição de mais exemplos de treino não melhorava mais o modelo.

Experiência sobre leis de escala

O desempenho deste modelo inicial foi insatisfatório — ainda apresentava uma taxa de falsos positivos superior a 1 % em muitos domínios. Descobrimos que não precisávamos apenas de mais exemplos, mas sim de exemplos mais complexos.

Identificámos exemplos mais complexos partindo do nosso modelo inicial e analisando dezenas de milhões de exemplos humanos em conjuntos de dados abertos, procurando os documentos mais complexos que o nosso modelo classificou incorretamente. Em seguida, gerámos versões sintéticas desses documentos e adicionámo-las ao nosso conjunto de treino. Por fim, voltámos a treinar o modelo e repetimos o processo.

Processo de treino do classificador de texto gerado por IA da Pangram Labs

Com este método de treino, conseguimos reduzir as nossas taxas de falsos positivos numa proporção de 100 para 1 e lançar um modelo do qual nos orgulhamos.

Tabela das taxas de falsos positivos por domínio

Chamamos a este método «mineração de negativos difíceis com espelhos sintéticos» e abordamos o processo com mais pormenor no nosso relatório técnico.

O que se segue para a Pangram Labs?

Obviamente, esta não é a conclusão da nossa jornada. Temos várias ideias novas sobre como podemos elevar o desempenho a um novo patamar. Vamos continuar a aperfeiçoar os nossos conjuntos de avaliação para conseguirmos monitorizar melhor a taxa de falsos positivos com uma precisão de centésimos de um por cento. Pretendemos expandir o nosso modelo para que funcione em línguas que não o inglês e estamos a trabalhar para compreender e identificar os nossos casos de falha. Fique atento ao que faremos a seguir!

Tem alguma dúvida ou comentário? Contacte-nos através do e-mail info@pangram.com!