O Detetor de Pangram por IA já está disponível em vários idiomas!

Foto de Valentin Antonucci.

É com grande entusiasmo que anunciamos uma importante atualização do Pangram Text, o nosso principal modelo de deteção de IA. O Pangram Text consegue agora detetar texto gerado por IA em espanhol, francês, italiano, português, alemão, russo e mandarim, com a mesma precisão líder do setor que o texto escrito em inglês. Estamos a implementar imediatamente o nosso novo modelo multilingue para proteger as plataformas online contra o spam gerado por IA.

Avaliação comparativa

Para testar a precisão do nosso modelo em línguas que não o inglês, utilizamos três corpora multilingues extensos e diversificados, provenientes de diferentes domínios: as críticas multilingues da Amazon, a Wikipédia e o XLSum (BBC News International).

No que diz respeito à vertente humana do benchmark, selecionamos aleatoriamente documentos que passam pelos nossos filtros de verificação de validade. No que diz respeito à vertente de IA do benchmark, utilizamos uma combinação de GPT-3.5, GPT-4 e GPT-4o. Primeiro, pedimos ao LLM para resumir o documento real, por exemplo: «Sobre o que é esta crítica?» Em seguida, pedimos-lhe para gerar uma crítica, um artigo ou uma notícia com base nesse resumo. Gerar o benchmark desta forma elimina a possibilidade de ruído de rótulos, além de garantir que as distribuições de dados humanos e de IA sejam o mais semelhantes possível entre si.

Perguntas frequentes

• Como é que atualizou o modelo para suportar estas línguas?

Uma vez que o nosso modelo se baseia numa arquitetura semelhante à dos modelos de linguagem de grande dimensão modernos, recorremos a um pré-treino em grande escala para garantir que a nossa estrutura principal é treinada com base num vasto corpus multilingue antes de proceder ao ajuste fino de um módulo de deteção por IA. Utilizamos também um tokenizador compatível com várias línguas, incluindo o russo e o chinês.

• Por que escolheu precisamente estas línguas?

Escolhemos idiomas que representam a maioria dos idiomas utilizados na Internet.

• O que acontece se eu enviar texto numa língua que não é suportada?

Utilizamos o Amazon Comprehend para detetar o idioma do texto introduzido. Se o idioma não for suportado, devolveremos «Idioma não suportado» como previsão.

• O modelo irá melhorar com o tempo?

Sim, esperamos lançar futuras atualizações com melhor desempenho em idiomas que não o inglês, à medida que continuamos a ampliar o nosso conjunto de dados multilingue através da aprendizagem ativa.

• E quanto às outras línguas?

Temos a intenção de adicionar mais idiomas no futuro. Se houver algum idioma que gostaria que fosse incluído, por favor, informe-nos!

Contacte-nos através do endereço info@pangram.com para obter mais informações sobre a deteção multilingue por IA.