Apresentamos as frases com IA da Pangram

Se prestarmos atenção, é frequente encontrar indícios num texto que sugerem que foi escrito por IA. Certas estruturas de frases, escolhas de palavras ou formatação aparecem com muito mais frequência em textos gerados por IA do que em textos escritos por humanos.

Talvez já conheça algumas expressões que parecem indicar que um texto foi gerado por IA. Existem muitos exemplos: «tapeçaria complexa», «um testemunho de» ou até mesmo a palavra «delve», como o escritor e investidor Paul Graham divulgou amplamente.

Tweet de Paul Graham

Agora, se é um utilizador habitual do painel do Pangram, talvez também tenha reparado que começámos a destacar as frases mais utilizadas pela IA, como «uma tapeçaria complexa» no ensaio gerado por IA abaixo.

Esta é a nova ferramenta «Frases de IA» da Pangram! Eis como funciona:

Quando digitaliza um documento e o Pangram deteta que este foi gerado por IA, realizamos uma segunda análise para identificar frases típicas de IA.

Para treinar o nosso modelo de forma a que seja altamente preciso, utilizamos conjuntos de dados internos com dezenas de milhões de documentos criados por humanos e por IA. Além disso, a nossa equipa pode analisar ambos os conjuntos de dados à procura de sequências comuns de palavras na escrita humana e na escrita da IA. Depois, podemos comparar as estatísticas para verificar se a IA realmente utiliza em excesso certas frases. Utilizamos uma técnica chamada análise N-Gram (a semelhança com o termo PaNGram pode não ser mera coincidência 😊), e os resultados são impressionantes. Vemos claramente que existem inúmeras frases que a IA parece usar com muito mais frequência do que os humanos. São tantas, na verdade, que decidimos criar uma ferramenta para exibir essas frases diretamente no painel do Pangram.

Por que é que isto é importante?

Na Pangram, estamos empenhados em preservar as vozes humanas. Contamos com o nosso modelo de deteção principal, capaz de processar centenas de milhares de detalhes sobre um texto para determinar se este foi ou não gerado por IA.

No entanto, também estamos interessados na explicabilidade. Saber que uma determinada frase está altamente sobrerrepresentada em textos gerados por IA pode permitir-lhe compreender melhor (e explicar aos outros!) por que razão podemos ter identificado um texto como sendo de IA ou não. Se souber que um texto contém várias frases que aparecem centenas ou milhares de vezes com mais frequência em textos gerados por IA do que em textos humanos, passa a dispor de mais evidências quantificáveis para sustentar o nosso julgamento.

Queremos manter-vos, nossos utilizadores, informados não só sobre se um texto é gerado por IA, mas também sobre como podemos identificá-lo. As frases de IA são uma parte fundamental desta missão e do nosso percurso geral rumo à interpretabilidade.

Em futuras publicações no blogue, iremos abordar algumas das expressões mais utilizadas no campo da IA, por isso fique atento! Para mais informações sobre o Pangram ou as nossas funcionalidades de interpretabilidade, não hesite em contactar-nos através do endereço info@pangram.com