Como discutimos na semana passada, a IA tende a usar em excesso certas palavras e expressões. É provável que se lembre de algumas delas de imediato: desde «uma prova de» até «aprofundar». Encontrar um número suficiente dessas expressões pode ser um forte indicador de que o texto com que se depara foi gerado por IA, mas são demasiadas para que uma única pessoa consiga acompanhar todas.
Para resolver este problema, lançámos recentemente uma ferramenta chamada «Frases de IA», na qual destacamos especificamente essas frases. No âmbito do processo de desenvolvimento dessa ferramenta, criámos um vasto conjunto de dados com as frases de IA mais utilizadas. Neste artigo, iremos apresentar-lhe algumas das frases de IA mais comuns que constam do nosso conjunto de dados e explicar-lhe como pode utilizá-las para aperfeiçoar a sua própria intuição em relação ao texto gerado por IA.
Devemos começar pelo mais óbvio: por vezes, uma IA chega mesmo a dizer que é uma IA! Muitas vezes, isto acontece na sequência de uma recusa. Quando um utilizador pede a uma IA algo que esta foi instruída a não fazer, ela tem de informar o utilizador de que não pode satisfazer o pedido e, nesse contexto, o modelo reconhece frequentemente que é uma IA. Muitas recusas da IA começam com a frase «Como modelo de linguagem de IA...» Segue-se que este tipo de frase seria bastante comum em textos de IA e extremamente raro em textos humanos. Os números confirmam isto! Muitas das nossas frases de IA mais comuns são autorreferenciais.
| Frase | Mais comum |
|---|---|
| Como um modelo de linguagem de IA, | 294,000x |
| Não tenho pessoal | 67,000x |
| Infelizmente, não tenho o suficiente. | 54,000x |
| modelo linguístico, não consigo | 53,000x |
Os «artefactos de IA» são algumas das expressões «mais utilizadas» no âmbito da IA, mas, no fundo, são bastante óbvias e, por isso, pouco interessantes. Agora chegamos à parte interessante: expressões que estão, de facto, sobrerrepresentadas nos textos sobre IA, mas que nada têm a ver com «ser uma IA». Aqui estão algumas:
| Frase | Mais comum |
|---|---|
| como um comovente | 49,000x |
| Como um poderoso lembrete | 43,000x |
| lembrete do duradouro | 31,000x |
| enfrentou inúmeros desafios | 30,000x |
| Os nossos resultados fornecem novas perspetivas sobre | 22,000x |
| na complexa interação | 21,000x |
| serve como um poderoso | 10,000x |
| fornecendo informações valiosas sobre | 5,000x |
| serve como testemunho | 4,000x |
| novo sentido de propósito | 4,000x |
| mesmo diante do inimaginável | 3,000x |
| lembrete do potencial | 3,000x |
É fácil compreender por que razão uma IA que diz «Como IA...» pode ser muito mais comum nos textos gerados por IA. Mas o que faz com que as frases aparentemente sem relação entre si, na Parte 2, sejam mais comuns? Em primeiro lugar, existe um fenómeno conhecido como «colapso de modo», em que as respostas da IA se tornam excessivamente genéricas ou repetitivas ao basearem-se em sequências de palavras de alta probabilidade. O colapso de modo...
Além disso, após o treino, é prática comum recorrer ao RLHF: Aprendizagem por Reforço a partir do Feedback Humano. Durante este processo, os anotadores humanos avaliam o texto gerado pela IA com base numa série de atributos, com o objetivo de incentivar certos padrões e desencorajar outros. Ao longo deste processo, se determinadas respostas ou frases forem suscetíveis de serem recompensadas por esses anotadores humanos, tornar-se-ão cada vez mais frequentes.
Consequentemente, algumas destas expressões sobreutilizadas podem ser consideradas uma característica de modelos, arquiteturas e processos de treino específicos, em vez de serem apenas traços distintivos da própria escrita gerada por IA. Um artigo de Jenna Russell, Marzena Karpinska e Mohit Iyyer, da Universidade de Maryland, demonstra que modelos diferentes têm, de facto, expressões preferidas distintas:
usado em excesso
Isto sugere que diferentes modelos, treinados com diferentes conjuntos de dados e estratégias de otimização, podem desenvolver as suas próprias tendências distintas no que diz respeito à repetição de frases.
No âmbito do nosso trabalho, a nossa equipa dedicou inúmeras horas à leitura e análise de textos gerados por IA. Naturalmente, acabámos por criar uma certa afinidade com algumas dessas frases:
Eis as frases favoritas da nossa equipa relacionadas com a IA:
Max (CEO): «Num mundo em constante evolução» (11 000x)
Bradley (Diretor Técnico): «É importante notar» (3 000 vezes)
Lu (Engenheiro Fundador): «natureza complexa» (6 000 vezes)
Elyas (Engenheiro Fundador): «tapeçaria vibrante» (17 000x)

Elyas Masrour é engenheiro fundador da Pangram. Desde que ingressou na Pangram como segundo colaborador, logo após terminar o curso na Universidade de Maryland, desenvolveu infraestruturas essenciais, tais como a API de disponibilização de modelos, controlos de acesso baseados em funções e pipelines de evidências de apoio. Elyas também trabalha em estreita colaboração com a equipa de investigação em projetos como a robustez adversária, a interpretabilidade de modelos e a deteção de conteúdo misto heterogéneo. Fora do trabalho, Elyas aprecia uma vasta gama de formas de criatividade e expressão humanas, incluindo cinema, leitura e explorar a cidade.






