Todos os dias são publicados 60 000 artigos noticiosos gerados por IA

Visão geral

O setor da informação é uma indústria de 150 mil milhões de dólares que emprega milhares de repórteres e jornalistas para escrever artigos noticiosos que recebem milhares de milhões de visualizações. Com a IA e o surgimento de grandes modelos linguísticos, muitos sites de notícias de menor qualidade, bem como alguns agentes mal-intencionados, têm recorrido à IA para gerar conteúdo de forma barata, rápida e em grande escala. Como a IA não consegue substituir o papel de um jornalista, estes sites de notícias limitam-se a repetir informações retiradas do seu treino ou a roubar e reformular artigos de outros meios de comunicação.

Também ficou comprovado que o conteúdo não autêntico é menos apreciado e menos visitado pelos internautas. Numa publicação recente no blogue, citámos um estudo realizado pela NP Digital que concluiu categoricamente que os leitores online preferiam e davam prioridade a artigos escritos por pessoas. Mais concretamente:

• Os leitores passaram 93% mais tempo nas páginas com conteúdo escrito por humanos do que nas páginas com conteúdo gerado exclusivamente por IA.
• Em média, os leitores mostraram-se 3,6 vezes mais propensos a visitar artigos escritos por humanos do que aqueles gerados por IA.

Estas publicações geradas por IA existem principalmente para desviar tráfego e receitas publicitárias potenciais do conteúdo noticioso autêntico, e fazem parte de uma operação crescente de produção em massa de conteúdo que, no ano passado (2023), captou 21 % das impressões publicitárias e mais de 10 mil milhões de dólares.

Conscientes da ameaça e dos potenciais danos decorrentes deste aumento de notícias falsas, quisemos quantificar a verdadeira dimensão deste problema. Colaborámos com a NewsCatcher para classificar uma amostra de notícias publicadas a nível mundial num determinado dia.

Configuração da experiência

Começámos por compilar uma seleção de todas as notícias do mundo publicadas a 1 de julho de 2024.

A API do NewsCatcher é a fonte mais abrangente de artigos de notícias globais publicados diariamente, com mais de 75 000 fontes e prestando serviços a grandes organizações empresariais. A sua tecnologia permitiu-nos consultar o texto completo de artigos publicados em todo o mundo — redigidos em diferentes idiomas e abrangendo uma vasta gama de temas.

Com o NewsCatcher, recolhemos todas as notícias publicadas num determinado dia; a partir desse conjunto de dados, analisámos 857 434 artigos provenientes de 26 675 editores online, que consideramos um conjunto representativo das notícias diárias publicadas.

Abordagem de deteção

Após a recolha dos artigos, executámos o nosso classificador Pangram Text para determinar quais os artigos gerados por IA. O Pangram Text é líder do setor em precisão de classificação (mais de 30 vezes mais preciso do que a segunda solução comercial mais importante), com um forte compromisso em manter uma baixa incidência de falsos positivos. No nosso relatório técnico, demonstramos que a nossa taxa de falsos positivos em notícias é de apenas 0,001%, o que nos permite ter confiança quando prevemos que uma notícia foi realmente gerada por IA. A nossa solução normalmente recebe um documento ou um trecho de texto e devolve uma previsão da probabilidade de ter sido gerado por um LLM. No caso de uma página web, teríamos de realizar algum pós-processamento e limpeza do conteúdo da página para isolar apenas o texto do artigo, mas, utilizando a solução NewsCatcher, conseguimos extrair diretamente o texto limpo e executar a inferência com o nosso classificador de texto.

Distribuição das nossas previsões numa escala logarítmica. Utilizamos uma escala logarítmica para mostrar que as previsões próximas de 0 ou 1 são 100 a 1000 vezes mais comuns do que as previsões no meio do espectro.

Em seguida, classificámos os editores com base no total de artigos de cada um e agrupámo-los de acordo com a composição do seu conteúdo de IA. O quadro de agrupamento é o seguinte:

• Se uma editora tivesse menos de 10 % dos seus artigos identificados como sendo de IA, essa editora seria considerada uma editora humana
• Se uma editora tivesse entre 10 % e 50 % dos seus artigos identificados como sendo de IA, essa editora seria considerada uma editora de IA de menor dimensão
• Se uma editora tivesse entre 50 % e 80 % dos seus artigos identificados como sendo de IA, essa editora seria considerada uma grande editora de IA
• Se uma editora tivesse mais de 80 % dos seus artigos identificados como sendo de IA, essa editora seria considerada uma editora totalmente gerada por IA

Estatísticas agregadas

Do total de artigos analisados, constatámos que:

Foram classificados 59 653 artigos como IA, o que representa 6,96 % do conjunto de artigos.

A repartição dos editores online

Editores classificados de acordo com a quantidade de conteúdo sobre IA que publicam Em seguida, analisámos as classificações da IA em relação a características-chave, incluindo o idioma em que o artigo foi escrito, o país onde foi publicado e o tema abordado, bem como a sua relevância política específica.

Países com maior frequência de artigos sobre IA (mínimo de 100 artigos)

Gráfico dos artigos sobre IA produzidos por país (percentagem do total de artigos noticiosos escritos por país) Constatamos, de um modo geral, que o Gana se destaca bastante no que diz respeito a conteúdos gerados por IA. Embora a frequência global seja menor, a Índia é também um importante produtor de conteúdos gerados por IA, o que não deve ser surpreendente, tendo em conta que o impacto dos deepfakes nas recentes eleições indianas.

Frequência da IA por tema

Gráfico dos artigos sobre IA produzidos por tema (percentagem do total de artigos noticiosos escritos sobre cada tema)

Constatamos que a beleza (artigos patrocinados), a tecnologia e os negócios (esquemas fraudulentos relacionados com criptomoedas) são temas particularmente populares sobre os quais se escrevem artigos sobre IA. De forma um tanto surpreendente, a política tende a ter uma presença inferior à média nos artigos sobre IA: pensamos que isto se deve ao facto de os anunciantes tenderem a evitar sites de notícias políticas devido aos riscos para a segurança da marca, o que diminui o incentivo para que os editores produzam conteúdos políticos destinados à publicidade.

Como são as «notícias» sobre IA?

Identificamos várias categorias de artigos noticiosos sobre IA: sites criados para fins publicitários (MFAs), artigos patrocinados, fraudes e desinformação.

Concebido para publicidade

Um site cujo único objetivo é exibir anúncios, em vez de fornecer conteúdo legítimo, é um «MFA» — um site criado exclusivamente para publicidade. Aqui está um exemplo de um MFA:

Site criado para fins publicitários, repleto de anúncios

Como podemos ver, na parte superior da página, não há conteúdo propriamente dito além do título, e há 8 anúncios gráficos a disputar a atenção do utilizador. O conteúdo gerado por IA que se encontra abaixo não se destina realmente a ser lido: está lá apenas para atrair visitantes ao site, de modo a gerar receitas publicitárias antes que os utilizadores, normalmente, abandonem a página imediatamente. Muitas vezes, os anunciantes nem sequer têm consciência de que estão a anunciar nestes sites: a natureza programática da publicidade digital significa que as licitações por este espaço publicitário são compradas e vendidas em milésimos de segundo, utilizando algoritmos de licitação automatizados. Empresas como a Jounce Media ajudam os anunciantes a evitar desperdiçar o seu orçamento em sites como este e fazem parte de um grupo de empresas denominado «Supply Chain Optimizers».

A Jounce define três características fundamentais de um MFA:

1. Tráfego pago: sites que têm pouco ou nenhum tráfego orgânico e dependem das visitas provenientes de anúncios sensacionalistas de outros sites.
2. Monetização agressiva: Através de uma elevada carga publicitária e de posicionamentos que se atualizam automaticamente com rapidez, estes editores aproveitam uma oportunidade de arbitragem nos mercados de leilões, mas à custa de uma experiência do utilizador desagradável.
3. KPI superficiais: estes sites apresentam resultados elevados em métricas de vaidade, como a visibilidade e as taxas de visualização completa de vídeos, mas a investigação da Jounce revela que os anúncios em MFAs não influenciam, na verdade, as decisões de compra dos consumidores.

Em resumo, os MFAs roubam tráfego publicitário de sites com conteúdo legítimo, a fim de oferecer espaço publicitário a preços baixos. Apresentam métricas enganosas às campanhas publicitárias programáticas, sem, na verdade, fornecerem qualquer conteúdo útil ou um retorno real do investimento para os anunciantes. Poluem a Internet e criam uma experiência hostil para o utilizador comum.

Embora não exista uma métrica concreta que defina o que é um MFA, estimamos que os MFAs representem cerca de 50 % do conteúdo gerado por IA na Internet.

Conteúdo pago/patrocinado

Algumas notícias na Internet podem ser compradas como forma de publicitar um produto, fingindo ser conteúdo genuíno escrito por um influenciador ou por uma publicação de críticas legítima. Percebemos que a beleza era um dos temas com maior frequência de conteúdo gerado por IA. Ao analisarmos os dados, descobrimos que grande parte dos artigos de «notícias» sobre o tema da beleza são simplesmente artigos patrocinados como este:

Este conteúdo patrocinado de baixa qualidade foi escrito por IA

Muitos redatores estão simplesmente a recorrer à IA para escrever estes artigos patrocinados de baixa qualidade, porque o objetivo é apenas vender o espaço publicitário, em vez de produzir uma crítica autêntica.

Golpes

Os burlões do mundo das criptomoedas utilizam a IA para produzir conteúdo a um ritmo acelerado

Também temos vindo a observar muitas campanhas fraudulentas comuns geradas por IA. Em particular, os esquemas fraudulentos relacionados com criptomoedas parecem ser muito comuns e são até promovidos em sites de renome, como o Medium.

Desinformação

Um site de desinformação repleto de conteúdo gerado por IA

Embora tenhamos constatado que o uso da IA é, em geral, menos comum nas notícias políticas (em grande parte devido ao facto de muitos anunciantes tenderem a evitar este tipo de notícias devido ao risco para a segurança da marca), a IA é uma componente cada vez mais presente nas campanhas de desinformação. A Newsguard dispõe de um centro de monitorização de IA que realiza um acompanhamento detalhado e atualizado da desinformação gerada por IA.

Ao contrário de outras formas de engano em que vemos agentes mal-intencionados a utilizar a IA, o objetivo destes artigos é, na verdade, levar as pessoas a ler o conteúdo. Normalmente, o objetivo destas campanhas é alterar o sentimento ou a opinião pública sobre um determinado tema.

À medida que as eleições nos EUA se aproximam, em novembro, só podemos esperar que este tipo de abuso da IA continue.

Resumo

• Cerca de 7 % das notícias diárias a nível mundial, em julho de 2024, são provavelmente geradas por IA.
• A África Ocidental e o Sul da Ásia são exceções no que diz respeito à quantidade de conteúdos sobre IA publicados.
• As áreas da beleza, da tecnologia e dos negócios apresentam a maior proporção de conteúdos sobre IA, enquanto a política e as opiniões apresentam a menor.
• O conteúdo gerado por IA é frequentemente associado a algum tipo de má-fé ou comportamento enganoso. As redes de sites falsos (MFAs) tentam induzir os anunciantes a acreditar que espaços publicitários de baixa qualidade são, na verdade, de alta qualidade. O conteúdo patrocinado não é necessariamente enganoso, mas também não é genuinamente autêntico e não pode ser confundido com uma avaliação real de um consumidor. Os esquemas fraudulentos e a desinformação representam uma ameaça real para os utilizadores da Internet, e os potenciais danos causados por estes sites são evidentes.

Quer saber mais sobre o nosso mapa de conteúdos de IA na Internet ou sobre a nossa lista de bloqueio de IA para anunciantes? Entre em contacto connosco através do e-mail info@pangram.com!