60 000 articles d'actualité générés par l'IA sont publiés chaque jour

Aperçu

Le secteur de l'information représente un marché de 150 milliards de dollars et emploie des milliers de reporters et de journalistes qui rédigent des articles générant des milliards de vues. Avec l'IA et l'essor des grands modèles linguistiques, de nombreux sites d'information de moindre qualité, ainsi que certains acteurs malveillants, ont eu recours à l'IA pour produire du contenu à moindre coût, rapidement et à grande échelle. L'IA ne pouvant toutefois pas remplacer le rôle d'un journaliste, ces sites se contentent de reproduire les informations issues de leur apprentissage ou de plagier et de reformuler les articles d'autres médias.

Il a également été démontré que les contenus non authentiques sont moins appréciés et moins consultés par les internautes. Dans un récent article de blog, nous avons cité une étude menée par NP Digital qui a clairement établi que les lecteurs en ligne préféraient et privilégiaient les articles rédigés par des humains. Plus précisément :

• Les lecteurs ont passé 93 % de temps en plus sur les pages contenant du contenu rédigé par des humains que sur celles proposant uniquement du contenu généré par l'IA.
• En moyenne, les lecteurs étaient 3,6 fois plus enclins à consulter des articles rédigés par des humains que ceux générés par l'IA.

Ces publications générées par l'IA ont pour principal objectif de détourner le trafic et les recettes publicitaires potentielles au détriment des contenus d'information authentiques ; elles s'inscrivent dans le cadre d'un secteur de production de contenu de masse en pleine expansion qui a capté 21 % des impressions publicitaires et généré plus de 10 milliards de dollars l'année dernière, en 2023.

Conscients de la menace que représente cette prolifération des fausses informations et des dommages potentiels qu’elle peut causer, nous avons souhaité quantifier l’ampleur réelle de ce problème. Nous avons collaboré avec NewsCatcher afin de classer un échantillon d’actualités publiées à l’échelle mondiale sur une journée donnée.

Mise en place de l'expérience

Nous avons commencé par rassembler toutes les actualités mondiales publiées le 1er juillet 2024.

L'API de NewsCatcher constitue la source la plus complète d'articles d'actualité internationaux publiés quotidiennement, avec plus de 75 000 sources, et s'adresse aux grandes entreprises. Sa technologie nous a permis d'effectuer des recherches dans le texte intégral d'articles publiés partout dans le monde, rédigés dans différentes langues et couvrant un large éventail de sujets.

À l'aide de NewsCatcher, nous avons rassemblé toutes les actualités publiées au cours d'une journée ; à partir de cet ensemble de données, nous avons analysé 857 434 articles provenant de 26 675 éditeurs en ligne, que nous considérons comme un échantillon représentatif de l'actualité quotidienne publiée.

Méthode de détection

Après avoir collecté les articles, nous avons utilisé notre classificateur Pangram Text pour déterminer lesquels avaient été générés par l'IA. Pangram Text est le leader du secteur en matière de précision de classification (plus de 30 fois plus précis que la deuxième solution commerciale la plus performante), et s'engage fermement à réduire le taux de faux positifs. Dans notre rapport technique, nous démontrons que notre taux de faux positifs pour les actualités n'est que de 0,001 %, ce qui nous permet d'être sûrs, lorsque nous prédisons qu'un article est issu de l'IA, qu'il l'est réellement. Notre solution prend généralement en entrée un document ou un fragment de texte et renvoie une prédiction de la probabilité qu'il ait été généré par un modèle de langage de grande envergure (LLM). Pour une page web, nous devrions normalement effectuer un post-traitement et un nettoyage du contenu de la page afin d'isoler uniquement le texte de l'article, mais grâce à la solution NewsCatcher, nous avons pu extraire directement le texte nettoyé et effectuer une inférence avec notre classificateur de texte.

Répartition de nos prévisions sur une échelle logarithmique. Nous utilisons une échelle logarithmique pour montrer que les prévisions proches de 0 ou de 1 sont 100 à 1 000 fois plus fréquentes que celles situées au milieu de la fourchette.

Nous avons ensuite classé les éditeurs en fonction du nombre total de leurs articles et les avons répartis en catégories selon la répartition de leur contenu généré par l'IA. Le cadre de classification est le suivant :

• Si moins de 10 % des articles d'un éditeur étaient identifiés comme ayant été rédigés par une IA, cet éditeur serait considéré comme un éditeur humain
• Si un éditeur comptait entre 10 % et 50 % de ses articles classés comme « IA », il serait considéré comme un éditeur de contenu généré par l'IA de moindre importance
• Si un éditeur voyait entre 50 % et 80 % de ses articles classés comme « IA », il serait considéré comme un éditeur majeur dans le domaine de l'IA
• Si plus de 80 % des articles d'un éditeur étaient identifiés comme étant générés par l'IA, cet éditeur serait considéré comme un éditeur dont l'ensemble du contenu est généré par l'IA

Statistiques globales

Sur l'ensemble des articles analysés, nous avons constaté que :

59 653 articles ont été classés dans la catégorie IA, ce qui représente 6,96 % de l'ensemble des articles.

Répartition des éditeurs en ligne

Éditeurs classés en fonction de la quantité de contenu généré par l'IA qu'ils publient Nous avons ensuite examiné les classifications générées par l'IA en fonction de critères clés, notamment la langue dans laquelle l'article a été rédigé, le pays où il a été publié, le sujet qu'il traitait, ainsi que son importance politique particulière.

Pays où l'on trouve le plus grand nombre d'articles sur l'IA (au moins 100 articles)

Graphique représentant le nombre d'articles sur l'IA par pays (pourcentage du nombre total d'articles rédigés par pays) On constate de manière générale que le Ghana se démarque nettement en matière de contenu généré par l'IA. Bien que la fréquence globale y soit plus faible, l'Inde est également un important diffuseur de contenu généré par l'IA, ce qui n'a rien de surprenant compte tenu de l'impact des deepfakes sur les récentes élections en Inde.

Fréquence de l'IA par thème

Graphique des articles sur l'IA classés par thème (pourcentage du nombre total d'articles consacrés à chaque thème)

Nous constatons que la beauté (articles sponsorisés), la technologie et les affaires (arnaques liées aux cryptomonnaies) constituent des thèmes particulièrement récurrents dans les articles consacrés à l'IA. De manière quelque peu surprenante, la politique occupe une place généralement inférieure à la moyenne dans ces articles : nous pensons que cela s'explique par le fait que les annonceurs ont tendance à éviter les sites d'actualités politiques en raison des risques liés à la sécurité de l'image de marque, ce qui réduit l'intérêt pour les éditeurs de produire du contenu politique destiné à la publicité.

À quoi ressemblent les « actualités » générées par l'IA ?

Nous distinguons plusieurs catégories d'articles d'actualité sur l'IA : les sites créés à des fins publicitaires (MFA), les articles sponsorisés, la fraude et la désinformation.

Conçu pour la publicité

Un site dont le seul but est de diffuser des publicités plutôt que de proposer du contenu légitime est un « MFA », c'est-à-dire un site conçu pour la publicité. Voici un exemple de MFA :

Site conçu pour la publicité et regorgeant de publicités

Comme on peut le constater, dans la partie visible du site web, il n’y a aucun contenu réel hormis le titre, et huit publicités s’arrachent l’attention de l’utilisateur. Le contenu généré par l’IA situé en dessous n’est pas vraiment destiné à être lu : il est simplement là pour attirer les visiteurs sur le site afin de générer des revenus publicitaires avant que les utilisateurs ne quittent généralement la page presque immédiatement. Souvent, les annonceurs ne savent même pas qu’ils font de la publicité sur ces sites : la nature programmatique de la publicité numérique signifie que les enchères pour cet espace publicitaire sont achetées et vendues en quelques millisecondes à l’aide d’algorithmes d’enchères automatisés. Des entreprises comme Jounce Media aident les annonceurs à éviter de gaspiller leur budget sur des sites comme celui-ci, et font partie d’un groupe d’entreprises appelé « optimiseurs de la chaîne d’approvisionnement ».

Jounce définit trois caractéristiques essentielles d'un MFA:

1. Trafic payant: sites qui n'ont que peu ou pas d'audience organique et qui dépendent des visites générées par des publicités « clickbait » provenant d'autres sites.
2. Monétisation agressive: grâce à une forte densité publicitaire et à des emplacements qui se rafraîchissent automatiquement à un rythme soutenu, ces éditeurs tirent parti d'opportunités d'arbitrage sur les marchés d'enchères, mais au détriment de l'expérience utilisateur.
3. Indicateurs de performance clés superficiels: ces sites affichent d'excellents résultats pour des indicateurs de vanité tels que la visibilité et les taux de visionnage complet des vidéos, mais les recherches menées par Jounce montrent que les publicités diffusées sur les sites de type « Make-Money-Fast » n'influencent en réalité pas les décisions d'achat des consommateurs.

En résumé, les sites de type « MFA » détournent le trafic publicitaire des sites proposant un contenu légitime afin de proposer à bas prix des espaces publicitaires. Ils fournissent des indicateurs de performance trompeurs aux campagnes publicitaires programmatiques, sans pour autant offrir de contenu utile ni de retour sur investissement réel aux annonceurs. Ils envahissent le web et nuisent à l'expérience utilisateur pour l'internaute lambda.

Bien qu'il n'existe pas de chiffre précis permettant de définir ce qu'est un MFA, nous estimons que les MFA représentent environ 50 % du contenu généré par l'IA sur Internet.

Contenu payant/sponsorisé

Certaines informations diffusées sur Internet peuvent être achetées dans le but de promouvoir un produit, tout en se faisant passer pour du contenu authentique rédigé par un influenceur ou une publication spécialisée dans les critiques. Nous avons remarqué que la beauté figurait parmi les thèmes présentant la plus forte proportion de contenu généré par l'IA. En analysant les données de plus près, nous avons constaté qu'une grande partie des articles dits « d'actualité » dans le domaine de la beauté n'étaient en réalité que des articles sponsorisés, comme celui-ci :

Ce contenu sponsorisé de mauvaise qualité a été rédigé par une IA

De nombreux rédacteurs ont tout simplement recours à l'IA pour rédiger ces articles sponsorisés de mauvaise qualité, car l'objectif est avant tout de vendre l'espace publicitaire, plutôt que de produire un avis authentique.

Arnaques

Les escrocs du monde des cryptomonnaies utilisent l'IA pour produire du contenu à un rythme effréné

Nous constatons également qu'un grand nombre de campagnes frauduleuses banales sont générées par l'IA. Les escroqueries liées aux cryptomonnaies, en particulier, semblent très courantes et sont même mises en avant sur des sites réputés tels que Medium.

Désinformation

Un site de désinformation alimenté par du contenu généré par l'IA

Bien que nous constations que l'utilisation de l'IA est généralement moins répandue dans l'actualité politique (en grande partie parce que de nombreux annonceurs ont tendance à éviter ce type d'actualités en raison des risques liés à la sécurité de leur marque), l'IA occupe une place de plus en plus importante dans les campagnes de désinformation. Newsguard dispose d'un centre de suivi de l'IA qui assure un suivi détaillé et actualisé de la désinformation générée par l'IA.

Contrairement aux autres formes de manipulation pour lesquelles les acteurs malveillants ont recours à l'IA, ces articles ont en réalité pour but d'inciter les gens à lire leur contenu. En général, ces campagnes visent à influencer le sentiment ou l'opinion du public sur un sujet particulier.

À l'approche des élections américaines de novembre, il faut s'attendre à ce que ce type d'utilisation abusive de l'IA se poursuive.

Résumé

• En juillet 2024, environ 7 % de l'actualité quotidienne mondiale serait générée par l'IA.
• L'Afrique de l'Ouest et l'Asie du Sud se démarquent nettement en termes de volume de contenu publié sur l'IA.
• Les domaines de la beauté, de la technologie et des affaires comptent la plus forte proportion de contenus liés à l'IA, tandis que la politique et les opinions en comptent la plus faible.
• Le contenu généré par l'IA est généralement associé à une intention malveillante ou à un comportement trompeur. Les sites de type « MFAs » tentent de faire croire aux annonceurs que des espaces publicitaires de mauvaise qualité sont en réalité des emplacements de premier choix. Le contenu sponsorisé n'est pas nécessairement trompeur, mais il n'est pas non plus véritablement authentique et ne peut être confondu avec un véritable avis de consommateur. Les escroqueries et la désinformation constituent une réelle menace pour les internautes, et les dommages potentiels causés par ces sites sont évidents.

Vous souhaitez en savoir plus sur notre cartographie des contenus liés à l'IA sur le Web ou sur notre liste noire dédiée à l'IA pour les annonceurs ? Contactez-nous à l'adresse info@pangram.com!