Trois pour cent des avis figurant en première page sur Amazon sont désormais générés par l'IA

Le contenu généré par l'IA est désormais monnaie courante et peut se retrouver partout, des revues universitaires aux gros titres de l'actualité en passant par les travaux universitaires. Aujourd'hui, l'IA influence également nos habitudes d'achat.

Amazon a été le premier site de vente en ligne à proposer une fonctionnalité d'avis clients, mais ce système risque d'être manipulé par de grands modèles linguistiques (LLM) tels que ChatGPT, Claude et Gemini. La publication d'avis générés par l'IA constitue une pratique illégale au regard de la législation fédérale américaine.

Amazon a déclaré qu'elle utilisait des outils sophistiqués pour repérer les historiques d'avis suspects et supprimer les avis générés par l'IA avant qu'un client ne tombe dessus.

Notre étude

Nos recherches indiquent qu'Amazon a encore du chemin à faire.

Chez Pangram, nous avons voulu déterminer combien d'avis sur Amazon sont générés par l'IA, et s'ils ont davantage tendance à être positifs ou négatifs par rapport à ceux rédigés par des humains.

Pour ce faire, nous avons collecté 30 000 avis sur les produits figurant en première page parmi les 500 articles les plus vendus sur Amazon, puis nous les avons analysés à l'aide de notre détecteur basé sur l'IA. Nous avons examiné dix catégories de produits parmi les plus vendues, notamment les articles pour bébés, les jouets et jeux, les ordinateurs portables, les appareils médicaux, le bien-être et la détente, les produits de beauté et le mobilier. Nous avons noté la note attribuée à chaque avis, ainsi que s'il s'agissait ou non d'un « achat vérifié ».

Nous avons constaté que les avis générés par l'IA étaient très répandus parmi les meilleures ventes d'Amazon

Nous avons constaté que 3 % de l'ensemble des avis étudiés – soit 909 avis au total – avaient été générés par une IA avec un haut degré de certitude. Grâce à l'accès de plus en plus facile à des outils d'IA tels que ChatGPT Agent, les fermes de contenu peuvent produire automatiquement des avis générés par l'IA à grande échelle. À moins que les plateformes ne prennent des mesures, il sera bientôt difficile de se fier aux avis publiés sur Internet.

L'IA rédige davantage d'avis cinq étoiles que les humains

Sur les 500 best-sellers d'Amazon que nous avons analysés, 74 % des avis rédigés par l'IA attribuaient une note de 5 étoiles aux produits. Ce chiffre est à comparer aux 59 % d'avis rédigés par de vrais utilisateurs. L'inverse est également vrai : les utilisateurs ont rédigé davantage d'avis 1 étoile que l'IA, soit 10 % contre 22 %.

Qu'en est-il des avis « Achat vérifié » ?

Le badge « Achat vérifié » est souvent considéré par les clients comme un gage de confiance fiable : il indique que l'auteur de l'avis a effectivement acheté le produit. Notre étude a révélé que 93 % des avis générés par l'IA figurant en première page (93 %) comportaient le badge « Achat vérifié », ce qui montre que ce badge, à lui seul, n'est plus un gage de confiance fiable.

Si un avis a été rédigé par une IA, dans quelle mesure est-il fiable ?

Certaines évaluations sont probablement rédigées par des vendeurs qui utilisent des modèles de langage génératif (LLM) pour simuler des commentaires et faire grimper la note de leur produit. D'autres peuvent provenir de clients bien intentionnés qui n'ont pas le temps d'en rédiger eux-mêmes ou qui ne trouvent pas les mots pour exprimer leur avis sur un produit.

Peu importe, car cela donne une image potentiellement inexacte du produit.

Si les avis rédigés par l'IA gonflent les notes attribuées aux produits, cela pourrait avoir une incidence directe sur les décisions d'achat.

Il faut reconnaître qu'Amazon s'efforce de lutter contre les avis générés par l'IA, mais d'après les conclusions de cette étude, ses efforts ne portent pas suffisamment leurs fruits.

Le nombre d'avis générés par l'IA qui passent entre les mailles du filet montre qu'Amazon a encore du pain sur la planche.

Les avis générés par l'IA sapent la confiance, et comme les avis en ligne constituent l'un des principaux critères sur lesquels nous nous appuyons pour décider d'acheter un produit, nous pouvons commencer à nous demander si cet achat en vaut vraiment la peine.

Comment repérer les avis générés par l'IA

Lorsque vous lisez des avis, recherchez les mentions de détails spécifiques sur le produit. Les commentaires génériques ou le langage « vague » peuvent indiquer qu'un avis a été généré par une IA.

Si vous avez l'intention de laisser un avis, résistez à la tentation d'utiliser ChatGPT ou un autre modèle de langage de grande envergure (LLM). Votre expérience et votre opinion sincères comptent et pourraient aider les gens à prendre une décision éclairée quant à l'achat d'un produit.

Vous pouvez également utiliser le détecteur d'IA de Pangram pour vérifier si les avis que vous consultez sont authentiques. Notre extension Chrome vous permet de sélectionner n'importe quel texte sur Internet afin de vérifier s'il contient du contenu généré par l'IA.

Conclusion

Bien que les avis générés par l'IA soient illégaux, ils continuent de passer entre les mailles du filet et d'induire les clients en erreur. Même Amazon n'est pas en mesure de repérer tous ces avis !

Les entreprises ont la responsabilité de veiller à ce que les clients reçoivent des informations véridiques sur les produits, et non l'avis de ChatGPT ; il faut donc redoubler d'efforts pour empêcher la publication de ces informations sur les sites de commerce électronique.