現在、Amazonのトップページに掲載されているレビューの3％はAIによって生成されたものである

AIが生成したコンテンツはもはや当たり前となり、学術誌からニュースの見出し、学術論文に至るまで、あらゆる場面で見られるようになっています。そして今、AIは私たちの買い物習慣にも影響を及ぼしつつあります。

Amazonは、顧客レビュー機能を導入した最初のオンライン小売業者でしたが、このシステムはChatGPT、Claude、Geminiといった大規模言語モデル（LLM）によって操作される恐れがあります。AIによって生成されたレビューを投稿することは、米国連邦法の下で違法行為となります。

アマゾンは、高度なツールを活用して不審なレビュー履歴を特定し、顧客がAI生成のレビューに遭遇する前にそれらを削除していると述べている。

私たちの研究

我々の調査によると、アマゾンにはまだ課題が残されているようだ。

パングラムでは、AmazonのレビューのうちどれほどがAIによって生成されたものなのか、また、人間が書いたレビューと比べて、AIによるレビューは肯定的な評価と否定的な評価のどちらが多いのかを調べたいと考えました。

この調査を行うため、Amazonのベストセラー商品500点について、トップページに掲載されている3万件の商品レビューを収集し、当社のAI検出ツールで分析しました。調査対象としたのは、ベビー用品、おもちゃ・ゲーム、ノートパソコン、医療機器、健康・リラクゼーション、美容、家具など、ベストセラー商品の上位10カテゴリーです。各レビューの星評価と、「購入済み」の有無を記録しました。

Amazonのベストセラー商品において、AIによるレビューが広く見られることが判明した

調査対象となったレビュー全体のうち、3％にあたる909件が、高い確度でAIによって生成されたものであることが判明しました。ChatGPT AgentのようなAIツールへのアクセスが拡大するにつれ、コンテンツファームはAIレビューを大規模かつ自動的に生成できるようになっています。プラットフォーム側が対策を講じない限り、まもなくインターネット上のレビューを信頼することは困難になるでしょう。

AIは人間よりも多くの5つ星レビューを書いている

私たちが分析したAmazonのベストセラー500商品について、AIが作成したレビューの74%が商品に5つ星の評価をつけていました。一方、人間による本物のレビューではその割合は59%でした。その逆も当てはまり、1つ星の評価をつけたのは人間の方がAIよりも多く、それぞれ10%対22%でした。

「購入済み」のレビューについてはどうでしょうか？

「購入済み」バッジは、顧客にとって信頼できる指標としてよく利用されています。これは、レビュー投稿者が実際にその商品を購入したことを示すものです。しかし、私たちの調査によると、検索結果の1ページ目に表示されるAI生成レビューの93％に「購入済み」バッジが付いており、このバッジだけではもはや信頼の確かな証とは言い難いことが明らかになりました。

もしレビューがAIによって書かれたものだとしたら、その信頼性はどの程度でしょうか？

一部のレビューは、販売者がLLM（大規模言語モデル）を使ってフィードバックを偽装し、商品の評価を吊り上げようとして書いている可能性があります。また、自分でレビューを書く時間がない、あるいは商品に対する感想をうまく言葉にできないといった、善意のある顧客によって書かれている場合もあります。

結果として、製品が不正確に描写される可能性があるため、それは問題ではありません。

AIが作成したレビューによって製品の評価が水増しされている場合、それは購買決定に直接影響を及ぼす可能性がある。

アマゾンは、AIによるレビューの問題に対処しようと努力してきた点は評価できるが、この調査の結果を見る限り、その取り組みは十分な成果を上げていないようだ。

AIによって生成されたレビューがチェック漏れしている件数が多いため、アマゾンにはまだ改善の余地があるようだ。

AIが生成したレビューは信頼を損なうものであり、商品を購入するかどうかを決める際にオンラインレビューが最も頼りにする情報源の一つとなっている今、その購入が本当に価値あるものなのかと疑い始めるかもしれない。

AIが生成したレビューを見分ける方法

レビューを読む際は、具体的な製品の詳細について言及されているか確認しましょう。漠然としたコメントや「曖昧な表現」は、そのレビューがAIによって生成されたものである可能性を示唆している場合があります。

レビューを投稿する際は、ChatGPTやその他のLLMを使いたくなる誘惑に負けないでください。あなたの率直な体験や意見は重要であり、他の人が製品を購入する際に、十分な情報に基づいた判断を下す助けとなるでしょう。

また、PangramのAI検出ツールを使えば、閲覧中のレビューが本物かどうかを確認することもできます。当社のChrome拡張機能を使えば、インターネット上の任意のテキストを選択して、AI生成コンテンツかどうかをチェックできます。

結論

AIが生成したレビューは違法であるにもかかわらず、依然として見逃され、顧客を誤解させ続けている。Amazonでさえ、こうしたレビューをすべて摘発することはできないのだ！

企業には、顧客がChatGPTの意見ではなく、製品に関する真実の情報を得られるようにする責任があるため、eコマースサイト上でそのような情報が公開されるのを防ぐために、さらなる対策が必要である。