現在、Amazonのトップページに掲載されているレビューの3％はAIによって生成されたものである

AIが生成したコンテンツはもはや当たり前となり、学術誌からニュースの見出し、学術論文に至るまで、あらゆる場面で見られるようになっています。そして今、AIは私たちの買い物習慣にも影響を及ぼしつつあります。

Amazonは、顧客レビュー機能を導入した最初のオンライン小売業者でしたが、このシステムはChatGPT、Claude、Geminiといった大規模言語モデル（LLM）によって操作される恐れがあります。AIによって生成されたレビューを投稿することは、米国連邦法の下で違法行為となります。

アマゾンは、高度なツールを活用して不審なレビュー履歴を特定し、顧客がAI生成のレビューに遭遇する前にそれらを削除していると述べている。

私たちの研究

我々の調査によると、アマゾンにはまだ課題が残されているようだ。

Pangramでは、Amazonのレビューのうちどれだけの割合がAIによって生成されたものなのか、また、人間が書いたレビューと比べて、AI生成のレビューは肯定的な評価と否定的な評価のどちらが多いのかを調べたいと考えました。

この調査を行うため、Amazonのベストセラー商品500点について、トップページに掲載されている商品レビュー3万件を収集し、当社のAI検出ツールで分析しました。調査対象としたのは、ベビー用品、おもちゃ・ゲーム、ノートパソコン、医療機器、ウェルネス・リラクゼーション、美容、家具など、ベストセラー商品の上位10カテゴリーです。各レビューの星評価と、「購入済み」レビューであるかどうかの有無を記録しました。

Amazonのベストセラー商品において、AIによるレビューが広く見受けられた

調査対象となったレビュー全体のうち、3％にあたる909件が、高い確度でAIによって生成されたものであることが判明しました。ChatGPT AgentのようなAIツールへのアクセスが拡大するにつれ、コンテンツファームはAIレビューを大規模かつ自動的に生成できるようになっています。プラットフォーム側が対策を講じない限り、まもなくインターネット上のレビューを信頼することは困難になるでしょう。

AIは人間よりも多くの5つ星レビューを書いている

私たちが分析したAmazonのベストセラー500商品のうち、AIが書いたレビューの74%が商品に5つ星の評価をつけていました。一方、人間による正当なレビューではその割合は59%でした。逆の傾向も見られ、1つ星の評価をつけたのは人間の方がAIよりも多く、10%対22%でした。

「購入済み」のレビューについてはどうでしょうか？

「購入済み」バッジは、顧客にとって信頼できる指標としてよく利用されています。これは、レビュー投稿者が実際にその商品を購入したことを示すものです。しかし、私たちの調査によると、検索結果の1ページ目に表示されるAI生成レビューの93％に「購入済み」バッジが付いており、このバッジだけではもはや信頼の確かな証とは言い難いことが明らかになりました。

レビューがAIによって書かれた場合、その信頼性はどの程度でしょうか？

一部のレビューは、販売者がLLM（大規模言語モデル）を使ってフィードバックを偽装し、商品の評価を吊り上げようとして書いている可能性があります。また、自分でレビューを書く時間がない、あるいは商品に対する感想をうまく言葉にできないといった、善意のある顧客によって書かれている場合もあります。

結果として、その製品が不正確に描写される可能性があるため、それは問題ではない。

AIが作成したレビューによって製品の評価が水増しされている場合、それは購買決定に直接影響を及ぼす可能性がある。

評価すべき点として、アマゾンはAIによるレビューへの対策に取り組んできたが、この調査の結果から判断すると、その取り組みは十分な成果を上げていないようだ。

AIによって生成されたレビューがチェック漏れしている件数から見て、アマゾンにはまだ改善の余地があるようだ。

AIが生成したレビューは信頼を損なうものであり、商品を購入するかどうかを決める際にオンラインレビューが最も頼りにする情報の一つとなっている今、その購入が本当に価値あるものなのかと疑い始めるかもしれない。

AIが生成したレビューを見分ける方法

レビューを読む際は、具体的な製品の詳細について言及されているか確認しましょう。一般的なコメントや「曖昧な」表現は、そのレビューがAIによって生成されたものである可能性を示唆している場合があります。

レビューを投稿する際は、ChatGPTやその他のLLMを使いたくなる衝動に負けないでください。あなたの率直な体験や意見は重要であり、他の人が製品を購入する際に、十分な情報に基づいた判断を下す助けとなるでしょう。

また、PangramのAI検出ツールを使えば、閲覧中のレビューが本物かどうかを確認することもできます。当社のChrome拡張機能を使えば、インターネット上の任意のテキストを選択して、AI生成コンテンツが含まれていないかチェックできます。

結論

AIが生成したレビューは違法であるにもかかわらず、依然として見逃され、顧客を誤解させ続けている。Amazonでさえ、こうしたレビューをすべて摘発することはできないのだ！

企業には、顧客がChatGPTの意見ではなく、製品に関する真実の情報を得られるようにする責任があるため、eコマースサイトにそのような情報が掲載されるのを防ぐために、さらなる対策が必要である。