Drei Prozent der Rezensionen auf der Startseite von Amazon werden mittlerweile von KI generiert

Von KI generierte Inhalte sind mittlerweile zur Normalität geworden und finden sich überall, von wissenschaftlichen Fachzeitschriften über Schlagzeilen bis hin zu wissenschaftlichen Arbeiten. Nun beeinflusst die KI auch unsere Einkaufsgewohnheiten.

Amazon war der erste Online-Händler, der eine Funktion für Kundenbewertungen eingeführt hat, doch das System wird möglicherweise durch große Sprachmodelle (LLMs) wie ChatGPT, Claude und Gemini manipuliert. Das Hinterlassen von KI-generierten Bewertungen ist nach US-Bundesrecht illegal.

Amazon hat erklärt, dass ausgefeilte Tools eingesetzt werden, um verdächtige Bewertungsverläufe zu erkennen und KI-generierte Bewertungen zu entfernen, bevor ein Kunde darauf stößt.

Unsere Studie

Unsere Untersuchungen deuten darauf hin, dass Amazon noch einiges zu tun hat.

Wir bei Pangram wollten herausfinden, wie viele Rezensionen auf Amazon von KI generiert werden und ob diese im Vergleich zu von Menschen verfassten Rezensionen eher positiv oder eher negativ ausfallen.

Zu diesem Zweck haben wir 30.000 Produktbewertungen auf den Startseiten von 500 der meistverkauften Produkte bei Amazon gesammelt und mit unserem KI-Detektor analysiert. Wir haben uns zehn der meistverkauften Produktkategorien angesehen, darunter Babyartikel, Spielzeug und Spiele, Laptops, medizinische Geräte, Wellness und Entspannung, Schönheitspflege sowie Möbel. Wir haben die Sternebewertung jeder Bewertung erfasst und festgehalten, ob es sich um einen „verifizierten Kauf“ handelte oder nicht.

Wir haben zahlreiche Hinweise darauf gefunden, dass bei den Amazon-Bestsellern Bewertungen durch KI erstellt wurden

Wir haben festgestellt, dass 3 % aller untersuchten Bewertungen – insgesamt 909 Bewertungen – mit hoher Wahrscheinlichkeit von KI generiert wurden. Durch den zunehmenden Zugang zu KI-Tools wie ChatGPT Agent können Content-Farmen automatisch KI-Bewertungen in großem Umfang produzieren. Wenn die Plattformen nicht gegensteuern, wird es bald schwierig sein, Bewertungen im Internet noch zu vertrauen.

KI verfasst mehr Fünf-Sterne-Bewertungen als Menschen

Von den 500 Amazon-Bestsellern, die wir analysiert haben, bewerteten 74 % der von KI verfassten Rezensionen die Produkte mit 5 Sternen. Im Vergleich dazu waren es bei den echten, von Menschen verfassten Rezensionen 59 %. Das Gegenteil trifft ebenfalls zu: Menschen verfassten mehr 1-Stern-Bewertungen als die KI, nämlich 10 % gegenüber 22 %.

Was ist mit Bewertungen mit dem Vermerk „Verifizierter Kauf“?

Das Abzeichen „Verifizierter Kauf“ wird von Kunden oft als verlässliches Vertrauenssignal angesehen: Es zeigt, dass der Rezensent das Produkt tatsächlich gekauft hat. Unsere Studie ergab, dass 93 % der auf der ersten Seite angezeigten, von KI generierten Bewertungen das Abzeichen „Verifizierter Kauf“ trugen, was zeigt, dass dieses Abzeichen allein kein verlässliches Vertrauenssymbol mehr ist.

Wenn eine Rezension von einer KI verfasst wurde, wie vertrauenswürdig ist sie dann?

Manche Bewertungen stammen wahrscheinlich von Verkäufern, die große Sprachmodelle (LLMs) einsetzen, um Feedback zu simulieren und die Bewertung ihres Produkts zu verbessern. Andere wiederum stammen möglicherweise von wohlmeinenden Kunden, die keine Zeit haben, selbst eine Bewertung zu verfassen, oder denen die Worte fehlen, um ihre Meinung zu einem Produkt zu beschreiben.

Das spielt keine Rolle, denn das Ergebnis ist eine möglicherweise ungenaue Darstellung eines Produkts.

Sollten von KI verfasste Bewertungen die Produktbewertungen künstlich in die Höhe treiben, könnte dies direkte Auswirkungen auf Kaufentscheidungen haben.

Zu seiner Ehre muss man sagen, dass Amazon versucht hat, gegen von KI generierte Bewertungen vorzugehen, doch den Ergebnissen der Studie zufolge zeigen diese Bemühungen nicht die gewünschte Wirkung.

Die Menge an KI-generierten Bewertungen, die durch das Raster schlüpfen, lässt darauf schließen, dass Amazon noch einiges zu tun hat.

Von KI generierte Bewertungen untergraben das Vertrauen, und da Online-Bewertungen eine der wichtigsten Entscheidungsgrundlagen bei Kaufentscheidungen sind, beginnen wir möglicherweise daran zu zweifeln, ob sich ein Kauf lohnt.

So erkennt man von KI generierte Bewertungen

Achten Sie beim Lesen von Bewertungen auf konkrete Angaben zu den Produktdetails. Allgemeine Kommentare oder „schwammige“ Formulierungen können ein Hinweis darauf sein, dass eine Bewertung von einer KI erstellt wurde.

Wenn Sie eine Bewertung abgeben möchten, widerstehen Sie der Versuchung, ChatGPT oder ein anderes LLM zu verwenden. Ihre ehrliche Erfahrung und Meinung sind wichtig und können anderen dabei helfen, eine fundierte Kaufentscheidung zu treffen.

Du kannst auch den KI-Detektor von Pangram nutzen, um zu überprüfen, ob die Bewertungen, die du dir ansiehst, echt sind. Mit unserer Chrome-Erweiterung kannst du beliebigen Text im Internet auswählen, um ihn auf KI-Inhalte zu überprüfen.

Schlussfolgerung

Obwohl KI-generierte Bewertungen illegal sind, schlüpfen sie weiterhin durch die Maschen und täuschen die Kunden. Nicht einmal Amazon selbst ist in der Lage, all diese Bewertungen aufzuspüren!

Unternehmen tragen die Verantwortung dafür, dass Kunden wahrheitsgemäße Informationen über Produkte erhalten und nicht die Meinung von ChatGPT; daher muss mehr getan werden, um zu verhindern, dass solche Inhalte auf E-Commerce-Websites veröffentlicht werden.