Amazon'daki ilk sayfadaki yorumların yüzde üçü artık yapay zeka tarafından oluşturuluyor

Yapay zeka tarafından üretilen içerikler artık sıradan hale geldi ve akademik dergilerden haber başlıklarına ve akademik makalelere kadar her alanda yer alabiliyor. Artık yapay zeka, alışveriş alışkanlıklarımızı da etkiliyor.

Amazon, müşteri yorum özelliğini kullanan ilk çevrimiçi perakendeciydi; ancak bu sistem, ChatGPT, Claude ve Gemini gibi büyük dil modelleri (LLM’ler) tarafından manipüle ediliyor olabilir. Yapay zeka tarafından oluşturulan yorumlar bırakmak, ABD federal yasalarına göre yasadışı bir uygulamadır.

Amazon, şüpheli yorum geçmişlerini tespit etmek ve müşteriler bu yorumlarla karşılaşmadan önce yapay zeka tarafından oluşturulan yorumları kaldırmak için gelişmiş araçlar kullanıldığını açıkladı.

Çalışmamız

Araştırmamız, Amazon’un hâlâ yapması gereken işler olduğunu gösteriyor.

Pangram olarak, Amazon'daki yorumların kaç tanesinin yapay zeka tarafından oluşturulduğunu ve bunların insan tarafından yazılanlara kıyasla olumlu mu yoksa olumsuz mu olma ihtimalinin daha yüksek olduğunu öğrenmek istedik.

Bunu yapmak için, Amazon’un en çok satan 500 ürününe ait 30.000 adet ana sayfada yer alan ürün yorumunu topladık ve bunları yapay zeka tabanlı dedektörümüzle inceledik. Bebek ürünleri, oyuncak ve oyunlar, dizüstü bilgisayarlar, tıbbi cihazlar, sağlık ve rahatlama, güzellik ve mobilya dahil olmak üzere en çok satan on ürün kategorisini ele aldık. Her yorumun yıldız puanını ve yorumun “Doğrulanmış Satın Alma” olup olmadığını kaydettik.

Amazon'un en çok satan kitapları arasında yapay zeka tarafından yazılmış yorumlara dair yaygın kanıtlar bulduk

İncelediğimiz toplam yorumların %3'ünün – yani 909 yorumun – yüksek bir güvenilirlikle yapay zeka tarafından üretildiğini tespit ettik. ChatGPT Agent gibi yapay zeka araçlarına erişimin artmasıyla birlikte, içerik fabrikaları büyük ölçekte otomatik olarak yapay zeka yorumları üretebiliyor. Platformlar bu konuda önlem almadıkça, yakında internetteki hiçbir yoruma güvenmek zor hale gelecektir.

Yapay zeka, insanlardan daha fazla beş yıldızlı yorum yazıyor

İncelediğimiz 500 Amazon en çok satan ürün arasında, yapay zeka tarafından yazılan yorumların %74’ü ürünlere 5 yıldızlı puan verdi. Bu oran, gerçek kullanıcı yorumlarında %59 olarak gerçekleşti. Bunun tersi de geçerli; insanlar, yapay zekaya kıyasla daha fazla 1 yıldızlı yorum yazdı: %10’a karşı %22.

Peki ya "Doğrulanmış Satın Alma" yorumları?

"Doğrulanmış Satın Alma" rozeti, müşteriler tarafından genellikle güvenilir bir güven işareti olarak kullanılır: bu rozet, yorum yazan kişinin ürünü gerçekten satın aldığını gösterir. Yaptığımız araştırma, ilk sayfada yer alan yapay zeka tarafından oluşturulan yorumların %93'ünde "Doğrulanmış Satın Alma" rozetinin bulunduğunu ortaya koydu; bu da, bu rozetin tek başına artık güvenilir bir güven sembolü olmadığını göstermektedir.

Bir inceleme yapay zeka tarafından yazılmışsa, ne kadar güvenilirdir?

Bazı yorumlar, satıcılar tarafından büyük dil modelleri (LLM) kullanılarak yazılmış olabilir; bu satıcılar, geri bildirim taklidi yaparak ürün puanlarını yükseltmeye çalışmaktadır. Diğer yorumlar ise, kendileri yorum yazacak zamanı bulamayan ya da bir ürün hakkındaki görüşlerini ifade edecek kelimeleri bulamayan, iyi niyetli müşteriler tarafından yazılmış olabilir.

Bunun önemi yok, çünkü sonuçta ürünün yanlış bir şekilde tasvir edilmesi söz konusu olabilir.

Yapay zeka tarafından yazılan yorumlar ürün puanlarını şişiriyorsa, bu durum satın alma kararlarını doğrudan etkileyebilir.

Amazon'un hakkını vermek gerekirse, yapay zeka tarafından oluşturulan yorumlar sorununu çözmeye çalışıyor; ancak araştırmanın sonuçlarına göre, bu çabalar yeterince işe yaramıyor.

Gözden kaçan yapay zeka tarafından oluşturulan yorumların sayısı, Amazon’un hâlâ yapması gereken işler olduğunu gösteriyor.

Yapay zeka tarafından üretilen yorumlar güveni sarsıyor; ve bir ürünü satın almaya karar verirken en çok güvendiğimiz unsurlardan biri çevrimiçi yorumlar olduğundan, bu satın alımın gerçekten değer olup olmadığından şüphe etmeye başlayabiliriz.

AI tarafından oluşturulan yorumları nasıl tespit edersiniz?

Yorumları okurken, belirli ürün detaylarına değinilen kısımlara dikkat edin. Genel geçer yorumlar veya "belirsiz" ifadeler, yorumun yapay zeka tarafından oluşturulduğunun bir işareti olabilir.

Bir yorum yazmayı düşünüyorsanız, ChatGPT veya başka bir büyük dil modelini kullanma isteğine karşı koyun. Dürüst deneyimleriniz ve görüşleriniz önemlidir ve insanların bir ürünü satın alırken bilinçli bir karar vermelerine yardımcı olabilir.

Ayrıca, Pangram’ın yapay zeka algılayıcısını kullanarak incelediğiniz yorumların gerçek olup olmadığını doğrulayabilirsiniz. Chrome uzantımız sayesinde internetteki herhangi bir metni seçip yapay zeka içeriği olup olmadığını kontrol edebilirsiniz.

Sonuç

Yapay zeka tarafından oluşturulan yorumlar yasa dışı olmasına rağmen, bu yorumlar hâlâ gözden kaçmaya devam ediyor ve müşterileri yanıltıyor. Amazon bile bu yorumların hepsini tespit edemiyor!

İşletmelerin, müşterilere ürünler hakkında doğru bilgileri sunma sorumluluğu vardır; ChatGPT’nin görüşlerini değil. Bu nedenle, bu tür içeriklerin e-ticaret sitelerinde yayınlanmasını önlemek için daha fazla önlem alınması gerekmektedir.