Amazon'daki ilk sayfadaki yorumların yüzde üçü artık yapay zeka tarafından oluşturuluyor

Yapay zeka tarafından üretilen içerikler artık sıradan hale geldi ve akademik dergilerden haber başlıklarına ve akademik makalelere kadar her alanda yer alabiliyor. Artık yapay zeka, alışveriş alışkanlıklarımızı da etkiliyor.

Amazon, müşteri yorum özelliğini kullanan ilk çevrimiçi perakendeciydi; ancak bu sistem, ChatGPT, Claude ve Gemini gibi büyük dil modelleri (LLM’ler) tarafından manipüle ediliyor olabilir. Yapay zeka tarafından oluşturulan yorumlar bırakmak, ABD federal yasaları kapsamında yasa dışı bir uygulamadır.

Amazon, şüpheli yorum geçmişlerini tespit etmek ve müşteriler bu yorumlarla karşılaşmadan önce yapay zeka tarafından oluşturulan yorumları kaldırmak için gelişmiş araçlar kullanıldığını açıkladı.

Çalışmamız

Araştırmamız, Amazon'un hâlâ yapması gereken işler olduğunu gösteriyor.

Pangram olarak, Amazon'daki yorumların kaç tanesinin yapay zeka tarafından oluşturulduğunu ve bunların insan tarafından yazılan yorumlara kıyasla olumlu mu yoksa olumsuz mu olma ihtimalinin daha yüksek olduğunu öğrenmek istedik.

Bunu yapmak için, Amazon’un en çok satan 500 ürününe ait 30.000 adet ana sayfada yer alan ürün yorumunu topladık ve bunları yapay zeka tespit aracımızla inceledik. Bebek ürünleri, oyuncak ve oyunlar, dizüstü bilgisayarlar, tıbbi cihazlar, sağlık ve rahatlama, güzellik ve mobilya dahil olmak üzere en çok satan on ürün kategorisini ele aldık. Her yorumun yıldız puanını ve yorumun “Doğrulanmış Satın Alma” olup olmadığını kaydettik.

Amazon'un en çok satan kitapları arasında yapay zeka tarafından yazılmış yorumlara dair yaygın kanıtlar bulduk

İncelediğimiz toplam yorumların %3'ünün (toplam 909 yorum) yüksek bir güvenilirlikle yapay zeka tarafından üretildiğini tespit ettik. ChatGPT Agent gibi yapay zeka araçlarına erişimin artmasıyla birlikte, içerik fabrikaları büyük ölçekte otomatik olarak yapay zeka yorumları üretebiliyor. Platformlar bu konuda önlem almadıkça, yakında internetteki hiçbir yoruma güvenmek zor hale gelecektir.

Yapay zeka, insanlardan daha fazla beş yıldızlı yorum yazıyor

İncelediğimiz 500 Amazon en çok satan ürün arasında, yapay zeka tarafından yazılan yorumların %74'ü ürünlere 5 yıldızlı puan verdi. Bu oran, gerçek kullanıcı yorumlarında %59 olarak gerçekleşti. Bunun tersi de geçerli: İnsanlar, yapay zekaya kıyasla daha fazla 1 yıldızlı yorum yazdı (%10'a karşı %22).

Peki ya "Doğrulanmış Satın Alma" yorumları?

"Doğrulanmış Satın Alma" rozeti, müşteriler tarafından genellikle güvenilir bir güven işareti olarak kullanılır: bu rozet, yorum yazan kişinin ürünü gerçekten satın aldığını gösterir. Yaptığımız araştırma, ilk sayfada yer alan yapay zeka tarafından oluşturulan yorumların %93'ünde "Doğrulanmış Satın Alma" rozetinin bulunduğunu ortaya koydu; bu da, bu rozetin tek başına artık güvenilir bir güven sembolü olmadığını gösteriyor.

Bir inceleme yapay zeka tarafından yazılmışsa, ne kadar güvenilirdir?

Bazı yorumlar, geri bildirimleri taklit etmek ve ürün puanlarını yükseltmek amacıyla büyük dil modellerini (LLM) kullanan satıcılar tarafından yazılmış olabilir. Diğerleri ise, kendileri yorum yazacak zamanı bulamayan ya da bir ürün hakkındaki görüşlerini ifade edecek kelimeleri bulamayan, iyi niyetli müşteriler tarafından yazılmış olabilir.

Bunun önemi yok, çünkü sonuçta ürünün yanlış bir şekilde tasvir edilmesi söz konusu olabilir.

Yapay zeka tarafından yazılan yorumlar ürün puanlarını şişiriyorsa, bu durum satın alma kararlarını doğrudan etkileyebilir.

Amazon'un hakkını vermek gerekirse, yapay zeka tarafından oluşturulan yorumlar sorununu çözmeye çalışıyor; ancak araştırmanın sonuçlarına göre, bu çabalar yeterince işe yaramıyor.

Gözden kaçan yapay zeka tarafından oluşturulan yorumların sayısı, Amazon’un hâlâ yapması gereken işler olduğunu gösteriyor.

Yapay zeka tarafından üretilen yorumlar güveni sarsıyor; ve bir ürünü satın almaya karar verirken en çok güvendiğimiz unsurlardan biri çevrimiçi yorumlar olduğundan, bu satın alımın gerçekten değer olup olmadığından şüphe duymaya başlayabiliriz.

AI tarafından oluşturulan yorumları nasıl tespit edersiniz?

Yorumları okurken, belirli ürün detaylarına değinilen kısımlara dikkat edin. Genel geçer yorumlar veya "belirsiz" ifadeler, yorumun yapay zeka tarafından oluşturulduğunun bir işareti olabilir.

Bir yorum yazmayı düşünüyorsanız, ChatGPT veya başka bir büyük dil modelini kullanma isteğine karşı koyun. Dürüst deneyimleriniz ve görüşleriniz önemlidir ve insanların bir ürünü satın alırken bilinçli bir karar vermelerine yardımcı olabilir.

Ayrıca, Pangram’ın yapay zeka tespit aracını kullanarak incelediğiniz yorumların gerçek olup olmadığını doğrulayabilirsiniz. Chrome uzantımız sayesinde internetteki herhangi bir metni seçip yapay zeka içeriği olup olmadığını kontrol edebilirsiniz.

Sonuç

Yapay zeka tarafından oluşturulan yorumlar yasa dışı olmasına rağmen, bu yorumlar hâlâ gözden kaçmaya devam ediyor ve müşterileri yanıltıyor. Amazon bile bu yorumların hepsini tespit edemiyor!

İşletmelerin, müşterilere ürünler hakkında doğru bilgileri sunma sorumluluğu vardır; ChatGPT’nin görüşlerini değil. Bu nedenle, bu tür içeriklerin e-ticaret sitelerinde yayınlanmasını önlemek için daha fazla önlem alınması gerekmektedir.