أصبحت 3% من التعليقات التي تظهر على الصفحة الرئيسية لموقع أمازون من إنتاج الذكاء الاصطناعي

أصبح المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي هو القاعدة، ويمكن أن يظهر في كل شيء بدءًا من المجلات الأكاديمية وصولاً إلى عناوين الأخبار والأبحاث الأكاديمية. والآن، أصبح الذكاء الاصطناعي يؤثر على عاداتنا الشرائية أيضًا.

كانت «أمازون» أول متجر إلكتروني يطرح ميزة «تقييمات العملاء»، لكن هناك احتمال أن يتم التلاعب بهذا النظام من قِبل نماذج اللغة الكبيرة (LLMs) مثل «تشات جي بي» و«كلود» و«جيميني». ويُعد ترك تقييمات مُولَّدة بواسطة الذكاء الاصطناعي ممارسة غير قانونية بموجب القانون الفيدرالي الأمريكي.

أعلنت شركة أمازون أنها تستخدم أدوات متطورة للكشف عن سجلات التقييمات المشبوهة وإزالة التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي قبل أن يطلع عليها العميل.

دراستنا

تشير أبحاثنا إلى أن أمام «أمازون» ما زال هناك عمل يتعين القيام به.

في Pangram، أردنا معرفة عدد التقييمات على موقع أمازون التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وما إذا كانت تميل إلى أن تكون إيجابية أم سلبية مقارنةً بالتقييمات التي كتبها البشر.

ولتحقيق ذلك، قمنا بجمع 30,000 تقييم منتج من الصفحة الرئيسية لـ 500 منتج من أكثر المنتجات مبيعًا على موقع أمازون، وقمنا بفحصها باستخدام أداة الكشف التي تعمل بالذكاء الاصطناعي الخاصة بنا. وركزنا على عشر فئات من المنتجات الأكثر مبيعًا، بما في ذلك منتجات الأطفال، والألعاب، وأجهزة الكمبيوتر المحمولة، والأجهزة الطبية، ومنتجات العافية والاسترخاء، ومستحضرات التجميل، والأثاث. وسجلنا تصنيف النجوم لكل تقييم، وما إذا كان التقييم من فئة "شراء مؤكد" أم لا.

وجدنا أدلة واسعة النطاق على وجود تقييمات تم إعدادها بواسطة الذكاء الاصطناعي في قائمة أكثر الكتب مبيعًا على موقع أمازون

وجدنا أن 3% من إجمالي التقييمات التي شملتها الدراسة - أي 909 تقييمًا - تم إنشاؤها بواسطة الذكاء الاصطناعي بدرجة ثقة عالية. ومع تزايد إمكانية الوصول إلى أدوات الذكاء الاصطناعي مثل ChatGPT Agent، أصبح بإمكان مزارع المحتوى إنتاج تقييمات مصطنعة تلقائيًا على نطاق واسع. وما لم تتخذ المنصات الإجراءات اللازمة، سيصعب قريبًا الوثوق بأي تقييمات على الإنترنت.

تكتب الذكاء الاصطناعي تقييمات ذات خمس نجوم أكثر من البشر

من بين أفضل 500 منتج مبيعًا على موقع أمازون التي قمنا بتحليلها، منحت 74% من التقييمات التي كتبها الذكاء الاصطناعي المنتجات تصنيفًا من 5 نجوم. ويقارن ذلك بنسبة 59% من التقييمات البشرية الحقيقية. والعكس صحيح أيضًا؛ فقد كتب البشر تقييمات بنجمة واحدة أكثر من الذكاء الاصطناعي، بنسبة 10% مقابل 22%.

ماذا عن تقييمات "الشراء المؤكد"؟

غالبًا ما يستخدم العملاء شارة "شراء مؤكد" كدليل موثوق على المصداقية: فهي تُظهر أن المُقيِّم قد اشترى المنتج بالفعل. وقد كشفت دراستنا أن 93% من التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والواردة في الصفحة الأولى (93%) كانت تحمل شارة "شراء مؤكد"، مما يدل على أن هذه الشارة وحدها لم تعد رمزًا موثوقًا للمصداقية.

إذا كانت المراجعة قد كُتبت بواسطة الذكاء الاصطناعي، فما مدى موثوقيتها؟

من المرجح أن تكون بعض التعليقات قد كتبها بائعون يستخدمون نماذج اللغة الكبيرة (LLMs) لمحاكاة التعليقات ورفع تقييم منتجاتهم. وقد تكون تعليقات أخرى من كتابة عملاء ذوي نوايا حسنة لا يملكون الوقت لكتابة تعليق بأنفسهم أو لا يجدون الكلمات المناسبة لوصف رأيهم في المنتج.

لا يهم ذلك، لأن النتيجة هي تصوير غير دقيق للمنتج.

إذا كانت التقييمات التي تكتبها الذكاء الاصطناعي تضخم تقييمات المنتجات، فقد يؤثر ذلك بشكل مباشر على قرارات الشراء.

ويجب الإشادة بأمازون لجهودها في التصدي للتعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، ولكن استنادًا إلى نتائج الدراسة، فإن هذه الجهود لا تحقق النتائج المرجوة.

يشير حجم التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تمر دون أن يتم اكتشافها إلى أن أمازون لا يزال أمامها عمل كثير.

تقوض التعليقات التي يُنتجها الذكاء الاصطناعي الثقة، وبما أن التعليقات عبر الإنترنت تُعد أحد أهم العوامل التي نعتمد عليها عند اتخاذ قرار شراء منتج ما، فقد نبدأ في الشك في جدوى هذا الشراء.

كيفية التعرف على التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي

عند قراءة التعليقات، ابحث عن الإشارة إلى تفاصيل محددة عن المنتج. فقد تكون التعليقات العامة أو اللغة "الرنانة" دلالة على أن التعليق قد تم إنشاؤه بواسطة الذكاء الاصطناعي.

إذا كنت تنوي كتابة تقييم، فاحذر من إغراء استخدام ChatGPT أو أي نموذج لغوي كبير آخر. إن تجربتك ورأيك الصادقين مهمان وقد يساعدان الآخرين على اتخاذ قرار مستنير بشأن شراء المنتج.

يمكنك أيضًا استخدام أداة الكشف عن الذكاء الاصطناعي من Pangram للتأكد من صحة التعليقات التي تقرأها. يتيح لك ملحق Chrome الخاص بنا تحديد أي نص على الإنترنت للتحقق من احتوائه على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي.

الخلاصة

على الرغم من أن التعليقات التي يُنتجها الذكاء الاصطناعي تُعد غير قانونية، إلا أنها لا تزال تتسلل دون أن يُكتشف أمرها وتضلل العملاء. ولا تستطيع حتى «أمازون» نفسها اكتشاف كل هذه التعليقات!

تقع على عاتق الشركات مسؤولية ضمان حصول العملاء على المعلومات الصحيحة عن المنتجات، وليس على آراء ChatGPT، لذا يجب بذل المزيد من الجهود لمنع نشرها على مواقع التجارة الإلكترونية.