3% من التعليقات التي تظهر على الصفحة الرئيسية لموقع أمازون أصبحت الآن من إنتاج الذكاء الاصطناعي

أصبح المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي هو القاعدة السائدة، ويمكن أن يظهر في كل شيء بدءًا من المجلات الأكاديمية وصولاً إلى عناوين الأخبار والأبحاث الأكاديمية. والآن، أصبح الذكاء الاصطناعي يؤثر على عاداتنا الشرائية أيضًا.

كانت «أمازون» أول متجر إلكتروني يطرح ميزة «تقييمات العملاء»، لكن هذا النظام معرض للتلاعب من قِبل نماذج اللغة الكبيرة (LLMs) مثل «تشات جي بي» و«كلود» و«جيميني». ويُعد ترك تقييمات مُنشأة بواسطة الذكاء الاصطناعي ممارسة غير قانونية بموجب القانون الفيدرالي الأمريكي.

أعلنت شركة أمازون أنها تستخدم أدوات متطورة للكشف عن سجلات التقييمات المشبوهة وإزالة التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي قبل أن يطلع عليها العميل.

دراستنا

تشير أبحاثنا إلى أن أمام «أمازون» ما زال هناك عمل يتعين القيام به.

في Pangram، أردنا معرفة عدد التقييمات على موقع أمازون التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وما إذا كانت تميل إلى أن تكون إيجابية أم سلبية مقارنةً بالتقييمات التي كتبها البشر.

ولتحقيق ذلك، قمنا بجمع 30,000 تقييم منتج من الصفحة الرئيسية لـ 500 منتج من أكثر المنتجات مبيعًا على موقع أمازون، وقمنا بفحصها باستخدام أداة الكشف التي تعمل بالذكاء الاصطناعي الخاصة بنا. وركزنا على عشر فئات من المنتجات الأكثر مبيعًا، بما في ذلك منتجات الأطفال، والألعاب، وأجهزة الكمبيوتر المحمولة، والأجهزة الطبية، ومنتجات الصحة والاسترخاء، ومستحضرات التجميل، والأثاث. وسجلنا تصنيف النجوم لكل تقييم، وما إذا كان التقييم من فئة "شراء مؤكد" أم لا.

وجدنا أدلة واسعة النطاق على وجود تقييمات تم إعدادها بواسطة الذكاء الاصطناعي في قائمة أكثر الكتب مبيعًا على موقع أمازون

وجدنا أن 3% من إجمالي التقييمات التي شملتها الدراسة - أي 909 تقييمات - تم إنشاؤها بواسطة الذكاء الاصطناعي بدرجة عالية من الثقة. ومع تزايد إمكانية الوصول إلى أدوات الذكاء الاصطناعي مثل ChatGPT Agent، أصبح بإمكان مزارع المحتوى إنتاج تقييمات مصطنعة تلقائيًا على نطاق واسع. وما لم تتخذ المنصات إجراءات في هذا الشأن، سيصعب قريبًا الوثوق بأي تقييمات على الإنترنت.

تكتب الذكاء الاصطناعي تقييمات ذات خمس نجوم أكثر من البشر

من بين أفضل 500 منتج مبيعًا على موقع أمازون التي قمنا بتحليلها، منحت 74% من التقييمات التي كتبها الذكاء الاصطناعي المنتجات تصنيفًا من 5 نجوم. ويقارن هذا بنسبة 59% من التقييمات البشرية الحقيقية. والعكس صحيح أيضًا؛ فقد كتب البشر تقييمات ذات نجمة واحدة أكثر من الذكاء الاصطناعي، بنسبة 10% مقابل 22%.

ماذا عن تقييمات "الشراء المؤكد"؟

غالبًا ما يستخدم العملاء شارة "شراء مؤكد" كإشارة موثوقة تدل على المصداقية: فهي تُظهر أن المُقيِّم قد اشترى المنتج بالفعل. وقد توصلت دراستنا إلى أن 93% من التقييمات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والواردة في الصفحة الأولى (93%) كانت تحمل شارة "شراء مؤكد"، مما يدل على أن هذه الشارة وحدها لم تعد رمزًا موثوقًا للمصداقية.

إذا كانت المراجعة قد كُتبت بواسطة الذكاء الاصطناعي، فما مدى موثوقيتها؟

من المرجح أن تكون بعض التعليقات قد كتبها بائعون يستخدمون نماذج اللغة الكبيرة (LLMs) لمحاكاة التعليقات ورفع تقييم منتجاتهم. وقد تكون تعليقات أخرى قد كتبها عملاء ذوو نوايا حسنة لا يملكون الوقت لكتابة تعليق بأنفسهم أو لا يجدون الكلمات المناسبة لوصف رأيهم في المنتج.

لا يهم ذلك لأن النتيجة هي تصوير غير دقيق للمنتج.

إذا كانت التقييمات التي تكتبها الذكاء الاصطناعي تضخم تقييمات المنتجات، فقد يؤثر ذلك بشكل مباشر على قرارات الشراء.

ويجب الإشادة بأمازون لأنها تحاول التصدي للتعليقات التي يُنتجها الذكاء الاصطناعي، ولكن استناداً إلى نتائج الدراسة، فإن جهودها لا تحقق النتائج المرجوة.

يشير حجم التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تمر دون أن يتم اكتشافها إلى أن «أمازون» لا يزال أمامها عمل كثير.

تقوض التقييمات التي يُنتجها الذكاء الاصطناعي الثقة، وبما أن التقييمات عبر الإنترنت تُعد من أهم العوامل التي نعتمد عليها عند اتخاذ قرار شراء منتج ما، فقد نبدأ في الشك في جدوى هذا الشراء.

كيفية التعرف على التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي

عند قراءة التعليقات، ابحث عن الإشارة إلى تفاصيل محددة عن المنتج. فقد تكون التعليقات العامة أو اللغة "الرنانة" دلالة على أن التعليق قد تم إنشاؤه بواسطة الذكاء الاصطناعي.

إذا كنت تنوي كتابة تقييم، فاحذر من إغراء استخدام ChatGPT أو أي نموذج لغوي كبير آخر. إن تجربتك ورأيك الصادقين مهمان وقد يساعدان الآخرين على اتخاذ قرار مستنير بشأن شراء المنتج.

يمكنك أيضًا استخدام أداة الكشف عن الذكاء الاصطناعي من Pangram للتأكد من صحة التعليقات التي تقرأها. تتيح لك ملحقاتنا على متصفح Chrome تحديد أي نص على الإنترنت للتحقق من احتوائه على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي.

الخلاصة

على الرغم من أن التعليقات التي يُنتجها الذكاء الاصطناعي تعتبر غير قانونية، إلا أنها لا تزال تتسلل دون أن يُكتشف أمرها وتضلل العملاء. ولا تستطيع حتى «أمازون» نفسها اكتشاف كل هذه التعليقات!

تقع على عاتق الشركات مسؤولية ضمان حصول العملاء على المعلومات الصحيحة عن المنتجات، وليس على آراء ChatGPT، لذا يجب بذل المزيد من الجهود لمنع نشرها على مواقع التجارة الإلكترونية.