كيف تستخدم «كورّا» أداة «بانغرام» للتعامل مع الإجابات التي تكتبها الذكاء الاصطناعي

في أبريل 2024، أبرمت Pangram Labs شراكة مع Quora لمساعدتها في التصدي لمرسلي الرسائل غير المرغوب فيها الذين يستخدمون ChatGPT للرد على المنشورات بإجابات مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي.

يُعد «كورّا» أحد أكبر المواقع الإلكترونية في العالم، حيث يحتل المرتبة الثالثة والثلاثين من حيث عدد الزيارات على مستوى العالم، ويستقطب أكثر من مليار زيارة للصفحات شهريًا اعتبارًا من أغسطس 2024 (المصدر: Semrush). يتيح موقع «كورّا» للمستخدمين نشر الأسئلة، التي يراها ويجيب عليها الآخرون الذين يتصفحون الموقع.

"مهمتنا هي تبادل المعرفة في العالم وتوسيع نطاقها. ونؤمن إيمانًا راسخًا بأن الكثير من المعرفة محصورة في عقول الناس، وأنه إذا ما ربطنا الأسئلة الصحيحة بالأشخاص المناسبين، فسنتمكن من استخلاص تلك المعرفة."

ليكسي وو، مديرة منتجات المجموعة المسؤولة عن الإشراف في Quora

ما المشكلة في إجابات الذكاء الاصطناعي؟

مثال على إجابة كُتبت بواسطة الذكاء الاصطناعي

تتيح تقنية الذكاء الاصطناعي التوليدي لمرسلي الرسائل غير المرغوب فيها إنشاء مئات أو آلاف الإجابات التي تبدو حقيقية دون بذل جهد يذكر. ويمكن للمرء أن يجادل بأن الإجابة التي يقدمها الذكاء الاصطناعي لا تزال تمثل فائدة صافية. فالمستخدمون يحصلون على إجابة قد تكون ذات جودة منخفضة أو متوسطة، لكنها غالبًا ما تكون صحيحة من حيث الاتجاه. وهذا أفضل من عدم وجود إجابة على الإطلاق، أليس كذلك؟

ربما في حالة مثالية – لكن وجود إجابات مدعومة بالذكاء الاصطناعي على «كورّا» ينطوي على عدة آثار غير مرغوب فيها.

1. عندما يكون السؤال قد تمت الإجابة عليه بالفعل، فإن ذلك يثني الآخرين عن تخصيص الوقت اللازم لكتابة إجابة خاصة بهم. لذا، على الرغم من أن السؤال قد يكون حصل على إجابة مقبولة من الذكاء الاصطناعي، فإن هذه الإجابة تقلل من احتمالية أن يختار شخص ما مشاركة تجربته الواقعية الخاصة.
2. الذكاء الاصطناعي يحل محل المنشورات الأصلية. وكما هو الحال مع العديد من المنصات، فإن عدد المشاهدات ومعدلات التفاعل هي لعبة محصلتها صفر. ففي كل مرة يرى فيها المستخدم محتوىً من إنتاج الذكاء الاصطناعي في خلاصته أو ملخصه، يُحرم منشئو المحتوى الحقيقيون الآخرون من التفاعل الذي يستحقونه.
3. مخاطر السمعة. يمكن للناس أن يدركوا متى تكون الإجابة التي يقرؤونها قد كُتبت بواسطة الذكاء الاصطناعي. وهذا يطرح السؤال التالي: لماذا تزور موقع Quora أصلاً إذا كنت ستكتفي بقراءة إجابات كتبها الذكاء الاصطناعي؟ لماذا لا تذهب إلى ChatGPT فحسب؟ يقدم موقع Quora قيمة مضافة تختلف عن ChatGPT – وهي إجابات حقيقية من أشخاص حقيقيين – ويحرص على تنظيم منصته لضمان استمرار ذلك.

لماذا نستخدم "بانغرام"؟

في بعض الأحيان، يصعب على العين البشرية تحديد ما إذا كان النص قد كُتب بواسطة الذكاء الاصطناعي أم لا. وفي أحيان أخرى، تكون هذه المهمة مجرد عملية تستغرق وقتًا طويلاً، حيث يتعين على المشرف قراءة النص بعناية لفترة قبل أن يتأكد من ذلك. وتؤدي أتمتة هذه العملية إلى تخفيف عبء مهمة الإشراف التي قد تكون مكلفة، مما يوفر الوقت والمال على المدى الطويل.

على الرغم من وجود عدد قليل من الحلول مفتوحة المصدر التي تهدف إلى معالجة مشكلة الكشف عن الذكاء الاصطناعي في نموذج GPT-2، إلا أنه لم ينجح أي منها بشكل جيد مع GPT-4، وهو النموذج اللغوي الضخم (LLM) الأكثر استخدامًا. وتسعى منصات مثل Quora إلى إيجاد حل قادر على تصنيف مخرجات النماذج المتقدمة مثل GPT-4. ومن الناحية المثالية، ينبغي أن يستمر هذا الحل في العمل مع النماذج اللغوية الضخمة الجديدة، حيث يتم إصدار نماذج لغوية رائدة جديدة كل بضعة أشهر.

كان "بانجرام"، بفضل تقييماته القوية ودقته التي تفوق دقة منافسيه مثل "جي بي تي زيرو" بأكثر من 100 ضعف، أحد الخيارات القليلة التي تمكنت من الكشف بشكل موثوق عن المحتوى المكتوب بواسطة "جي بي تي-4" في أبريل 2024، ولا يزال حتى اليوم نموذج الكشف عن الذكاء الاصطناعي الأكثر دقة بفارق كبير.

بالإضافة إلى ذلك، يتضمن مسار بيانات Pangram ميزات مدمجة تضمن التوافق مع الإصدارات المستقبلية من نماذج اللغة الكبيرة (LLM). وهو قادر على إنشاء بيانات تدريب اصطناعية وتدريب نموذج جديد في غضون 24 ساعة من توفر نموذج اللغة الكبيرة (LLM). وفي يوليو 2024، وسعت Pangram نطاق دعمها اللغوي ليشمل أكثر من 20 لغة، وتواصل إجراء تحسينات على النماذج لضمان دقة عالية للعملاء.

التأثير

حتى سبتمبر 2024، حددت منصة «كورّا» أكثر من مليون منشور تم إنشاؤه بواسطة الذكاء الاصطناعي، مما أدى إلى تحسين جودة المحتوى على مستوى الموقع والحفاظ على سمعتها كمصدر موثوق ومصداقي للمعلومات.

تواصل Pangram دورها كعامل مضاعف لقوة فرق "الثقة والأمان"، حيث تزودها بالأدوات اللازمة لوضع سياسات تتعلق بالمحتوى الذي يعتمد على الذكاء الاصطناعي بثقة.

هل لديك حالة استخدام خاصة بالكشف باستخدام الذكاء الاصطناعي؟ تواصل معنا عبر البريد الإلكتروني info@pangram.com!