كيف يستخدم Quora Pangram للتعامل مع الإجابات المكتوبة بواسطة الذكاء الاصطناعي

في أبريل 2024، دخلت Pangram Labs في شراكة مع Quora لمساعدتها في مواجهة مرسلي الرسائل غير المرغوب فيها الذين يستخدمون ChatGPT للرد على المنشورات بإجابات غير صحيحة تم إنشاؤها بواسطة الذكاء الاصطناعي.

Quora هو أحد أكبر المواقع الإلكترونية في العالم، حيث يحتل المرتبة 33 من حيث عدد الزيارات على مستوى العالم، ويستقبل أكثر من مليار زيارة شهريًا اعتبارًا من أغسطس 2024 (المصدر: Semrush). يتيح Quora للمستخدمين نشر أسئلة، والتي يمكن للآخرين الذين يتصفحون الموقع رؤيتها والإجابة عليها.

"مهمتنا هي مشاركة المعرفة العالمية وتوسيع نطاقها. نؤمن إيمانًا راسخًا بأن الكثير من المعرفة محصورة في عقول الناس، وأنه إذا طرحنا الأسئلة الصحيحة على الأشخاص المناسبين، فسنتمكن من استخراج تلك المعرفة."

ليكسي وو، مديرة منتجات المجموعة المسؤولة عن الإشراف على Quora

ما هي مشكلة إجابات الذكاء الاصطناعي؟

مثال على إجابة مكتوبة بواسطة الذكاء الاصطناعي

تتيح الذكاء الاصطناعي التوليدي للمتطفلين إنشاء مئات أو آلاف الإجابات التي تبدو أصلية دون بذل الكثير من الجهد. يمكن للمرء أن يجادل بأن إجابة الذكاء الاصطناعي لا تزال إيجابية بشكل عام. يحصل المستخدمون على إجابة ربما تكون منخفضة أو متوسطة الجودة ولكنها غالبًا ما تكون صحيحة من حيث الاتجاه. هذا أفضل من عدم وجود إجابة على الإطلاق، أليس كذلك؟

في فراغ، ربما – ولكن هناك العديد من الآثار غير المرغوب فيها لوجود إجابات الذكاء الاصطناعي على Quora.

1. عندما يتم الرد على سؤال ما بالفعل، فإن هذا يثني الآخرين عن قضاء الوقت في كتابة إجابتهم الخاصة. لذلك، على الرغم من أن السؤال قد حصل على إجابة مقبولة من الذكاء الاصطناعي، فإن إجابة الذكاء الاصطناعي تجعل من غير المرجح أن يختار شخص ما مشاركة تجربته الحقيقية.
2. الذكاء الاصطناعي يزاحم المنشورات الأصلية. كما هو الحال مع العديد من المنصات، فإن المشاهدات والتفاعل هي لعبة محصلتها صفر. في كل مرة يرى المستخدم محتوى الذكاء الاصطناعي على موجزه أو ملخصه، يفقد المبدعون الحقيقيون الآخرون التفاعل الذي يستحقونه.
3. مخاطر السمعة. يمكن للناس معرفة متى تكون الإجابة التي يقرؤونها مكتوبة بواسطة الذكاء الاصطناعي. وهذا يطرح السؤال التالي: لماذا تزور Quora إذا كنت ستقرأ إجابات مكتوبة بواسطة الذكاء الاصطناعي؟ لماذا لا تذهب إلى ChatGPT؟ تقدم Quora قيمة مختلفة عن ChatGPT – إجابات حقيقية من أشخاص حقيقيين – وتقوم بتنظيم منصتها لضمان استمرار ذلك.

لماذا نستخدم Pangram؟

في بعض الأحيان، يصعب على العين البشرية معرفة ما إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي. وفي أحيان أخرى، تكون هذه المهمة مجرد مهمة تستغرق وقتًا طويلاً، وتتطلب من المشرف القراءة بعناية لفترة من الوقت قبل أن يتأكد. تؤدي أتمتة هذه العملية إلى التخلص من مهمة الإشراف المكلفة، مما يوفر الوقت والمال على المدى الطويل.

على الرغم من وجود بعض الحلول مفتوحة المصدر التي تهدف إلى حل مشكلة اكتشاف الذكاء الاصطناعي في GPT-2، لم تنجح أي حلول في GPT-4، وهو نموذج اللغة الكبيرة (LLM) الأكثر استخدامًا. تريد منصات مثل Quora حلاً يمكنه تصنيف مخرجات النماذج المتقدمة مثل GPT-4. من الناحية المثالية، سيستمر الحل في العمل مع نماذج اللغة الكبيرة الجديدة، حيث يتم إصدار نماذج لغة جديدة كل بضعة أشهر.

كان Pangram، بفضل تقييماته القوية ودقته التي تفوق 100 ضعف دقة منافسيه مثل GPTZero، أحد الخيارات الوحيدة التي يمكنها الكشف بشكل موثوق عن المحتوى المكتوب بواسطة GPT-4 في أبريل 2024، ولا يزال حتى اليوم النموذج الأكثر دقة للكشف عن الذكاء الاصطناعي بفارق كبير.

بالإضافة إلى ذلك، تتضمن قناة بيانات Pangram متانة مدمجة لإصدارات LLM المستقبلية. وهي قادرة على إنشاء بيانات تدريب اصطناعية وتدريب نموذج جديد في غضون 24 ساعة من توفر LLM. في يوليو 2024، وسعت Pangram دعم اللغات إلى أكثر من 20 لغة وتواصل إجراء تحسينات على النمذجة لضمان دقة عالية للعملاء.

التأثير

حتى سبتمبر 2024، حددت Quora أكثر من مليون منشور تم إنشاؤه بواسطة الذكاء الاصطناعي، مما أدى إلى تحسين جودة المحتوى على الموقع والحفاظ على سمعتها كمصدر معلومات موثوق وأصيل.

يواصل Pangram دوره كمضاعف للقوة لفرق الثقة والأمان، حيث يزودهم بالأدوات التي يحتاجونها لوضع سياسات حول محتوى الذكاء الاصطناعي بثقة.

هل لديك حالة استخدام للكشف عن الذكاء الاصطناعي؟ اتصل بنا على info@pangram.com!