الأساطير والمفاهيم الخاطئة حول الكشف عن الذكاء الاصطناعي

يعمل جيسون مدرسًا للغة الإنجليزية والفلسفة في مدرسة نيو رودز في لوس أنجلوس.

مقدمة

غالبًا ما يُسألني الناس عما تستطيع أدوات الكشف عن المحتوى المصطنع (AI) فعله وما لا تستطيع فعله. اليوم، سنستكشف بعضًا من أكثر الأساطير والمفاهيم الخاطئة شيوعًا حول الكشف عن المحتوى المصطنع. فلنبدأ!

الخرافة الأولى: بدلاً من الاعتماد على أنظمة الكشف التي تعمل بالذكاء الاصطناعي، ينبغي لنا دمج الذكاء الاصطناعي في عملية التدريس، وتعليم الطلاب كيفية استخدامه.

ينبغي علينا دمج الذكاء الاصطناعي في عملية التدريس، كما ينبغي علينا تعليم الطلاب كيفية استخدامه! لكن المقارنة بين دمج الذكاء الاصطناعي واستخدام أدوات الكشف عنه هي بمثابة وضع فكرتين في مواجهة بعضهما البعض، في حين أنهما لا تتعارضان في الواقع. فاستخدام أدوات الكشف عن الذكاء الاصطناعي هو شرط أساسي ضروري لدمج هذه التكنولوجيا، وذلك لوضع ضوابط معقولة حولها وضمان استخدامها كأداة مساعدة، لا كوسيلة لإساءة الاستخدام.

هناك مغالطة معينة تنطوي على معاداة للتكنولوجيا تظهر كلما ظهرت تقنية جديدة وتم اقتراح أي قيود عليها — وفي هذه الحالة، تتمثل هذه المغالطة في القول بأن «الكشف يساوي الردع»، وهو أمر خاطئ.

في الواقع، العكس هو الصحيح. فمن يبحثون عن أدوات قوية للكشف عن الغش باستخدام الذكاء الاصطناعي هم عادةً من يتوقون أكثر من غيرهم إلى استخدام الذكاء الاصطناعي في فصولهم الدراسية. فهم يرغبون في استخدام هذه الأدوات، لكنهم لا يريدون أن يُساء استخدامها. وفي المقابل، هناك من يتحمسون لمستقبل الذكاء الاصطناعي لدرجة أنهم يريدون استخدام أدوات الذكاء الاصطناعي بشكل كامل في فصولهم الدراسية انطلاقًا من مبدأ أن «هذا هو المستقبل». وهؤلاء لا يرحبون بأي قيود. ومع ذلك، هناك من يكرهون الذكاء الاصطناعي ويفضلون "القلم والورقة". هم أفراد أو مدارس قرروا أن النهج الوحيد الصحيح تجاه الذكاء الاصطناعي هو عدم استخدامه على الإطلاق. لا توجد حاجة للكشف عندما تعود الفصل إلى أيام ما قبل الحوسبة. لكن الحقيقة هي أن أولئك الذين يسعون إلى الكشف عن الذكاء الاصطناعي هم عادةً الأكثر اهتمامًا بتعظيم استخدام الذكاء الاصطناعي للتعلم في الفصل الدراسي. إنهم يريدون تجنب العوامل المحددة غير الضرورية أثناء تجربة وتوسيع نطاق مهاراتهم باستخدام الذكاء الاصطناعي. ويبدو لنا أن هذا هو النهج الصحيح.

الخرافة الثانية: أجهزة كشف الذكاء الاصطناعي هي بمثابة «صناديق سوداء» لا تكشف عن المنهجية التي تعتمد عليها، وبالتالي لا يمكن الوثوق بها.

صحيح أن أدوات الكشف عن الذكاء الاصطناعي الأخرى لا تتسم بالشفافية فيما يتعلق بأساليبها، إلا أن Pangram قد كشفت عن منهجيتها بشكل صريح. تتسم Pangram بالشفافية بشأن أساليبها، لأنها تؤمن بأهمية كسب ثقة الأوساط البحثية وتقديم أدلة واقعية تثبت دقة البرنامج. وتقدم Pangram عرضًا تفاعليًّا متحركًا لمنهجيتها على موقعها الإلكتروني.

كما تنشر شركة Pangram بعض ابتكاراتها التقنية في مؤتمرات ومجلات متخصصة في مجال الذكاء الاصطناعي. فعلى سبيل المثال، قدمت الشركة مؤخرًا في مؤتمر COLING بحثًا يصف مدى قدرة النظام على مقاومة برامج "إضفاء الطابع البشري" وبرامج إعادة الصياغة.

الخرافة الثالثة: لم تخضع تقنية الكشف عن الذكاء الاصطناعي لمراجعة الأقران أو للتحقق من صحتها من قبل الأكاديميين.

لم تخضع أعمال بانجرام لمراجعة الأقران فحسب، بل يمكن لأي شخص مراجعتها في أي وقت.

تم مؤخرًا تسليط الضوء على نظام «بانجرام» وإجراء مقارنات أداء له في العديد من الأبحاث التي خضعت لمراجعة الأقران. وقد فاز «بانجرام» بجائزة «أدق وأقوى كاشف» في «مهمة كولينج المشتركة» ( COLING Shared Task)، وهي مسابقة تضم العديد من كاشفات الذكاء الاصطناعي مفتوحة المصدر والمتاحة تجاريًا.

كما تم ذكر "بانغرام" مؤخرًا في دراسة أجرتها جامعة ماريلاند أظهرت أنه الكاشف الآلي الوحيد الذي يتفوق على الخبراء البشريين المدربين في الكشف عن النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وفي ورقة بحثية أخرى صادرة عن جامعة هيوستن أثبتت أن "بانغرام" هو الكاشف الوحيد الذي يتمتع بمقاومة عالية للتأثيرات الناتجة عن الترجمة.

إن الدراسات البحثية القديمة التي يُستشهد بها عادةً، مثل دراسة ويبر-وولف الصادرة عام 2023 ودراسة ليانغ التي تثبت أن أجهزة الكشف التي تعتمد على الذكاء الاصطناعي تنطوي على تحيز ضد المتحدثين غير الناطقين باللغة الإنجليزية كلغة أم، لا تشمل "بانغرام" في معاييرها. فهذه الدراسات ليست قديمة فحسب، بل إننا أثبتنا أن "بانغرام" يتفوق في هذه المعايير، في حين أن أجهزة الكشف الأخرى لا تفعل ذلك.

لا تخشى Pangram أن تخضع لاختبارات الضغط من قِبل الباحثين، ولهذا السبب تتيح وصولاً مجانيًا غير محدود للباحثين الأكاديميين الراغبين في دراسة دقة كاشف الذكاء الاصطناعي الخاص بها.

الخرافة الرابعة: أجهزة الكشف عن المحتوى المزيف غير دقيقة.

كثيرًا ما يتواصل معي أشخاص يدّعون أن أعمالهم قد تم تصنيفها على أنها من إنتاج الذكاء الاصطناعي، رغم أنها كُتبت بواسطة البشر. للأسف، أعتقد أن هناك عدة أمور تجري هنا.

هناك من يعتقد أن أدوات الكشف عن المحتوى المُنتج بالذكاء الاصطناعي غير مجدية، لأن المؤلفين والمؤسسات يواصلون التأكيد على ذلك دون خجل ودون أدلة. خذ على سبيل المثال هذه المقالة التي تدعي أنه "حتى منتصف عام 2024، لم تتمكن أي خدمة كشف من تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل قاطع بمعدل أفضل من الصدفة العشوائية، ولا تربط جامعة ولاية إلينوي أي علاقة بأي من هذه الخدمات"، وهو ادعاء ملفق بالنظر إلى أن حتى أسوأ أجهزة الكشف عن الذكاء الاصطناعي لا تزال تكتشف بعض المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. تفتخر Pangram بمعدل إيجابي كاذب يبلغ 1/10,000، لأنه في تطويرها ومنهجيتها، والتي يمكن قراءتها في ورقتها البيضاء، هذه هي الأرقام الفعلية للكشف غير الصحيح الذي تراه، وهو أفضل بحوالي 100 مرة من أفضل برنامج تجاري متاح بعد ذلك.

لا يمكن لأي برنامج كشف أن يكون دقيقًا بنسبة 100٪. فهذا أمر مستحيل. تعد أدوات الكشف التي تعتمد على الذكاء الاصطناعي جيدة بشكل عام؛ لكن أداة Pangram أفضل. لا يوجد كشف للذكاء الاصطناعي بنسبة 100٪. إذا قمت بتشغيل نصين يدعيان أنهما من تأليف بشري عبر Pangram (أو أي كاشف آخر)، وتم الإبلاغ عن كليهما على أنهما من تأليف الذكاء الاصطناعي في حين أنهما ليسا كذلك، فإن الاحتمال الإحصائي لخطأ الكاشف أقل بشكل سخيف من احتمال أن يكون النص قد كُتب بالفعل بواسطة الذكاء الاصطناعي. هذه هي المشكلة التي تريد المدارس حلها - الثقة عند التأكيد على أن شيئًا ما كُتب بواسطة الذكاء الاصطناعي، في حين أنه لم يكن كذلك. مع Pangram، يمكننا أن نكون أكثر ثقة في أن النص كُتب بواسطة الذكاء الاصطناعي، مقارنة بشخص يدعي أنه لم يُكتب بواسطة الذكاء الاصطناعي.

الخرافة الخامسة: لا تكتشف أدوات الكشف عن الذكاء الاصطناعي أدوات المساعدة في الكتابة مثل Grammarly

هناك اعتقاد خاطئ بأن أدوات المساعدة التي تعتمد على الذكاء الاصطناعي التوليدي، مثل Grammarly، لن يتم اكتشافها. ربما يكون هذا صحيحًا مع أدوات الكشف الأخرى، لكن Pangram ستكتشف قدرًا كافيًا من المساعدة التي يقدمها الذكاء الاصطناعي التوليدي في الكتابة. وهذا يعني أن الورقة التي كتبتها هي من تأليفك بالفعل، لكنها تُعتبر مشبوهة باستخدام الذكاء الاصطناعي لأنك استخدمت قدرًا كبيرًا من الذكاء الاصطناعي لـ«تنقيحها». وأنا أرى هذا الأمر كثيرًا مع الطلاب.

لم يعد «Grammarly» مجرد أداة للتدقيق النحوي. بل أصبح أداة مساعدة قائمة بالكامل على الذكاء الاصطناعي، قادرة على إعادة كتابة مقالات الطلاب بالكامل باستخدام نموذج لغوي ضخم. وإذا استخدم الطالب «Grammarly» بهذه الطريقة، لتغيير بنية وأسلوب كتابته الأصلية بشكل جذري، فإن «Pangram» سيكتشف أن المقال قد تم إنشاؤه بواسطة الذكاء الاصطناعي.

ولهذا السبب، فإنني أشجع المعلمين بشدة على اعتماد سياسة خاصة بالذكاء الاصطناعي، مثل نظام المستويات الموجود على موقع Pangram الإلكتروني، حتى لا يكون هناك أي سوء فهم بشأن أنواع أدوات الذكاء الاصطناعي المسموح باستخدامها للمساعدة في عملية الكتابة، وما الذي يُعتبر سلوكًا غير لائق.

الخرافة السادسة: تسبب أدوات الكشف عن الذكاء الاصطناعي الضرر من خلال توجيه اتهامات باطلة ضد الطلاب الشرفاء.

غالبًا ما يقول منتقدو أنظمة الكشف عن الذكاء الاصطناعي إن اتهام الطلاب زورًا باستخدام الذكاء الاصطناعي يتسبب في أضرار لا يمكن إصلاحها ويضر بسمعة الطالب ومصداقية المعلم.

ومع ذلك، فإن «بانغرام» ليست أداة اتهامية في حد ذاتها.

من واقع خبرتي، غالبًا ما يكون اكتشاف استخدام الذكاء الاصطناعي في كتابة الطالب مجرد سوء فهم، أو ببساطة نتيجة لطالب حسن النية غمرته ضغوط الموعد النهائي. ولا يجب أن تكون المحادثة البسيطة بين المعلم والطالب ذات طابع تصادمي. نعتقد أن على المعلمين استغلال هذه الفرصة لفهم عملية الكتابة لدى الطالب: اسأل الطالب عن مدى فهمه للمواد الأساسية، واطلع على سجل المراجعات الخاصة بالطالب لتكوين فكرة عن كيفية تجميع الوثيقة، واطلب من الطالب توضيح ما إذا كان قد استخدم مساعدة الذكاء الاصطناعي في عملية التحرير وكيف استخدمها، بدلاً من القفز فورًا إلى استنتاج أن الطالب كان ينوي الغش.

غالبًا ما يقارن بانجرام أجهزة الكشف عن المحتوى المصطنع بأجهزة الكشف عن المعادن: فعندما ينطلق إنذار جهاز الكشف عن المعادن، لا يتم القبض عليك على الفور. بل إن الكشف عن وجود محتوى مشبوه هو سبب لبدء حوار إضافي والتوصل إلى فهم أعمق لما يجري بالفعل.

الخلاصة

من المهم - كما هو الحال مع أي أداة - أن يدرك المعلمون نقاط القوة والقيود التي تنطوي عليها تقنية الكشف عن المحتوى المكتوب آليًا.

على الرغم من أن أنظمة مثل «بانجرام» تتمتع بدقة فائقة في الكشف عن النصوص التي تولدها الذكاء الاصطناعي، إلا أن الأخطاء تحدث في حالات نادرة.

ولهذا السبب، من الضروري أن يضع المعلمون إرشادات وسياسات وحدودًا واضحة في فصولهم الدراسية بشأن نوع المساعدة المسموح بها من الذكاء الاصطناعي، ولماذا ينبغي التعامل بجدية مع حالات الكشف الإيجابية التي يكتشفها برنامج Pangram، مع ضرورة التعامل مع المحادثات المتعلقة باستخدام الذكاء الاصطناعي بتعاطف وفضول. ولا ينبغي أبدًا استخدام حالة الكشف الإيجابية التي يكتشفها برنامج Pangram بمفردها لمعاقبة طالب أو اتهامه بسوء السلوك الأكاديمي دون فهم أعمق لعملية الكتابة التي يتبعها الطالب.

هل ترغب في مواصلة الحوار؟ يسعد جيسون بالتحدث إليك وتقديم المزيد من الإرشادات حول وضع سياسة خاصة بالذكاء الاصطناعي لفصلك الدراسي. يمكنك التواصل معه عبر البريد الإلكتروني: jason@pangram.com.