الإعلان عن شراكة جديدة مع Proofig! تعرف على المزيد

ماذا يحدث عندما يخطئ كاشف الذكاء الاصطناعي؟

ماكس سبيرو
15 مايو 2025

مع انتشار الذكاء الاصطناعي على نطاق واسع، يرغب المعلمون في معرفة ما إذا كان الطلاب يستخدمون الذكاء الاصطناعي لكتابة واجباتهم الدراسية. يبدو أن كاشف الذكاء الاصطناعي للمعلمين هو الحل الطبيعي، لكن الكثيرين يترددون في استخدامه. ماذا يحدث إذا أخطأ البرنامج؟

هذا القلق منطقي. حتى الآن، كانت أجهزة الكشف عن الذكاء الاصطناعي غير موثوقة إلى حد ما. فقد وجدت العديد من الدراسات أن هذه الأدوات غالبًا ما تفشل في التعرف على النصوص التي تم إنتاجها بواسطة الذكاء الاصطناعي، وأن الغشاشين المصممين يمكنهم التخلص منها عن طريق إدخال بعض التغييرات الطفيفة في الصياغة أو الأخطاء الإملائية. هذه النتائج السلبية الخاطئة مزعجة للغاية، لأنها تسمح لبعض النصوص التي تم إنتاجها بواسطة الكمبيوتر بالمرور دون أن يتم اكتشافها.

ولكن الأمر الأكثر إثارة للقلق هو ارتفاع معدل النتائج الإيجابية الخاطئة في أجهزة الكشف المبكر. تحدث هذه النتائج عندما يتم الإبلاغ عن نص كتبته بالفعل شخص ما على أنه من إنتاج الذكاء الاصطناعي، مما يؤدي إلى إجهاد وتأديب غير مبرر للطلاب الذين لم يرتكبوا أي خطأ، ومراقبة غير ضرورية من قبل المعلمين، وانهيار الثقة في المدرسة.

المشكلة حادة بشكل خاص بين الطلاب الذين لا يعتبر اللغة الإنجليزية لغتهم الأم. تظهر العديد من أدوات الكشف عن الذكاء الاصطناعي تحيزًا ضد المتحدثين غير الناطقين باللغة الإنجليزية. وجدت دراسة أجريت في عام 2023 من جامعة ستانفورد أن العديد من أدوات الكشف حددت بالإجماع (وبشكل خاطئ) أن 1 من كل 5 مقالات كتبها متحدثون غير ناطقين باللغة الإنجليزية هي مقالات تم إنشاؤها بواسطة الذكاء الاصطناعي. تم وضع علامة على جميع هذه المقالات بشكل خاطئ من قبل واحدة على الأقل من أدوات الكشف.

كم مرة تخطئ أجهزة الكشف عن الذكاء الاصطناعي؟

تعترف معظم أجهزة الكشف عن الذكاء الاصطناعي الشائعة بأنها ترتكب هذا النوع من الأخطاء بشكل متكرر. على سبيل المثال، تعلن TurnItIn عن معدل إيجابي خاطئ يبلغ حوالي 1 من كل 200، مما يعني أنه من بين كل 200 ورقة يراجعها المعلم، سيتم وضع علامة خاطئة على عمل أحد الطلاب الأصلي على أنه من إنتاج الذكاء الاصطناعي. تعلن أدوات أخرى عن معدلات إيجابية خاطئة تتراوح بين 1 من كل 500 و 1 من كل 100، في حين وجدت دراسات مستقلة أن الأرقام يمكن أن ترتفع أكثر من ذلك.

من ناحية أخرى، تبلغ نسبة الإيجابية الكاذبة في Pangram 1 من كل 10,000، وفقًا لاختبارات أجريت على عشرات الملايين من المستندات. ويتميز نموذجنا بموثوقية خاصة عندما يتعلق الأمر بنصوص تزيد عن بضع مئات من الكلمات مكتوبة بجمل كاملة، وهو بالضبط نوع الكتابة التي يقدمها الطلاب عادةً في المهام الكبيرة.

كيف يمكن للمعلمين معرفة ما إذا كان كاشف الذكاء الاصطناعي قد أخطأ في تحديد كتابات الطلاب؟

عندما يشير كاشف الذكاء الاصطناعي إلى أن جزءًا من النص تم إنشاؤه بواسطة الذكاء الاصطناعي، يكون لدى المعلم عدة خيارات للمساعدة في تأكيد النتيجة. أولاً، يجب عليه ببساطة أن يسأل الطالب عن استخدام الذكاء الاصطناعي، وأن يتعامل مع المحادثة بتواضع. إذا كانت النتيجة في الواقع خطأ، فقد يتمكن الطالب من إظهار دليل على عملية الكتابة، مثل سجل مراجعة قوي في Google Docs أو نسخ من المسودات الأولية. في هذه الحالة، يمكن للمعلمين الاعتراف بأنهم ربما عثروا على حالة نادرة جدًا من حالات الإيجابية الكاذبة. يجب أن يكون الطالب قادرًا أيضًا على مناقشة عملية الكتابة بالتفصيل. قد تسلط هذه المحادثة الضوء على فهم عميق للواجب المقدم، مما يشير إلى أن الطالب قد كتبها بنفسه بالفعل. من ناحية أخرى، قد تكشف أن الطالب استخدم الذكاء الاصطناعي بطريقة لم يدرك أنها خاطئة، مما يؤكد نتائج الكاشف.

إذا استمر الطالب في الإصرار على أنه لم يستخدم الذكاء الاصطناعي، ولكنه لا يستطيع تقديم دليل أو التحدث عن عمله بطريقة منطقية، فلا بأس من منحه حق الشك. بعد كل شيء، سيكون من المؤسف للغاية معاقبته على شيء لم يفعله. في هذه الحالة، يمكن للمدرسين توجيه الطلاب إلى الاحتفاظ بسجلات لعملية الكتابة في المستقبل، مما سيساعد في توضيح أي سوء فهم آخر. إذا كان الطالب يكذب عن علم بشأن استخدام الذكاء الاصطناعي، فمن المرجح أن يفكر مرتين قبل القيام بذلك في المستقبل. ولكن إذا استمرت أعماله في الظهور على كاشف الذكاء الاصطناعي الدقيق مثل Pangram، فربما حان الوقت لتصعيد الموقف. احتمالات حدوث خطأ واحد ضئيلة بالفعل؛ واحتمالات حدوث أخطاء متعددة ضئيلة للغاية.

اشترك في نشرتنا الإخبارية
نشارك تحديثات شهرية حول أبحاثنا في مجال الكشف عن الذكاء الاصطناعي.