لا، نماذج اللغة الكبيرة (LLMs) لا تقتصر على محاكاة النص البشري فحسب

يعتقد البعض أن الكشف عن الذكاء الاصطناعي أمر مستحيل لأن النماذج اللغوية الكبيرة (LLMs) يتم تدريبها على تقليد النص البشري، لكن هذا ليس صحيحًا. في الواقع، تكتب النماذج اللغوية الكبيرة بطريقة تختلف تمامًا عن طريقة كتابة البشر، وهذا ما يجعل الكشف عن الذكاء الاصطناعي أمرًا ممكنًا.

يكتب فريدي ديبور في مقاله المنشور على «Substack»:

"من أين تأتي أنماط [الكتابة بالذكاء الاصطناعي]؟ إنها تأتي من النصوص التي كتبها البشر والموجودة في مجموعات النصوص التدريبية المستخدمة لبناء نماذج اللغة الكبيرة (LLM). كل نمط نصي في نماذج اللغة الكبيرة — كل نمط نصي في نماذج اللغة الكبيرة — هو في نهاية المطاف نتاج إنتاج نصي بشري. وتكمن طبيعة نماذج اللغة الكبيرة ذاتها في محاكاة النص البشري استنادًا إلى النص البشري."

ويخلص إلى أنه من غير الممكن، بالتالي، تطوير أداة للكشف عن الذكاء الاصطناعي تتمتع بمعدل إيجابي كاذب منخفض للغاية، لأن هناك دائمًا احتمال أن يخطر ببال شخص ما النص نفسه الذي قد ينتجه نموذج اللغة الكبير (LLM) ويقوم بكتابته.

كثيرًا ما نسمع صيغًا مختلفة لهذا القول:

"تقوم نماذج اللغة الكبيرة (LLM) بأخذ عينات من توزيع الكتابة البشرية؛ ولذلك لا يمكنك اكتشاف النص الذي أنتجته نماذج اللغة الكبيرة لأن توزيع تدريب هذه النماذج هو توزيع بشري."

"يتم تدريب النماذج اللغوية الكبيرة (LLMs) على الكتابة كالبشر، لذا إذا كانت تؤدي وظيفتها على أكمل وجه، فإن النصوص التي تنتجها الذكاء الاصطناعي ستتغلب على أي أداة كشف."

تبدو هذه الحجج سليمة للوهلة الأولى، لكنها لا تأخذ في الاعتبار أن نماذج اللغة الكبيرة (LLMs) الحديثة هي أنظمة معقدة. فقد تم تدريب نماذج اللغة الكبيرة الحديثة على القيام بأكثر من مجرد محاكاة توزيع النص البشري. في هذه المدونة، سنتناول الأسباب التي تجعل نماذج اللغة الكبيرة الحديثة، مثل ChatGPT وClaude وGemini، تختلف عن توزيع النص البشري، وما الذي يمنحها أسلوبها وصوتها الفريدين اللذين يجعلان من الممكن تمييز كتاباتها.

ملخص: من المغري الاعتقاد بأنه نظراً لأن النماذج اللغوية الكبيرة (LLMs) يتم تدريبها على محاكاة النص البشري، فإن مخرجاتها ستصبح لا يمكن تمييزها عن الكتابة البشرية. لكن في الواقع، لا تكتفي النماذج اللغوية الكبيرة بمجرد تقريب النص البشري فحسب: بل يتم تدريبها لاحقاً لتصبح مساعدات مفيدة تتبع التعليمات، مما يقيد كتابتها بمجموعة ضيقة من الخيارات التي يمكن اكتشافها خوارزمياً.

في البداية: توقعات عملة «نيكست توكن»

بدأت قصة نماذج اللغة بنماذج الإكمال. وكانت هذه النماذج اللغوية المبكرة بسيطة: فقد تعلمت كيفية تسلسل الكلمات بشكل شائع من بعضها البعض من خلال مجموعة كبيرة من البيانات النصية. وبعد ذلك، كان المستخدم يزود نموذج الإكمال ببضع كلمات أولية، ومن ثم يتنبأ النموذج بالكلمة التالية الأكثر احتمالًا.

يتنبأ نموذج الإكمال بتوزيع احتمالي للرمز التالي

مصدر الصورة: AIML.com

في الخلفية، يستقبل نموذج الإكمال سلسلة أولية، أو بادئة، مثل «التعلم العميق هو...»، ثم يُنتج قائمة بالاحتمالات لما من المرجح أن يأتي بعدها. ويتم تجميع هذه الاحتمالات من جميع حالات الإكمال الموجودة في مجموعة بيانات تدريبية ضخمة جدًّا، تتألف في الغالب من بيانات الإنترنت. وكانت النتيجة نموذج احتمالي لجميع النصوص المكتوبة بواسطة البشر، وهو نموذج قادر على توقع الكلمات التي من المرجح أن تظهر بالترتيب الصحيح، استنادًا إلى التواتر الطبيعي للكلمات في مجموعة البيانات التدريبية.

وقد أدى ذلك إلى ظهور أول نماذج اللغة: GPT-1 وGPT-2 وGPT-3. ويُشار إلى هذه النماذج الآن باسم «النماذج الأساسية»: فهي تمثل التوزيعات الأولية للغة البشرية، لكن مخرجاتها أولية وغير مصقولة: فهي لا تتبع التعليمات، ولا تستطيع إجراء محادثة. اليوم، نسمي هذه المرحلة الأولية من تطوير نماذج اللغة «التدريب المسبق»، وهي ليست سوى المرحلة الأولى في صنع مساعد ذكاء اصطناعي أو روبوت دردشة — فهناك الكثير مما يحدث بعد ذلك.

من GPT إلى ChatGPT

متى انتقلنا من التوزيع الخام على الكلمات إلى القدرة على التحدث إلى نموذج لغوي كما لو كان شخصًا؟ للإجابة على هذا السؤال، علينا أن نعود إلى مارس 2022، عندما حدث أول تقدم كبير في تحويل النماذج اللغوية إلى مساعدين: InstructGPT، الذي أطلقته شركة OpenAI.

كان «InstructGPT» أول نموذج لغوي يتم تدريبه بشكل صريح ليس فقط على محاكاة اللغة البشرية، بل أيضًا على اتباع التعليمات التي يقدمها له المستخدم، والتي نطلق عليها الآن اسم «المطالبات».

الخطوات الثلاث التي تلي التدريب، كما وردت في ورقة البحث الخاصة بـ InstructGPT: الضبط الدقيق تحت الإشراف، وتدريب نموذج المكافأة، والتعلم المعزز

إليكم شكلًا مأخوذًا من الورقة البحثية الأصلية لـ InstructGPT. أظهرت الورقة البحثية الأصلية أنه يمكن تطبيق تقنية تُعرف باسم «التدريب اللاحق» لتخصيص نموذج أساسي — وهو GPT-3 في هذه الحالة — ليصبح مساعدًا مفيدًا قادرًا على اتباع التعليمات، وذلك من خلال تعديل أسلوب النموذج ليتخذ شخصية محددة.

تستعرض الورقة ثلاث خطوات:

1. يقدم الكُتّاب البشريون أمثلة على ما يعتبرونه ردودًا مقبولة من الذكاء الاصطناعي استجابةً لمدخلات المطالبة
2. طور باحثون في مجال الذكاء الاصطناعي نموذجًا للمكافأة يتعلم أيًّا من هذه الردود المقدمة يميل البشر إلى تفضيله
3. باستخدام نموذج المكافأة، يقوم باحثو الذكاء الاصطناعي بتدريب نموذج اللغة الكبير (LLM) بهدف تعظيم المكافأة على مدار مجموعة كبيرة من الردود التي يتم توليدها

وهذا يشبه «التكييف البافلوفي » في علم النفس! حيث يكافئ الباحثون النموذج على بعض المخرجات دون غيرها، وبالتكرار، يتعلم النموذج ربط شيء كان محايدًا في السابق — أي استجابة مخرجات يفضلها الإنسان — بقيمة إيجابية مستمدة من دالة المكافأة. وتُسمى هذه التقنية «ضبط التعليمات»، وهي التي تعيد تشكيل النموذج من نموذج أساسي إلى نموذج تعليمي: نموذج قادر على إجراء محادثة واتباع تعليمات المستخدم.

يمنع ضبط التعليمات نماذج اللغة من الخروج عن المسار الصحيح، أو نسيان المعلومات الأساسية الواردة في المطالبة، أو الانطلاق في اتجاهات جانبية غير منطقية. كما يمنح المطورين، مثل OpenAI وAnthropic، السيطرة على سلوك نماذجهم. على سبيل المثال، يجب أن ترفض النماذج إخبار المستخدم بكيفية صنع قنبلة أو سرقة بنك، حتى لو كان ذلك هو الرد الذي يرغب فيه المستخدم. وبدون التدريب اللاحق، لن يكون من الممكن تحقيق «مواءمة النموذج»، أي القدرة على جعل نماذج اللغة الكبيرة مفيدة وغير ضارة وآمنة. كانت شركة «أنثروبيك» رائدة في هذا النوع من تحديد سلوك النماذج من خلال ورقتها البحثية حول «الذكاء الاصطناعي الدستوري»، التي تصف كيفية استخدامها لتقنيات ما بعد التدريب لإنشاء ذكاء اصطناعي يتبع مجموعة من المبادئ الموضحة في دستور «أنثروبيك». وأخيرًا، من الناحية النظرية، يجعل ضبط التعليمات التفاعل مع النماذج أكثر متعة. ونظرًا لأن المُقيِّمين البشريين يكافئون النموذج على تقديم إجابات مرضية، يصبح النموذج أكثر ودية ويطور شخصية أفضل.

لا يوجد شيء مجاني: العواقب السلبية لفترة ما بعد التدريب

ليست النتائج بعد التدريب كلها إيجابية. فإعادة تشكيل المخرجات تؤثر بشكل كبير على سلوك النموذج، وتجعل أسلوبه في الكتابة مختلفًا تمامًا عن أسلوب النموذج الأساسي الأصلي.

التملق

قد يؤدي تحسين نموذج اللغة الكبير (LLM) وفقًا لتفضيلات البشر إلى جعل هذا النموذج يمنح الأولوية لإرضاء الناس على حساب الدقة. وإذا تم تجاوز الحدود في هذا الصدد، فسوف يعزز النموذج المعتقدات الخاطئة للمستخدم بدلاً من مناقضتها. وقد اندلعت ضجة كبيرة حول هذا النوع من السلوك المتملق للنموذج في أبريل 2025، عندما اعترفت شركة OpenAI بأن الإصدار الجديد من GPT-4o كان مفرطًا في الإطراء والتوافق، حتى على حساب مصلحة المستخدم.

فقدان الإبداع والتنوع في مخرجات الذكاء الاصطناعي

كما يؤدي التدريب اللاحق إلى انخفاض مستوى إبداع وتفرد ردود نماذج اللغة الكبيرة (LLM). ويفترض بعض الباحثين أن التدريب اللاحق يجعل نصوص نماذج اللغة الكبيرة تبدو رتيبة، أو مقتبسة، أو متشابهة، أو وكأنها نواتج رديئة للذكاء الاصطناعي.

تقارن ورقة بحثية صدرت عام 2024 بعنوان «الإبداع غادر الدردشة» (Creativity has Left the Chat) بين التنوع في نسختَي «إنستراكت» (instruct) و«بيس» (base) من نموذج الذكاء الاصطناعي «لاما 2» (Llama 2) التابع لشركة «ميتا» (Meta). ووجد الباحثون أن نموذج «إنستراكت» من «لاما 2» أظهر تنوعًا دلاليًّا وأسلوبيًّا أقل بكثير في مخرجاته؛ فعلى سبيل المثال، عند اختيار الشخصيات في القصص، كان نموذج «لاما 2» من نسخة «إنستراكت» يختار باستمرار شخصيات من نفس الأعمار والجنسيات وأنواع الشخصيات، بل وكان يمنحها نفس الأسماء. فيما يلي سحابة كلمات تضم الأسماء التي اختارها كل من النموذج الأساسي ونموذج «إنستركت».

سحب الكلمات التي تحتوي على الأسماء، التي تم إنشاؤها بواسطة النماذج الأساسية مقابل النماذج المُحاذاة، من مقال «الإبداع غادر الدردشة»

اللوغيتات المسطحة وانهيار الوسيط

وفي هذا السياق، يؤدي التدريب اللاحق إلى ما يُعرف بـ«اللوغيتات المسطحة»، حيث تختار نماذج اللغة الكبيرة (LLMs) التي خضعت للتدريب اللاحق كلمة واحدة محددة تالية بشكل حتمي، بدلاً من إنتاج توزيع متنوع للكلمات التالية المحتملة.

ورغم أن هذا الأمر قد لا يبدو سيئًا للوهلة الأولى، إلا أنه يؤدي إلى ما يُعرف بـ«انهيار النمط»، وهو ما يحدث عندما تتوقف النماذج اللغوية الكبيرة (LLMs) عن إنتاج مجموعة متنوعة وغنية من التعبيرات، وتكتفي بدلاً من ذلك بتكرار نفس الخيارات المحدودة مرارًا وتكرارًا.

انهيار الوضع مقابل تغطية الوضع: يركز النموذج المنهار الاحتمال على وضع واحد

فيما يلي توضيح مرئي لظاهرة «انهيار النمط»: في حال وجود ثلاث طرق شائعة بشكل عام للتعبير عن شيء ما، فإن نموذج اللغة الكبير (LLM) الذي يعاني من «انهيار النمط» سيتبنى بشكل افتراضي الطريقة الأكثر شيوعًا للتعبير عن ذلك، بدلاً من توزيع احتمالية التعبير على جميع الطرق الممكنة.

ما علاقة هذا بقدرة الكشف؟

إن حقيقة أن النماذج اللغوية الكبيرة (LLMs) يتم تدريبها بهذه الطريقة تنطوي على بعض الآثار المترتبة على عملية الكشف. ونظرًا لأن هذه النماذج مُحسَّنة لتلبية تفضيلات بشرية محددة، فإنها تميل إلى اكتساب شخصيات مميزة للغاية. وتتميز هذه الشخصيات بخصائص غريبة وعادات لا إرادية وسمات فريدة يمكن لنموذج الكشف تمييزها عن الكتابة البشرية. كما أن «تسطيح اللوجيتات» و«انهيار الوضع» يعنيان أيضًا أن نماذج اللغة الكبيرة المُحاذاة تميل إلى اتخاذ خيارات متسقة للغاية عند توليد النص، مما يعني أنه يمكننا معرفة ماهية تلك الخيارات من خلال دراسة كميات كبيرة من البيانات البشرية وبيانات الذكاء الاصطناعي.

بالإضافة إلى ذلك، ينتهي الأمر بالنماذج اللغوية الكبيرة (LLMs) المطورة في الوقت الحاضر إلى استيعاب مخرجاتها الخاصة على مدار فترة تدريبها، وذلك ببساطة بسبب التدهور المتزايد في جودة النصوص على الإنترنت. على سبيل المثال، اعتبارًا من أواخر عام 2024، يُنتج الذكاء الاصطناعي أكثر من ثلث المقالات الجديدة على الإنترنت؛ ويؤدي هذا الكم الهائل من النصوص التي يُنتجها الذكاء الاصطناعي إلى تأثير تضخيمي، حيث تتبنى النماذج الجديدة أيضًا سمات النماذج الأقدم التي أنتجت تلك النصوص، حتى عبر عائلات النماذج المختلفة. ولهذا السبب تُظهر العديد من نماذج اللغة الكبيرة (LLMs) أوجه تشابه في الأسلوب مع نموذج ChatGPT الأصلي، على الرغم من أنها صُنعت في مختبرات مختلفة تمامًا! وفي بعض الأحيان، يتم ذلك عن قصد: فهناك تكهنات واسعة النطاق بأن المختبرات الصينية تحاول «استخلاص» خصائص من نماذج أمريكية رائدة مثل Claude من خلال التدريب على مخرجاتها. وهذا يمنح نماذج اللغة هذه شخصية تشبه شخصية Claude!

هل ستظل نماذج اللغة الكبيرة (LLMs) قابلة للكشف بهذه السهولة دائمًا؟

يُعد فهم ظاهرة «انهيار الأوضاع» وحلها مجالًا نشطًا ومستمرًا من مجالات أبحاث الذكاء الاصطناعي. فهل ستتمكن النماذج اللغوية الكبيرة (LLMs) يومًا ما من إنتاج توزيعات مخرجات أكثر تنوعًا؟ أرى أن الإجابة هي «نعم»، بل إن هناك بالفعل بعض النماذج اللغوية التي تتمتع بتنوع كبير: في الواقع، لدينا هذه النماذج بالفعل في شكل نماذج أساسية!

ومع ذلك، فإن «التدريب اللاحق» كنموذج لن يزول. فالأسباب التي تجعل نماذج اللغة الكبيرة (LLMs) تتخذ خيارات متسقة ولديها تفضيلات محددة تعكس تفضيلات مطوريها. اسأل نموذج لغة صينية عما حدث في ميدان تيانانمن عام 1989 وستلاحظ على الفور تفضيلات ذلك المطور! الحقيقة هي أننا لا يمكننا الحصول على نماذج لغوية آمنة ومتوافقة تتصرف بطريقة مفيدة وغير ضارة دون التدريب اللاحق. في نهاية المطاف، تقوم شركات نماذج اللغة الكبيرة (LLM) بتطوير منتجات استهلاكية لها متطلبات سلوكية: فهناك بعض المجالات في الفضاء النصي البشري (مثل المحتوى السام والمعلومات المضللة، وما إلى ذلك) التي لا تريد شركات نماذج اللغة الكبيرة (LLM) أن تستمد نماذجها عينات منها. وأخيرًا، ترغب شركات النماذج اللغوية الكبيرة (LLM) أيضًا في تحسين نماذجها لتتمتع بشخصيات ممتعة — فكلما استمتع الناس أكثر بالتفاعل مع نماذجها، زادت احتمالية استخدامهم لنموذج معين وتجنبهم لنماذج المنافسين. ويمكنك أن ترى كيف تجلى ذلك في ردود فعل بعض معجبي GPT-4o على قرار OpenAI بإيقاف هذا النموذج.

تتجلى تفضيلات المطورين والبشر هذه في النهاية في النماذج من خلال تضييق نطاق الشخصية ومجال المخرجات لهذه النماذج اللغوية الكبيرة (LLMs) مقابل تحقيق التوافق، وتشكيل السلوك، وتحسين الشخصية. لذا، طالما استمر مطورو النماذج هؤلاء في اتخاذ تفضيلات وخيارات محددة بشأن سلوك النماذج، أعتقد أن «بانغرام» (Pangram) يجب أن تكون قادرة على اكتشاف مثل هذه التفضيلات بشكل مستمر.