تحضير شركتك لمواجهة تحديات LLM والذكاء الاصطناعي العام

يمكن القول إن «شخصية العام لعام 2023» هي الذكاء الاصطناعي. فقد فاجأتنا جميعًا سرعة الابتكار وقدرات نماذج اللغة الكبيرة (LLMs) والذكاء الاصطناعي التوليدي (GenAI) بشكل عام. وفي الوقت نفسه، يطرح الكثيرون، لا سيما على المنصات الإلكترونية، تساؤلات حول المخاطر المحتملة التي قد تنطوي عليها هذه التقنيات – انظر هذا المقال من مجلة «هارفارد بيزنس ريفيو» الذي يسلط الضوء على بعض مخاطر الذكاء الاصطناعي. قد تغمر المنصات الإلكترونية قريبًا محتوى مُنتج بواسطة الذكاء الاصطناعي، مما سيؤثر على سلامة مستخدميها واستبقائهم، فضلاً عن سمعة المنصات. وهناك بالفعل شركات ناشئة تقدم أدوات لتوليد ونشر كميات هائلة من محتوى الذكاء الاصطناعي التوليدي.

ولكن يمكن أيضًا استخدام الذكاء الاصطناعي والذكاء الاصطناعي العام لصالحنا من أجل إدارة هذه المخاطر ومساعدتنا في إنشاء مساحات رقمية ومنصات إلكترونية أكثر أمانًا، كما يتضح من بعض الأفكار التي طرحت في أحدث نسخة من "هاكاثون الثقة والأمان". ومع ظهور أدوات جديدة، فإن هذا هو الوقت المناسب لتقييم مدى تقدمنا فيما يتعلق بأحدث الابتكارات والعمليات الرامية إلى إدارة المخاطر التي تواجهها المنصات الإلكترونية بسبب الذكاء الاصطناعي العام.

يمكن أن تساعد هذه المقالة في الإجابة عن أسئلة مثل:

• كيف يمكننا حماية أعمالنا ومجتمعاتنا الإلكترونية ومستخدمينا على أفضل وجه من الكم الهائل من المحتوى الذي تولده الذكاء الاصطناعي (مثل التعليقات المزعجة والمحتوى غير القانوني الذي ينتهك حقوق النشر والقوانين الأخرى)؟
• هل يمكن الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؟
• في أي مرحلة من دورة حياة المحتوى الذي تولده الذكاء الاصطناعي يمكن استخدام إجراءات السلامة، وكيف؟
• كيف تتشكل اللوائح ذات الصلة في مختلف الأسواق، وماذا تعني بالنسبة لك؟

ضع سياسة خاصة بالذكاء الاصطناعي العام (GenAI) تراعي نموذج عملك واحتياجاتك

تحتاج كل شركة تعتمد على المحتوى الذي ينشئه المستخدمون إلى سياسة خاصة بالذكاء الاصطناعي العام (GenAI). وهناك سؤالان رئيسيان يجب الإجابة عليهما: هل يرغب المستخدمون في مشاهدة المحتوى الذي ينشئه الذكاء الاصطناعي؟ وهل يقبل المستخدمون بدمج المحتوى الذي ينشئه الذكاء الاصطناعي مع المحتوى البشري؟

إذا كانت إجابتك على أي من السؤالين هي «لا»، فأنت بحاجة إلى وضع سياسة تتعلق بالمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. على سبيل المثال، يمكن أن تشترط هذه السياسة الإفصاح عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو تحظره صراحةً. ويمكن تطبيق هذه السياسة من قِبل مشرفين بشريين يتمتعون باليقظة والانتباه، بالإضافة إلى عمليات فعالة باستخدام أدوات مثل Pangram Labs.

إذا كانت الإجابة «نعم» – أي أن المستخدمين لا يمانعون أو حتى متحمسون لرؤية محتوى مُنتج بواسطة الذكاء الاصطناعي – فهذا يعني أنك في مأمن من الناحية السياساتية. ومع ذلك، قبل المضي قدماً في إدخال أدوات الذكاء الاصطناعي مباشرةً، مثل الرسائل المدعومة بالذكاء الاصطناعي على LinkedIn، لا يزال عليك التأكد من أن المحتوى آمن. لهذا الغرض، تحتاج إلى بعض الضوابط، والأهم من ذلك، أن تضع دائمًا إجراءات لإدارة المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بفعالية وكفاءة، على غرار إدارة المحتوى الذي ينشئه المستخدمون، باستخدام أدوات مثل منصة الإدارة من Tremau.

وبطبيعة الحال، تعتمد سياستك المتعلقة بالذكاء الاصطناعي العام (GenAI) على طبيعة عملك والسياق الذي تعمل فيه. فلا توجد سياسة واحدة تناسب الجميع. على سبيل المثال، إذا كنت تدير سوقًا إلكترونيًا أو منصةً يعتمد فيها المستخدمون بشكل عام على تقييمات المستخدمين الآخرين، فقد تحتاج إلى التأكد من عدم وصول أي تقييمات تم إنشاؤها بواسطة الذكاء الاصطناعي إلى منصتك. وبشكل عام، تحتاج أيضًا إلى التأكد من عدم وجود أي محتوى غير قانوني تم إنشاؤه بواسطة الذكاء الاصطناعي، تمامًا مثل المحتوى الذي ينشئه المستخدمون، على منصتك. لطالما شكلت الروبوتات والبريد العشوائي تحديًا، ولكن مع قوة GenAI أصبحت أكثر قوة وأصعب في اكتشافها.

فهم قواعد الحماية الخاصة بالذكاء الاصطناعي والاستفادة منها

توفر معظم واجهات برمجة التطبيقات (API) التجارية الخاصة بالذكاء الاصطناعي نوعًا ما من الضوابط الوقائية. تقوم واجهة برمجة تطبيقات Gemini من Google تلقائيًا بتقييم مخرجاتها وفقًا لأربع فئات أمان: خطاب الكراهية، والتحرش، والمحتوى الجنسي الصريح، والمحتوى الخطير. إذا كنت تستخدم واجهة برمجة تطبيقات OpenAI من Azure، فستحصل على تقييمات مماثلة استنادًا إلى عوامل تصفية المحتوى "الكراهية والإنصاف"، والمحتوى الجنسي، والعنف، وإيذاء النفس. سترفض كلتا الواجهتين الاستعلامات التي تحصل على درجات عالية جدًا في أي من هذه الفئات، ولكنهما تتركان مستويات متوسطة من الإشراف على الأمان لتقديرك الخاص.

إذا كنت تستخدم نموذجًا مفتوح المصدر مثل Llama-2 أو Mistral، فستحتاج إلى تطوير مرشح المحتوى الخاص بك. ويمكن حل هذه المشكلة من خلال استدعاء منفصل لمصنف مغلق المصدر (واجهة برمجة تطبيقات مرشح المحتوى من OpenAI، أو واجهة برمجة تطبيقات أمان المحتوى بالذكاء الاصطناعي من Azure) أو حل مفتوح المصدر مثل LlamaGuard الذي أطلقته Meta مؤخرًا. LlamaGuard هو نموذج قائم على LLM ذو 7 مليارات معلمة ويحقق أداءً ممتازًا في الاختبارات المعيارية. ويُعد واعدًا في تصنيف المطالبات والاستجابات، فضلاً عن الإشراف العام على المحتوى.

تأكد من استمرار مشاركة البشر ومن أن عملياتك تتوافق مع اللوائح

بغض النظر عن الأدوات الآلية التي قد تستخدمها لحماية مستخدميك وشركتك، لا توجد تقنية قادرة على حمايتك بشكل كامل. فجميع أدوات الذكاء الاصطناعي التي تستخدمها ستقع دائمًا في أخطاء. وعليك التأكد من أن هذه الأخطاء لا تعرضك لمخاطر تشغيلية أو متعلقة بالعملاء أو تنظيمية.

أولاً، ستحتاج دائمًا إلى إشراك البشر في هذه العملية، حيث سيقومون على الأقل بمراجعة بعض المحتوى الذي قد تحدده الأدوات لهم للتحقق منه. وبطبيعة الحال، يجب أن تكون عمليات مراجعة المحتوى فعالة وكفؤة. ومن المفارقات أنه كلما زاد عدد أدوات الذكاء الاصطناعي المتاحة في السوق (مثل تلك المستخدمة في إنشاء المحتوى أو الإشراف عليه)، زاد عدد الأشخاص الذين قد تحتاج إلى إشراكهم في بعض الحالات.

ثانياً، يجب تصميم جميع عمليات وممارسات الإشراف على المحتوى مع مراعاة سلامة المستخدمين واستبقائهم – وبالتالي مصلحة العمل أيضاً. ماذا لو أثارت أخطاء الإشراف لديك مخاوف؟ كيف تضمن أن يكون للمستخدمين صوتًا عند الحاجة لتصحيح قراراتك – أو قرارات الذكاء الاصطناعي الخاص بك؟ كيف تضمن أن يكون لدى المشرفين كل ما يحتاجونه لاتخاذ أفضل قرارات الإشراف بأكبر قدر ممكن من الكفاءة والفعالية؟ تتطلب إدارة هذه التعقيدات، وغيرها، أن تفكر بعناية في عملياتك وتقوم بأتمتتها بشكل فعال، باستخدام أدوات مثل منصة الإشراف على المحتوى من Tremau على سبيل المثال.

وأخيرًا، سيكون عام 2024 هو العام الذي ستحتاج فيه حقًا إلى مضاعفة جهودك للتأكد من أنك لست من بين الشركات التي ستُغرَّم من قبل الهيئات التنظيمية. سيصبح «قانون الخدمات الرقمية» الصادر عن الاتحاد الأوروبي ساري المفعول على جميع المنصات الإلكترونية العاملة في أوروبا، وسيفرض عليك متطلبات لإعادة تصميم إجراءاتك وتقديم تقارير – مثل تقارير الشفافية – وإلا فستُغرَّم. وبالطبع، فإن الامتثال ضروري سواء كانت منصتك تتأثر بالذكاء الاصطناعي أو تستخدمه أم لا.

كيف يمكننا مساعدتك؟ نحن في Checkfor.ai وTremau نسعى لمساعدتك على التعامل بفعالية مع عالم الذكاء الاصطناعي المتطور واللوائح التنظيمية الجديدة.

لمزيد من المعلومات، يرجى الاتصال بنا عبر البريد الإلكتروني info@tremau.com أو عبر موقعنا info@pangram.com.

ثيودوروس إيفجينيو هو المؤسس المشارك والرئيس التنفيذي للابتكار في شركة «تريماو»، وأستاذ في معهد «إنسياد» (INSEAD)، وعضو في شبكة خبراء منظمة التعاون الاقتصادي والتنمية (OECD) المعنية بالذكاء الاصطناعي، ومستشار في معهد «بي سي جي هندرسون» (BCG Henderson Institute)، كما شغل منصب الشريك الأكاديمي في مجال الذكاء الاصطناعي في المنتدى الاقتصادي العالمي. وهو حاصل على أربع شهادات من معهد ماساتشوستس للتكنولوجيا (MIT)، بما في ذلك درجة الدكتوراه في مجال الذكاء الاصطناعي.

ماكس سبيرو هو أحد مؤسسي شركة Pangram Labs ورئيسها التنفيذي. عمل سابقًا كمهندس برمجيات في شركتي Google وNuro، حيث كان مسؤولاً عن إنشاء مسارات نقل البيانات وتدريب نماذج التعلم الآلي. وهو حاصل على درجتي البكالوريوس والماجستير في علوم الحاسوب من جامعة ستانفورد.

نُشر هذا المقال بالاشتراك مع " تريمو " في يناير 2024.