تتعاون شركتا «تريمو» و«بانجرام لابز» للتعامل مع المحتوى الذي تولده الذكاء الاصطناعي

مع اقترابنا من أكبر عام انتخابي في التاريخ، يعود التقاء التكنولوجيا والديمقراطية ليحتل مركز الصدارة مرة أخرى. ستجري أكثر من 50 دولة حول العالم، يبلغ مجموع سكانها حوالي 4.2 مليار نسمة، انتخابات وطنية وإقليمية في عام 2024، ومن بينها سبع من الدول العشر الأكثر اكتظاظًا بالسكان في العالم. ومع التقدم السريع للذكاء الاصطناعي التوليدي، الذي يتيح لأي شخص إنشاء صور أو مقاطع فيديو أو مقاطع صوتية أو نصوص واقعية بناءً على المطالبات التي يقدمها المستخدم، قد تواجه العمليات الانتخابية تحديات جديدة.

لقد حظيت الذكاء الاصطناعي التوليدي باهتمام كبير بفضل قدرته على التأثير في الرأي العام، وبالتالي التأثير على النقاشات والقرارات. بدءًا من مقاطع الفيديو المزيفة (ديب فايك) وصولاً إلى الحملات "الذكية" الموجهة التي يُنتجها الذكاء الاصطناعي على نطاق واسع، يمكن أن يشكل استخدام تقنيات الذكاء الاصطناعي التوليدي تهديدات كبيرة لسلامة العمليات الديمقراطية. ويمكن أن تتخذ هذه المخاطر أشكالاً متعددة، بما في ذلك محاولات اللحظة الأخيرة لثني الناس عن التصويت، أو اختلاق حدث يتضمن تصويراً مُصطنعاً لمرشح يصعب دحضه، أو نشر أخبار كاذبة موجهة.

ماذا يعني هذا بالنسبة للمنصات الإلكترونية؟ ببساطة: تجنب الأسئلة المحرجة المتعلقة بالمساءلة عن انتشار المحتوى المشكوك فيه الذي تولده الذكاء الاصطناعي على منصتك، لا سيما في مواجهة الفضائح المحتملة، وقم بتحسين عمليات الثقة والأمان لديك للتعامل مع التهديدات الجديدة المحتملة. تعمل Pangram Labs على تطوير أكثر طرق الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي دقةً لأتمتة عملية تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ومراقبته. وبالاقتران مع تقنيات "Human-in-the-Loop" التي تدعمها Tremau، فإن هذه عملية فعالة للتحكم في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ومراقبته قبل أن يهدد سلامة المنصة أو الانتخابات.

عندما أصدرت المفوضية الأوروبية لأول مرة اقتراحها بشأن قانون الذكاء الاصطناعي في أبريل 2021، لم يكن الذكاء الاصطناعي التوليدي يشكل بأي حال من الأحوال مصدر قلق ملحّ للجهات التنظيمية. لكن كل ذلك تغير مع التقدمات الحديثة في مجال الذكاء الاصطناعي، مثل GPT-4. ونتيجة لذلك، أدخل البرلمان الأوروبي تعديلات جوهرية على الاقتراح الأولي للمفوضية الأوروبية، ولا سيما بإدخال قواعد محددة تنطبق على أنظمة الذكاء الاصطناعي التوليدي (اقتراح البرلمان). يندرج الذكاء الاصطناعي التوليدي ضمن فئة"أنظمة الذكاء الاصطناعي للأغراض العامة"التي يجب أن تمتثل لمتطلبات الشفافية، بما في ذلك الإفصاح عن أن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي. يمكن تبسيط الوفاء بهذه الالتزامات التنظيمية من خلال منصة مراقبة المحتوى المتوافقة مع التصميم، مثل منصة المراقبة الخاصة بـ Tremau.

أدركت العديد من الشركات أن الاستعداد لمواجهة التحديات والمخاطر المرتبطة بالذكاء الاصطناعي لا يقتصر على الجانب التنظيمي فحسب. فالتطور السريع للذكاء الاصطناعي يطرح تحديات على سلامة العلامة التجارية وسلامة المنصة ؛ ولذلك، من الضروري أن تكون على دراية بالطرق التي يستخدم بها المخترقون محتوى الذكاء الاصطناعي في إرسال الرسائل غير المرغوب فيها ونشر المعلومات المضللة، وأن تستخدم الأدوات اللازمة لمنع وصوله إلى منصتك.

لهذه الأسباب جميعها، وفي إطار مهمتنا الرامية إلى بناء عالم رقمي آمن ومفيد للجميع، تعاونت شركتا Tremau وPangram Labs لتوفير خدمات الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والإفصاح عن استخدام الذكاء الاصطناعي في المحتوى الذي ينشئه المستخدمون. وبهذه الطريقة، يمكن للمنصات الحفاظ على امتثالها للقوانين وضمان مصداقية المحتوى الذي ينشئه المستخدمون.

كيف يمكننا مساعدتك؟

تعمل شركة Pangram Labs على تطوير أدوات لأتمتة عملية الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، بدءًا من النصوص والكلام.

تسعى Tremau إلى مساعدتك على التعامل بفعالية مع عالم الذكاء الاصطناعي المتطور واللوائح التنظيمية الجديدة. لمزيد من المعلومات، تفضل بزيارة tremau.com.

لمزيد من المعلومات، يرجى الاتصال بنا على info@pangram.com و info@tremau.com.