فهم قانون الاتحاد الأوروبي الجديد المتعلق بالذكاء الاصطناعي

التقط الصورة أنجيل بينا.

في الأسبوع الماضي، أقر البرلمان الأوروبي «قانون الذكاء الاصطناعي » (AI Act)، وهو إطار عمل شامل يتعين على الدول الأعضاء في الاتحاد الأوروبي اتباعه في تنظيم منتجات وخدمات الذكاء الاصطناعي.

يهدف قانون الذكاء الاصطناعي إلى أن يكون بمثابة تشريع لحماية المستهلك، حيث يتبنى «نهجًا قائمًا على المخاطر» تجاه المنتجات أو الخدمات التي تستخدم الذكاء الاصطناعي - فكلما زادت مخاطر تطبيق الذكاء الاصطناعي، زاد التدقيق الذي يخضع له. وتنقسم مستويات المخاطر إلى فئات مختلفة، منها:

• ستُعتبر أنظمة الذكاء الاصطناعي التي تستخدم «تقنيات لا شعورية أو تلاعبية أو خادعة لتشويه السلوك وإعاقة اتخاذ القرارات المستنيرة»، أو التي تشكل «خطرًا واضحًا على حقوق الإنسان الأساسية»، «مخاطر غير مقبولة» وسيتم حظرها.
• سيتعين على أنظمة الذكاء الاصطناعي التي تُعتبر "عالية المخاطر"، مثل تلك المستخدمة في البنية التحتية الحيوية أو التعليم أو الرعاية الصحية أو إنفاذ القانون أو إدارة الحدود أو الانتخابات، الامتثال لمتطلبات صارمة.
• وستُعتبر أنظمة الذكاء الاصطناعي ذات الأغراض العامة التي لا تندرج ضمن فئات المخاطر العالية أنظمة ذات مخاطر محدودة، وتخضع لالتزامات شفافية أقل صرامة. وستُعتبر تطبيقات الذكاء الاصطناعي التوليدي أنظمة ذكاء اصطناعي ذات أغراض عامة.

سيُطلب من كل من المنتجين (مثل OpenAI وGoogle) والمستخدمين (الشركات التي تستخدم تلك التطبيقات) اجتياز اختبارات تتعلق بالدقة والشفافية، بحيث يكون المستخدمون النهائيون (المستهلكون) على دراية بأنهم يتعاملون مع الذكاء الاصطناعي. وتواجه الشركات التي لا تتمكن من الامتثال لهذه المتطلبات الجديدة غرامات تصل إلى 35 مليون يورو أو 7% من إيراداتها السنوية العالمية.

ماذا يعني ذلك بالنسبة للمنصات الإلكترونية؟

ستخضع أي شركة، بغض النظر عن مكان مقرها، لديها مستخدمون نهائيون في الاتحاد الأوروبي وتستخدم أنظمة الذكاء الاصطناعي في منتجاتها، لأحكام قانون الذكاء الاصطناعي. ورغم أن نطاق هذا القانون واسع ويحمل بعض الغموض، فمن الواضح أن المنصات الإلكترونية التي تستخدم أو تنشر محتوى متعلقًا بالذكاء الاصطناعي سيتعين عليها الامتثال لهذه الالتزامات التنظيمية الجديدة.

مع تزايد المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي على العديد من منصات المحتوى الذي ينشئه المستخدمون، من المرجح أن تضطر معظم المواقع الإلكترونية (مثل الناشرين، والأسواق الإلكترونية، ومواقع التواصل الاجتماعي) إلى وضع بعض ضوابط الشفافية والإشراف، بما في ذلك:

• الإفصاح عما إذا كان المحتوى الذي تم إنشاؤه أو نشره على المنصة قد تم إنتاجه بواسطة الذكاء الاصطناعي.
• تصميم المنصة بحيث ترفض المشاركات غير القانونية التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
• نشر ملخصات للبيانات المحمية بحقوق النشر والمستخدمة لتدريب النماذج الداخلية.

سيصبح وضع علامات على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وبالتالي الكشف عنه، أمراً إلزامياً إذا تم نشر هذا المحتوى على منصات المحتوى. وينطبق هذا على أي شكل من أشكال المحتوى - النصوص، والمقاطع الصوتية، والصور، ومقاطع الفيديو:

"يجب على مزودي أنظمة الذكاء الاصطناعي، بما في ذلك أنظمة الذكاء الاصطناعي ذات الأغراض العامة، التي تنتج محتوى صوتيًا أو صوريًا أو مرئيًا أو نصيًّا اصطناعيًا، ضمان أن تكون مخرجات نظام الذكاء الاصطناعي مميزة بصيغة قابلة للقراءة آليًّا ويمكن الكشف عنها على أنها مُنتجة أو مُعدلة اصطناعيًّا."

ورغم أننا نؤيد نية الاتحاد الأوروبي التشريعية الرامية إلى تعزيز أنظمة الذكاء الاصطناعي الآمنة، فإننا ندرك في الوقت نفسه أن تفسير هذا القانون والامتثال له قد يشكلان مصدر إرباك للشركات. فقد تبدو هذه الالتزامات غامضة إلى حد ما، ولا يحدد قانون الذكاء الاصطناعي بشكل دقيق ما إذا كانت أنواع المحتوى الثانوية (مثل تقييمات المستخدمين أو تعليقاتهم) خاضعة لهذه المتطلبات، أو ما هي إجراءات التحقق من الامتثال التي سيتعين على الشركات تطبيقها.

كيف يمكن للشركات أن تستبق أحداث قانون الذكاء الاصطناعي؟

والخبر السار هو أن الشركات سيكون لديها الوقت الكافي لوضع حلول تتيح لها الامتثال. ومن المتوقع أن يصبح مشروع القانون قانونًا ساري المفعول بحلول شهر مايو، وستدخل أحكامه حيز التنفيذ على مراحل، حيث لن تسري العديد من متطلبات الشفافية إلا بعد مرور عام من الآن.

ومع ذلك، نعتقد أن هناك بعض الإجراءات التي يمكن للشركات اتخاذها الآن لتفادي أي تطبيق للقانون. وعلى وجه الخصوص، ينبغي للشركات أن تسعى إلى تطوير:

• إرشادات واضحة وإطار حوكمة بشأن المحتوى الذي ينشئه المستخدمون.
• عمليات أكثر كفاءة لإدارة المحتوى من أجل تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
• آليات آلية لمنع انتشار المحتوى الذي تولده الذكاء الاصطناعي.

ونشهد بالفعل بعض الشركات تتخذ إجراءات في هذا الصدد - حيث تطلب بعض المنصات، مثل يوتيوب وإنستغرام، من المستخدمين الإبلاغ عن أنفسهم عند تحميل محتوى «واقعي» تم إنشاؤه بواسطة الذكاء الاصطناعي. ومن غير الواضح ما إذا كان «نظام الثقة» هذا سيكون كافياً للامتثال للقانون، لكن هذه إشارة قوية على أن قادة القطاع يأخذون هذا التشريع وسلامة الذكاء الاصطناعي على محمل الجد.

في Pangram Labs، نبذل قصارى جهدنا لتطوير أفضل أنظمة الكشف القائمة على الذكاء الاصطناعي، حتى تتمكن الشركات من تشغيل منصات إلكترونية آمنة ومسؤولة. ونشعر بالتفاؤل إزاء هدف الاتحاد الأوروبي المتمثل في تحقيق الشفافية على الإنترنت، ونتطلع إلى التعاون مع الباحثين وصانعي السياسات لتطوير هذه المعايير المهمة.

هل ترغب في التواصل معنا؟ أرسل لنا رسالة عبر البريد الإلكتروني على العنوان info@pangram.com!