بيان بشأن الأمر التنفيذي الصادر عن بايدن بشأن سلامة الذكاء الاصطناعي

ملاحظة: لقد غيرنا اسمنا إلى Pangram Labs! اقرأ منشورنا على المدونة لمزيد من التفاصيل.

أصدرت إدارة بايدن اليوم معايير جديدة تتعلق بسلامة وأمن الذكاء الاصطناعي، بما في ذلك هذا التوجيه بشأن كشف المحتوى الذي يستخدم الذكاء الاصطناعي:

ستضع وزارة التجارة إرشادات بشأن التحقق من صحة المحتوى ووضع العلامات المائية عليه، بهدف تمييز المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بوضوح. وستستخدم الوكالات الفيدرالية هذه الأدوات لتسهيل معرفة الأمريكيين بأن الرسائل التي يتلقونها من حكومتهم أصلية — ولتكون قدوة للقطاع الخاص والحكومات في جميع أنحاء العالم.

جو بايدن، من موقع ai.gov.

تؤيد Checkfor.ai تأييدًا تامًا التزام إدارة بايدن بالنشر الآمن والمسؤول لنماذج اللغة الضخمة. ونحن نعتقد أن وضع المبادئ التوجيهية والسياسات المتعلقة بالتحقق من صحة المحتوى الذي تولده الذكاء الاصطناعي يمثل خطوة مهمة في الاتجاه الصحيح نحو ضمان سلامة الذكاء الاصطناعي، كما أنه يتماشى مع مهمتنا المتمثلة في حماية الإنترنت من الرسائل غير المرغوب فيها والمحتويات الضارة الأخرى التي تولدها نماذج اللغة الضخمة. سيصبح العالم مكانًا أفضل، سواء بالنسبة للمستهلكين أو لمستخدمي تكنولوجيا الذكاء الاصطناعي، إذا استثمرنا كمجتمع بشكل أكبر في الكشف عن المحتوى الذي تولده الذكاء الاصطناعي. اليوم، نود أن نصدر بيانًا حول موقفنا كشركة بشأن مصادقة المحتوى ووضع العلامات المائية والكشف.

• نعتقد أنه لا توجد حالياً أي حلول للكشف كافية لحل المشكلة في الوقت الحالي، ويجب علينا تخصيص المزيد من الموارد لحل مشكلة الكشف عن الذكاء الاصطناعي على وجه التحديد.
• نعتقد أن وضع العلامات المائية ليس الحل لهذه المشكلة، لأنه يخلق إحساسًا زائفًا بالأمان، كما ثبت أن له حدودًا عندما يكون لدى المستخدم إمكانية الوصول إلى أوزان النموذج أو القدرة على تعديل النتائج (https://arxiv.org/pdf/2305.03807.pdf، https://arxiv.org/pdf/2301.10226.pdf). توجد بالفعل نماذج مفتوحة المصدر قوية وفعالة لا تحمل علامات مائية، وسيتمكن المخترقون دائمًا من ضبط نسخهم الخاصة من هذه النماذج محليًا لتفادي الكشف. علاوة على ذلك، نعتقد أن مشكلة الكشف قابلة للحل حتى في النماذج التي لا تحمل علامات مائية.
• نحن نؤيد وضع لوائح تنظيمية تتعلق بسلامة الذكاء الاصطناعي وتطوير نماذج اللغة الضخمة، بشرط أساسي هو أن تدعم جميع هذه اللوائح منظومة البرمجيات مفتوحة المصدر. فمفهوم البرمجيات مفتوحة المصدر يوفر ضوابط وتوازنات على الشركات التكنولوجية الكبرى ذات النفوذ، ويضمن الشفافية للمستهلكين، كما يتيح للجمهور حرية تقييم هذه النماذج وانتقادها ومقارنتها.
• نعتقد أن دور الحكومة في تعزيز سلامة الذكاء الاصطناعي والاستثمار في أبحاث الكشف عن الذكاء الاصطناعي ينبغي أن يركز على تمويل المشاريع الأكاديمية والصناعية في مجال الكشف عن الذكاء الاصطناعي.
• من أجل تعزيز فعالية الأبحاث في مجال الكشف عن الذكاء الاصطناعي، يتعين علينا وضع معايير مرجعية ومعايير تقييم، بحيث يمكن للمستهلكين التعرف على فعالية وحدود أدوات الكشف عن الذكاء الاصطناعي المتاحة. ونحن ملتزمون بتطوير المعايير الصناعية في مجال الكشف عن الذكاء الاصطناعي والمساهمة فيها، حتى يتسنى نشر نماذج لغوية أكبر وأكثر قوة بأمان ومسؤولية.

في Checkfor.ai، نبذل قصارى جهدنا لإنشاء أنظمة موثوقة للكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، بحيث يمكن نشر نماذج اللغة من الجيل التالي بأمان وكفاءة. ويسعدنا أن نرى التزام إدارة بايدن بالتمييز بين المحتوى الذي ينشئه البشر والمحتوى الذي ينشئه الذكاء الاصطناعي، ونتطلع إلى التعاون مع الباحثين وصانعي السياسات لتطوير هذه المعايير المهمة.