يتم نشر 60 ألف مقال إخباري تم إنشاؤها بواسطة الذكاء الاصطناعي يوميًا

نظرة عامة

تُعد صناعة الأخبار صناعة تبلغ قيمتها 150 مليار دولار، وتوظف آلاف المراسلين والصحفيين لكتابة مقالات إخبارية تحظى بمليارات المشاهدات. ومع ظهور الذكاء الاصطناعي ونمو نماذج اللغات الضخمة، لجأت العديد من المواقع الإخبارية ذات الجودة المتدنية، وبعض الجهات ذات النوايا السيئة، إلى الذكاء الاصطناعي لإنتاج المحتوى بتكلفة منخفضة وبسرعة وعلى نطاق واسع. ونظرًا لأن الذكاء الاصطناعي لا يمكنه أن يحل محل دور الصحفي، فإن هذه المواقع الإخبارية تقتصر على تكرار المعلومات المستمدة من تدريبها أو سرقة مقالات وسائل إعلامية أخرى وإعادة صياغتها.

كما ثبت أن المحتوى غير الأصلي أقل جاذبية ويحظى بزيارات أقل من قراء الإنترنت. استشهدنا في منشور حديث على المدونة بدراسة أجرتها شركة NP Digital، والتي خلصت بشكل قاطع إلى أن قراء الإنترنت يفضلون المقالات التي يكتبها البشر ويولونها الأولوية. وعلى وجه التحديد:

• أمضى القراء وقتًا أطول بنسبة 93% على الصفحات التي تحتوي على محتوى كتبته أيدي بشرية مقارنةً بالمحتوى الذي تم إنشاؤه بالكامل بواسطة الذكاء الاصطناعي.
• كان القراء أكثر ميلاً بمعدل 3.6 أضعاف في المتوسط لزيارة المقالات التي كتبها البشر مقارنةً بتلك التي أنتجتها الذكاء الاصطناعي.

تُنشأ هذه المنشورات التي تعتمد على الذكاء الاصطناعي بهدف رئيسي هو سحب الزوار وإيرادات الإعلانات المحتملة بعيدًا عن المحتوى الإخباري الأصيل، وهي تُعد جزءًا من عملية متنامية لـ«زراعة المحتوى» استحوذت على 21% من مرات ظهور الإعلانات وأكثر من 10 مليارات دولار في العام الماضي، أي عام 2023.

وإدراكًا منا للخطر والأضرار المحتملة الناجمة عن انتشار الأخبار غير الموثوقة، أردنا تحديد الحجم الفعلي لهذه المشكلة. وقد تعاونا مع NewsCatcher لتصنيف عينة من الأخبار المنشورة عالميًا في يوم معين.

إعداد التجربة

بدأنا أولاً بتجميع مجموعة من جميع الأخبار العالمية التي نُشرت في 1 يوليو 2024.

تعد واجهة برمجة تطبيقات NewsCatcher المصدر الأكثر شمولاً للمقالات الإخبارية العالمية التي تُنشر يومياً، حيث تضم أكثر من 75,000 مصدر وتقدم خدماتها للمؤسسات الكبيرة. وقد مكنتنا تقنيتهم من البحث في النص الكامل للمقالات المنشورة من جميع أنحاء العالم - المكتوبة بلغات مختلفة وتغطي مجموعة واسعة من الموضوعات.

باستخدام NewsCatcher، قمنا بجمع جميع الأخبار التي نُشرت في يوم واحد؛ ومن هذه الكمية الهائلة من البيانات، قمنا بتحليل 857,434 مقالاً تم جمعها من 26,675 ناشرًا إلكترونيًا، وسنفترض أنها تمثل عينة ممثلة للأخبار اليومية المنشورة.

نهج الكشف

بعد جمع المقالات، قمنا بتشغيل مصنف "Pangram Text" الخاص بنا لتحديد المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. يُعدّ "Pangram Text" الرائد في مجال دقة التصنيف (أكثر دقة بأكثر من 30 ضعفًا من الحل التجاري الرائد التالي)، مع التزام قوي بتقليل حالات الإيجابية الكاذبة. في تقريرنا الفني، نُظهر أن معدل الإيجابية الكاذبة لدينا في الأخبار لا يتجاوز 0.001٪، مما يتيح لنا الثقة عند توقع أن تكون الأخبار من إنتاج الذكاء الاصطناعي. عادةً ما يستقبل حلنا مستندًا أو جزءًا من النص، ويقدم توقعات حول احتمالية أن يكون قد تم إنشاؤه بواسطة نموذج لغة كبير (LLM). بالنسبة لصفحة الويب، يتعين علينا إجراء بعض المعالجة اللاحقة وتنظيف محتوى الصفحة لعزل نص المقالة فقط، ولكن باستخدام حل NewsCatcher، تمكنا من استخراج النص المنظف مباشرةً وإجراء الاستدلال باستخدام مصنف النصوص الخاص بنا.

توزيع توقعاتنا على مقياس لوغاريتمي. نستخدم المقياس اللوغاريتمي لإظهار أن التوقعات القريبة من 0 أو 1 أكثر شيوعًا بمقدار 100 إلى 1000 مرة مقارنة بالتوقعات الواقعة في منتصف النطاق.

ثم قمنا بتصنيف الناشرين بناءً على مجموع مقالات كل منهم، وقمنا بتقسيمهم إلى فئات وفقًا لتوزيع محتوى الذكاء الاصطناعي الإجمالي الخاص بهم. وفيما يلي إطار العمل الخاص بالتقسيم إلى فئات:

• إذا كان أقل من 10% من مقالات أحد الناشرين مصنفة على أنها من إنتاج الذكاء الاصطناعي، فسيُعتبر هذا الناشر ناشرًا بشريًا
• إذا كان ما بين 10% و50% من مقالات أحد الناشرين مصنفة على أنها من إنتاج الذكاء الاصطناعي، فسيُعتبر هذا الناشر ناشرًا ثانويًا في مجال الذكاء الاصطناعي
• إذا كان ما بين 50% و80% من مقالات أحد الناشرين مصنفة على أنها من إنتاج الذكاء الاصطناعي، فسيُعتبر هذا الناشر ناشرًا رئيسيًا في مجال الذكاء الاصطناعي
• إذا كان أكثر من 80% من مقالات أحد الناشرين مصنفة على أنها من إنتاج الذكاء الاصطناعي، فسيُعتبر هذا الناشر ناشرًا يعتمد بالكامل على الذكاء الاصطناعي في إنتاج محتواه

إحصاءات إجمالية

من إجمالي المقالات التي شملتها العينة، وجدنا ما يلي:

تم تصنيف 59,653 مقالًا على أنها "AI"، وهو ما يمثل 6.96% من مجموعة المقالات.

توزيع الناشرين عبر الإنترنت

الناشرون مصنفون حسب حجم المحتوى الذي ينشرونه باستخدام الذكاء الاصطناعي ثم قمنا بدراسة تصنيفات الذكاء الاصطناعي بناءً على السمات الرئيسية، بما في ذلك اللغة التي كُتبت بها المقالة، والبلد الذي نُشرت فيه، والموضوع الذي تناولته، فضلاً عن أهميتها السياسية الخاصة.

البلدان التي سجلت أعلى معدل لعدد المقالات المتعلقة بالذكاء الاصطناعي (بحد أدنى 100 مقال)

رسم بياني لعدد المقالات المتعلقة بالذكاء الاصطناعي الصادرة حسب البلد (النسبة المئوية من إجمالي المقالات الإخبارية المكتوبة حسب البلد) نلاحظ بشكل عام أن غانا تمثل حالة شاذة إلى حد ما فيما يتعلق بالمحتوى الذي يُنتج بواسطة الذكاء الاصطناعي. ورغم أن معدل انتشاره الإجمالي أقل، فإن الهند تُعدّ أيضًا من أكبر ناشري المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي، وهو أمر لا ينبغي أن يكون مفاجئًا بالنظر إلى تأثير تقنية "ديب فايك" على الانتخابات الهندية الأخيرة.

توزيع الذكاء الاصطناعي حسب الموضوع

رسم بياني للمقالات المتعلقة بالذكاء الاصطناعي حسب الموضوع (النسبة المئوية من إجمالي المقالات الإخبارية المكتوبة حول كل موضوع)

نلاحظ أن مواضيع الجمال (المقالات المدعومة إعلانياً) والتكنولوجيا والأعمال (عمليات الاحتيال في مجال العملات المشفرة) هي من أكثر المواضيع شيوعاً التي يكتب الناس عنها في مقالات الذكاء الاصطناعي. ومن المفاجئ إلى حد ما أن موضوع السياسة يميل إلى أن يكون أقل من المتوسط فيما يتعلق بمقالات الذكاء الاصطناعي: ونعتقد أن السبب في ذلك هو أن المعلنين يميلون إلى تجنب مواقع الأخبار السياسية بسبب المخاطر التي تهدد سلامة العلامة التجارية، مما يقلل من حافز الناشرين على إنتاج محتوى سياسي مخصص للإعلانات.

كيف تبدو "الأخبار" التي تنتجها الذكاء الاصطناعي؟

نحدد عدة فئات من المقالات الإخبارية المتعلقة بالذكاء الاصطناعي: المواقع المصممة خصيصًا للإعلانات (MFAs)، والمقالات المدعومة، والاحتيال، والمعلومات المضللة.

مصمم للإعلانات

الموقع الذي يقتصر غرضه على عرض الإعلانات بدلاً من تقديم محتوى حقيقي يُسمى «MFA» — أي موقع مصمم خصيصاً للإعلانات. وإليك مثال على موقع MFA:

موقع مصمم خصيصًا للإعلانات ومليء بالإعلانات

كما نرى، في الجزء العلوي من الموقع الإلكتروني، لا يوجد محتوى فعلي سوى العنوان، وهناك 8 إعلانات مصورة تتنافس على جذب انتباه المستخدم. أما المحتوى الذي يظهر أسفل ذلك، والذي تم إنشاؤه بواسطة الذكاء الاصطناعي، فليس المقصود منه أن يُقرأ فعليًّا: إنه موجود فقط لجذب الزوار إلى الموقع بهدف جني عائدات الإعلانات قبل أن يغادر المستخدمون الموقع فورًا، كما هو معتاد. غالبًا ما لا يدرك المعلنون أنهم يعلنون على هذه المواقع: فالطبيعة البرمجية للإعلان الرقمي تعني أن العطاءات على هذه المساحات الإعلانية يتم شراؤها وبيعها في غضون أجزاء من الثانية باستخدام خوارزميات المزايدة الآلية. تساعد شركات مثل Jounce Media المعلنين على تجنب إهدار ميزانياتهم على مواقع مثل هذه، وهي جزء من مجموعة شركات تسمى "مُحسّنات سلسلة التوريد".

يحدد جونس ثلاث خصائص أساسية لبرنامج الماجستير في الفنون الجميلة:

1. الزيارات المدفوعة: المواقع التي لا تتمتع إلا بجمهور عضوي ضئيل أو لا تتمتع به على الإطلاق، وتعتمد على الزيارات الواردة من إعلانات "الصيد بالنقرات" من مواقع أخرى.
2. التحقيق المكثف للأرباح: من خلال زيادة كثافة الإعلانات ومواقع العرض التي تتجدد تلقائيًا بسرعة، يستغل هؤلاء الناشرون فرص المراجحة في أسواق المزايدة، ولكن على حساب تجربة مستخدم سيئة.
3. مؤشرات الأداء الرئيسية السطحية: تحقق هذه المواقع نتائج عالية في مؤشرات الأداء الزائفة مثل معدلات ظهور الإعلانات ومعدلات إكمال مشاهدة الفيديو، لكن أبحاث شركة Jounce تُظهر أن الإعلانات على مواقع MFAs لا تؤثر فعليًا على قرارات الشراء لدى المستهلكين.

باختصار، تقوم شركات إدارة الإعلانات (MFAs) بسرقة حركة المرور الإعلانية من المواقع ذات المحتوى الشرعي، بهدف توفير مساحات إعلانية بأسعار زهيدة. وهي تقدم مؤشرات زائفة لحملات الإعلانات الآلية، دون أن توفر في الواقع أي محتوى مفيد أو عائد حقيقي على الاستثمار للمعلنين. كما أنها تملأ شبكة الإنترنت وتخلق تجربة مستخدم سلبية للمستخدم العادي.

على الرغم من عدم وجود معيار محدد لتعريف "MFA"، فإننا نقدر أن محتوى "MFA" يشكل حوالي 50% من المحتوى الذي تولده الذكاء الاصطناعي على الإنترنت.

محتوى مدفوع/برعاية

يمكن شراء بعض الأخبار على الإنترنت كوسيلة للإعلان عن منتج ما، مع التظاهر بأنها محتوى حقيقي كتبها أحد المؤثرين أو منشور مراجعة موثوق. وقد لاحظنا أن موضوع التجميل كان من بين المواضيع التي تضم أعلى نسبة من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. وعندما قمنا بتحليل البيانات، وجدنا أن الكثير من المقالات "الإخبارية" ضمن موضوع التجميل هي مجرد مقالات مدعومة ماليًا مثل هذه:

كتبت الذكاء الاصطناعي هذا المحتوى الدعائي ذي الجودة المتدنية

يلجأ العديد من مؤلفي النصوص الإعلانية إلى استخدام الذكاء الاصطناعي لكتابة هذه المقالات الدعائية ذات الجودة المتدنية، لأن الهدف هو ببساطة بيع المساحة الإعلانية، وليس تقديم تقييم حقيقي.

عمليات الاحتيال

يستخدم محتالو العملات المشفرة الذكاء الاصطناعي لإنتاج المحتوى بوتيرة سريعة

كما نلاحظ وجود الكثير من حملات الاحتيال العادية التي يتم إنشاؤها باستخدام الذكاء الاصطناعي. وعلى وجه الخصوص، يبدو أن عمليات الاحتيال المتعلقة بالعملات المشفرة شائعة جدًا، بل إنها تُروَّج لها حتى على مواقع مرموقة مثل «ميديوم».

التضليل

موقع للتضليل مليء بمحتوى مُنتج بواسطة الذكاء الاصطناعي

على الرغم من أننا نلاحظ أن استخدام الذكاء الاصطناعي أقل انتشارًا في الأخبار السياسية (ويرجع ذلك في جزء كبير منه إلى أن العديد من المعلنين يميلون إلى تجنب الأخبار السياسية بسبب المخاطر التي تهدد سلامة العلامة التجارية)، إلا أن الذكاء الاصطناعي يمثل عنصرًا متناميًا في حملات التضليل. وتمتلك «نيوزغارد» مركزًا لتتبع الذكاء الاصطناعي يقدم تتبعًا مفصلاً ومُحدَّثًا لحالات التضليل التي تستخدم الذكاء الاصطناعي.

على عكس الأشكال الأخرى من الخداع التي نرى الجهات السيئة تستخدم الذكاء الاصطناعي من أجلها، فإن الهدف من هذه المقالات هو في الواقع حث الناس على قراءة المحتوى. وعادةً ما يكون الغرض من هذه الحملات هو تغيير مزاج الجمهور أو رأيه بشأن موضوع معين.

مع اقتراب موعد الانتخابات الأمريكية في نوفمبر، لا يسعنا إلا أن نتوقع استمرار هذا النوع من إساءة استخدام الذكاء الاصطناعي.

ملخص

• من المرجح أن يكون حوالي 7% من الأخبار اليومية في العالم، اعتبارًا من يوليو 2024، من إنتاج الذكاء الاصطناعي.
• تُعدّ غرب أفريقيا وجنوب آسيا حالتين استثنائيتين فيما يتعلق بحجم المحتوى المنشور في مجال الذكاء الاصطناعي.
• تستحوذ مجالات الجمال والتكنولوجيا والأعمال على النسبة الأكبر من محتوى الذكاء الاصطناعي، في حين تستحوذ السياسة والآراء على النسبة الأقل.
• غالبًا ما يرتبط المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي بنوع من النوايا السيئة أو السلوك الخادع. وتسعى مواقع "MFAs" إلى خداع المعلنين وجعلهم يعتقدون أن المساحات الإعلانية منخفضة الجودة هي في الواقع مساحات متميزة. أما المحتوى المدعوم، فهو ليس خادعًا بالضرورة، لكنه ليس أصيلًا حقًا ولا يمكن الخلط بينه وبين تقييمات المستهلكين الحقيقية. وتشكل عمليات الاحتيال والمعلومات المضللة تهديدًا حقيقيًا لمستخدمي الإنترنت، كما أن الضرر المحتمل الذي تسببه هذه المواقع واضح للعيان.

هل ترغب في معرفة المزيد عن خريطة محتوى الذكاء الاصطناعي على شبكة الإنترنت، أو قائمة الحظر الخاصة بنا للمعلنين؟ تواصل معنا عبر البريد الإلكتروني info@pangram.com!