Her gün 60.000 adet yapay zeka tarafından üretilen haber makalesi yayınlanıyor

Genel Bakış

Haber sektörü, milyarlarca kez görüntülenen haber makaleleri yazmak üzere binlerce muhabir ve gazeteciyi istihdam eden 150 milyar dolarlık bir sektördür. Yapay zeka ve büyük dil modellerinin yaygınlaşmasıyla birlikte, pek çok düşük kaliteli haber sitesi ve bazı kötü niyetli aktörler, içeriği ucuz, hızlı ve büyük ölçekte üretmek için yapay zekaya yönelmiştir. Yapay zeka bir gazetecinin rolünü üstlenemeyeceği için, bu haber siteleri ya kendi eğitim verilerindeki bilgileri tekrarlamakla ya da diğer yayın organlarının makalelerini çalıp yeniden ifade etmekle sınırlı kalmaktadır.

Gerçekçi olmayan içeriklerin, çevrimiçi okuyucular tarafından daha az tercih edildiği ve daha az ziyaret edildiği de kanıtlanmıştır. Yakın tarihli bir blog yazısında, NP Digital tarafından yürütülen ve çevrimiçi okuyucuların insan tarafından yazılmış makaleleri tercih edip öncelik verdiklerini kesin olarak ortaya koyan bir araştırmaya atıfta bulunmuştuk. Özellikle:

• Okuyucular, tamamen yapay zeka tarafından üretilen içeriğe kıyasla, insan tarafından yazılmış içeriğin bulunduğu sayfada %93 daha fazla zaman geçirdiler.
• Okuyucular, yapay zeka tarafından üretilen makalelere kıyasla insan tarafından yazılmış makaleleri ortalama olarak 3,6 kat daha fazla ziyaret etti.

Bu yapay zeka tabanlı yayınlar, esas olarak gerçek haber içeriklerinden trafik ve potansiyel reklam gelirini çekmek amacıyla kurulmuş olup, geçen yıl (2023) reklam gösterimlerinin %21’ini ve 10 milyar dolardan fazla geliri elde eden, giderek büyüyen bir içerik çiftçiliği operasyonunun parçası olarak işlev görüyor.

Sahte haberlerin bu kadar yaygınlaşmasının yarattığı tehdidi ve olası zararları göz önünde bulundurarak, bu sorunun gerçek boyutunu ölçmek istedik. NewsCatcher ile işbirliği yaparak, belirli bir günde dünya çapında yayınlanan haberlerden oluşan bir örneklem grubunu sınıflandırdık.

Deney Düzenlemesi

İlk olarak, 1 Temmuz 2024 tarihinde yayınlanan tüm dünya haberlerini bir araya getirdik.

NewsCatcher’ın API’si, 75.000’den fazla kaynakla günlük olarak yayınlanan küresel haber makalelerinin en kapsamlı kaynağıdır ve büyük kurumsal kuruluşlara hizmet vermektedir. Bu teknoloji sayesinde, dünyanın dört bir yanından yayınlanan, farklı dillerde yazılmış ve çok çeşitli konuları kapsayan makalelerin tam metinlerini sorgulayabildik.

NewsCatcher'ı kullanarak bir gün içinde yayınlanan tüm haberleri topladık; bu veri yığınından, 26.675 çevrimiçi yayıncıdan derlenen 857.434 makaleyi analiz ettik; bu makaleleri, günlük yayınlanan haberlerin temsili bir kümesi olarak kabul edeceğiz.

Tespit Yöntemi

Makaleleri topladıktan sonra, hangilerinin yapay zeka tarafından üretildiğini belirlemek için Pangram Text sınıflandırıcımızı çalıştırdık. Pangram Text, sınıflandırma doğruluğu konusunda sektör lideridir (bir sonraki en önde gelen ticari çözümden 30 kat daha doğrudur) ve yanlış pozitif oranını düşük tutmaya büyük önem vermektedir. Teknik raporumuzda, haberlerdeki yanlış pozitif oranımızın yalnızca %0,001 olduğunu gösteriyoruz; bu da bir haberin yapay zeka tarafından üretildiğini öngördüğümüzde, bunun gerçekten öyle olduğuna güvenmemizi sağlıyor. Çözümümüz genellikle bir belgeyi veya metin parçasını alır ve bunun bir LLM tarafından üretilme olasılığına dair bir tahmin döndürür. Bir web sayfası için, sadece makale metnini ayırmak üzere sayfanın içeriğinde bazı son işlemler ve temizleme işlemleri yapmamız gerekirdi, ancak NewsCatcher çözümünü kullanarak temizlenmiş metni doğrudan alabilmiş ve metin sınıflandırıcımızla çıkarım yapabilmişizdir.

Tahminlerimizin logaritmik ölçekte dağılımı. Logaritmik ölçek kullanarak, 0 veya 1'e yakın tahminlerin, dağılımın ortasındaki tahminlere kıyasla 100 ila 1000 kat daha yaygın olduğunu gösteriyoruz.

Ardından yayıncıları, toplam makale sayılarının toplamına göre sınıflandırdık ve toplam yapay zeka içeriklerinin dağılımına göre gruplara ayırdık. Gruplandırma şeması şu şekildedir:

• Bir yayıncının makalelerinin %10'undan azı AI olarak etiketlenmişse, o yayıncı insan yayıncı olarak kabul edilir
• Bir yayıncının makalelerinin %10 ile %50'si arasında bir kısmı yapay zeka tarafından yazılmış olarak etiketlenmişse, o yayıncı küçük ölçekli bir yapay zeka yayıncısı olarak kabul edilir
• Bir yayıncının makalelerinin %50 ile %80'i arasında bir kısmı "AI" olarak etiketlenmişse, o yayıncı büyük bir AI yayıncısı olarak kabul edilir
• Bir yayıncının makalelerinin %80’inden fazlası “AI” olarak etiketlenmişse, o yayıncı tamamen yapay zeka tarafından üretilen içerik yayınlayan bir yayıncı olarak kabul edilir

Toplam İstatistikler

Örneklemdeki toplam makalelerden şu sonuçlara ulaştık:

59.653 makale AI olarak sınıflandırıldı; bu, makale kümesinin %6,96'sını oluşturuyor.

Çevrimiçi yayıncıların dağılımı

Yayıncılar, yayınladıkları yapay zeka içeriğinin miktarına göre sıralanmıştır Ardından, makalenin yazıldığı dil, yayınlandığı ülke ve ele aldığı konu gibi temel özelliklerin yanı sıra özel siyasi önemi de dahil olmak üzere, yapay zeka sınıflandırmalarını inceledik.

Yapay zeka ile ilgili makale sayısının en fazla olduğu ülkeler (en az 100 makale)

Ülkelere göre yayınlanan yapay zeka makalelerinin grafiği (ülkelere göre yazılan toplam haber makalelerinin yüzdesi) Genel olarak, Gana'nın yapay zeka tarafından üretilen içerik açısından oldukça belirgin bir istisna olduğunu görüyoruz. Genel sıklık daha düşük olsa da, Hindistan da yapay zeka tarafından üretilen içeriklerin önemli bir yayıncısıdır; bu durum, Deepfake'lerin son Hindistan seçimleri üzerindeki etkisi.

Konuya Göre AI Sıklığı

Konuya göre yayınlanan yapay zeka haberlerinin grafiği (her bir konu hakkında yazılan toplam haberlerin yüzdesi)

Güzellik (sponsorlu içerikler), teknoloji ve iş dünyası (kripto dolandırıcılığı) konularının, insanların yapay zeka üzerine yazdıkları makalelerde özellikle sıkça işlendiğini görüyoruz. Biraz şaşırtıcı bir şekilde, yapay zeka makaleleri söz konusu olduğunda siyaset konusu ortalamanın altında kalıyor: Bunun nedeninin, reklamverenlerin marka güvenliği riskleri nedeniyle siyasi haber sitelerinden uzak durma eğiliminde olmaları ve bu durumun da yayıncıların reklam amaçlı siyasi içerik üretme istekliliğini azaltması olduğunu düşünüyoruz.

Yapay zeka “haberleri” neye benziyor?

Yapay zeka ile ilgili haber makalelerini birkaç kategoriye ayırıyoruz: reklam amaçlı siteler (MFA’lar), sponsorlu makaleler, dolandırıcılık ve dezenformasyon.

Reklam Amaçlı

Meşru içerik sunmak yerine tek amacı reklam göstermek olan bir siteye “MFA” (reklam amaçlı site) denir. İşte bir MFA örneği:

Reklamlarla dolu, reklam amaçlı bir site

Görüldüğü üzere, web sitesinin ekranın üst kısmında başlık dışında gerçek bir içerik bulunmuyor ve kullanıcının dikkatini çekmek için birbiriyle yarışan 8 adet görüntülü reklam yer alıyor. Aşağıdaki yapay zeka tarafından oluşturulan içerik aslında okunmak üzere tasarlanmamış: bu içerik, kullanıcılar genellikle hemen sayfadan ayrılmadan önce reklam gelirini artırmak amacıyla ziyaretçileri siteye çekmek için orada bulunuyor. Reklamverenler genellikle bu sitelerde reklam verdiklerinin farkında bile değildir: dijital reklamcılığın programatik yapısı, bu reklam alanları için tekliflerin otomatik teklif algoritmaları kullanılarak milisaniyeler içinde alınıp satıldığı anlamına gelir. Jounce Media gibi şirketler, reklamverenlerin bu tür sitelerde bütçelerini boşa harcamalarını önlemeye yardımcı olur ve "Tedarik Zinciri Optimize Ediciler" adlı bir şirketler grubunun parçasıdır.

Jounce, bir MFA'nın üç temel özelliğini şöyle tanımlamaktadır:

1. Ücretli Trafik: Organik ziyaretçi kitlesi çok az olan ya da hiç olmayan ve diğer sitelerden gelen tıklama tuzağı reklamlara dayalı ziyaretlere bağımlı olan siteler.
2. Aşırı Para Kazanma: Yüksek reklam yükü ve hızla otomatik olarak yenilenen reklam yerleşimleri sayesinde, bu yayıncılar açık artırma pazarlarında bir arbitraj fırsatı yakalıyor; ancak bunun bedeli, kullanıcılar için rahatsız edici bir deneyim oluyor.
3. Yüzeysel KPI’lar: Bu siteler, görünürlük ve video izleme tamamlanma oranları gibi göstermelik metriklerde yüksek puanlar alıyor; ancak Jounce’un araştırması, MFA’lardaki reklamların alıcıların satın alma kararlarını aslında etkilemediğini ortaya koyuyor.

Özetle, MFAs, reklam alanı arzını ucuza sunabilmek için meşru içeriğe sahip sitelerin reklam trafiğini çalıyor. Reklamverenlere hiçbir yararlı içerik veya gerçek bir yatırım getirisi sağlamadan, programatik reklam kampanyalarına sadece göstermelik istatistikler sunuyorlar. İnterneti çöplüğe çeviriyorlar ve sıradan internet kullanıcısı için olumsuz bir deneyim yaratıyorlar.

MFA'yı tanımlayan somut bir ölçüt bulunmamakla birlikte, çevrimiçi ortamda yapay zeka tarafından üretilen içeriğin yaklaşık %50'sini MFA'ların oluşturduğunu tahmin ediyoruz.

Ücretli/Sponsorlu İçerik

İnternetteki bazı haberler, bir ürünün reklamını yapmak amacıyla satın alınabilir; bu haberler, bir influencer ya da saygın bir inceleme yayını tarafından yazılmış gerçek içerikmiş gibi görünür. Güzellik konusunun, yapay zeka tarafından üretilen içeriklerin en sık görüldüğü başlıklardan biri olduğunu fark ettik. Verileri incelediğimizde, güzellik başlığı altındaki “haber” makalelerinin çoğunun, tıpkı bu makale gibi, sadece sponsorlu makaleler olduğunu gördük:

Bu düşük kaliteli sponsorlu içerik bir yapay zeka tarafından yazılmıştır

Birçok metin yazarı, bu düşük kaliteli sponsorlu makaleleri yazmak için yapay zekaya başvuruyor; zira amaç, gerçekçi bir inceleme hazırlamak değil, sadece reklam alanını satmak.

Dolandırıcılık

Kripto dolandırıcıları, yapay zeka kullanarak yüksek hızda içerik üretiyor

Ayrıca, yapay zeka ile oluşturulan pek çok sıradan dolandırıcılık kampanyası da gözlemliyoruz. Özellikle kripto para dolandırıcılıkları oldukça yaygın görünüyor ve hatta Medium gibi saygın sitelerde bile tanıtılıyor.

Yanlış bilgi

Yapay zeka ile üretilmiş içeriklerle dolu bir dezenformasyon sitesi

Siyasi haberlerde yapay zeka kullanımının genellikle daha az yaygın olduğunu görsek de (bunun büyük bir kısmı, birçok reklamverenin marka güvenliği riski nedeniyle siyasi haberlerden kaçınma eğiliminde olmasından kaynaklanmaktadır), yapay zeka dezenformasyon kampanyalarının giderek artan bir bileşeni haline gelmektedir. Newsguard, yapay zeka destekli dezenformasyonu ayrıntılı ve güncel bir şekilde takip eden bir yapay zeka izleme merkezine sahiptir.

Kötü niyetli kişilerin yapay zekayı kullandığı diğer aldatma yöntemlerinden farklı olarak, bu makalelerin asıl amacı insanların içeriği okumasını sağlamaktır. Genellikle bu kampanyaların amacı, belirli bir konu hakkındaki kamuoyunun duyarlılığını veya görüşünü değiştirmektir.

Kasım ayında yapılacak ABD seçimleri yaklaşırken, bu tür yapay zeka suistimallerinin devam edeceğini öngörebiliriz.

Özet

• Temmuz 2024 itibarıyla dünyadaki günlük haberlerin yaklaşık %7'si yapay zeka tarafından üretiliyor olabilir.
• Yayınlanan yapay zeka içeriği miktarı açısından Batı Afrika ve Güney Asya istisnai durumlar oluşturmaktadır.
• Güzellik, teknoloji ve iş dünyası alanlarında yapay zeka içeriğinin oranı en yüksekken, siyaset ve görüş alanlarında bu oran en düşük seviyededir.
• AI ile üretilen içerikler genellikle kötü niyetli veya aldatıcı davranışlarla ilişkilendirilir. MFAs, reklamverenleri düşük kaliteli reklam alanlarının aslında birinci sınıf olduğuna inandırmaya çalışır. Sponsorlu içerikler her zaman aldatıcı değildir, ancak aynı zamanda tamamen gerçek de değildir ve gerçek bir tüketici yorumu ile karıştırılamaz. Dolandırıcılık ve dezenformasyon, internet kullanıcılarını ciddi şekilde tehdit eder ve bu sitelerin yol açabileceği potansiyel zarar ortadadır.

İnternet üzerindeki yapay zeka içerik haritamız veya reklamverenler için hazırladığımız yapay zeka engelleme listemiz hakkında daha fazla bilgi edinmek ister misiniz? info@pangram.com adresinden bize ulaşın!