Jeden Tag werden 60.000 KI-generierte Nachrichtenartikel veröffentlicht

Übersicht

Die Nachrichtenbranche ist ein 150-Milliarden-Dollar-Geschäft, in dem Tausende von Reportern und Journalisten beschäftigt sind, um Nachrichtenartikel zu verfassen, die Milliarden von Aufrufen erzielen. Mit dem Aufkommen von KI und großen Sprachmodellen haben sich viele minderwertige Nachrichtenseiten sowie einige unseriöse Akteure auf KI gestützt, um Inhalte kostengünstig, schnell und in großem Umfang zu generieren. Da KI die Rolle eines Journalisten nicht ersetzen kann, sind diese Nachrichtenseiten darauf beschränkt, Informationen aus ihrem Trainingsdatenbestand zu wiederholen oder Artikel anderer Medien zu kopieren und umzuformulieren.

Es ist zudem erwiesen, dass unechte Inhalte bei Online-Nutzern weniger beliebt sind und seltener aufgerufen werden. In einem kürzlich erschienenen Blogbeitrag haben wir auf eine Studie von NP Digital verwiesen, die eindeutig ergab, dass Online-Leser von Menschen verfasste Artikel bevorzugen und ihnen den Vorzug geben. Konkret:

• Leser verbrachten 93 % mehr Zeit auf Seiten mit von Menschen verfassten Inhalten als auf Seiten mit ausschließlich KI-generierten Inhalten.
• Im Durchschnitt besuchten die Leser Artikel, die von Menschen verfasst wurden, 3,6-mal häufiger als solche, die von einer KI generiert wurden.

Diese KI-Publikationen dienen in erster Linie dazu, Besucherzahlen und potenzielle Werbeeinnahmen von authentischen Nachrichteninhalten abzuziehen, und sind Teil eines wachsenden Content-Farming-Geschäfts, das im vergangenen Jahr 2023 21 % der Werbeeinblendungen und mehr als 10 Milliarden US-Dollar für sich verbuchen konnte.

Da wir uns der Gefahr und des potenziellen Schadens bewusst waren, die durch die Zunahme gefälschter Nachrichten entstehen, wollten wir das tatsächliche Ausmaß dieses Problems quantifizieren. In Zusammenarbeit mit NewsCatcher haben wir eine Stichprobe der an einem bestimmten Tag weltweit veröffentlichten Nachrichten klassifiziert.

Versuchsaufbau

Zunächst haben wir eine Sammlung aller weltweit am 1. Juli 2024 veröffentlichten Nachrichten zusammengestellt.

Die API von NewsCatcher ist die umfassendste Quelle für täglich veröffentlichte weltweite Nachrichtenartikel mit über 75.000 Quellen und bedient große Unternehmen. Dank ihrer Technologie konnten wir den Volltext von Artikeln aus aller Welt abfragen – verfasst in verschiedenen Sprachen und zu einer breiten Palette von Themen.

Mithilfe von NewsCatcher haben wir alle an einem Tag veröffentlichten Nachrichten gesammelt; aus diesem Datenbestand haben wir 857.434 Artikel von 26.675 Online-Anbietern analysiert, die wir als repräsentative Auswahl der täglich veröffentlichten Nachrichten betrachten.

Erkennungsansatz

Nachdem wir die Artikel zusammengestellt hatten, ließen wir sie durch unseren „Pangram Text“-Klassifikator laufen, um festzustellen, welche Artikel von einer KI generiert wurden. „Pangram Text“ ist branchenführend in Bezug auf die Klassifizierungsgenauigkeit (über 30-mal genauer als die nächstplatzierte kommerzielle Lösung) und legt großen Wert auf eine geringe Falsch-Positiv-Rate. In unserem technischen Bericht zeigen wir, dass unsere Falsch-Positiv-Rate bei Nachrichten nur 0,001 % beträgt, was uns die Gewissheit gibt, dass es sich bei den von uns als KI-generiert identifizierten Nachrichten tatsächlich um solche handelt. Unsere Lösung nimmt in der Regel ein Dokument oder einen Textabschnitt entgegen und gibt eine Vorhersage darüber zurück, wie wahrscheinlich es ist, dass dieser von einem LLM generiert wurde. Bei einer Webseite müssten wir den Inhalt der Seite nachbearbeiten und bereinigen, um nur den Artikeltext zu isolieren, aber mithilfe der NewsCatcher-Lösung konnten wir den bereinigten Text direkt extrahieren und die Inferenz mit unserem Textklassifikator durchführen.

Verteilung unserer Vorhersagen auf einer logarithmischen Skala. Wir verwenden eine logarithmische Skala, um zu zeigen, dass Vorhersagen nahe 0 oder 1 100- bis 1000-mal häufiger vorkommen als Vorhersagen in der Mitte des Spektrums.

Anschließend haben wir die Verlage anhand der Gesamtzahl ihrer Artikel zusammengefasst und sie entsprechend der Aufschlüsselung ihrer gesamten KI-Inhalte in Gruppen eingeteilt. Das Einteilungsschema sieht wie folgt aus:

• Wenn bei einem Verlag weniger als 10 % der Artikel als KI-erstellt gekennzeichnet wären, würde dieser Verlag als von Menschen betriebener Verlag gelten
• Wenn bei einem Verlag zwischen 10 % und 50 % der Artikel als KI-Artikel gekennzeichnet wären, würde dieser Verlag als kleiner KI-Verlag gelten
• Wenn bei einem Verlag zwischen 50 % und 80 % der Artikel als KI-Artikel gekennzeichnet wären, würde dieser Verlag als bedeutender KI-Verlag gelten
• Wenn bei einem Verlag mehr als 80 % der Artikel als KI-erstellt gekennzeichnet wären, würde dieser Verlag als vollständig KI-gestützter Verlag gelten

Gesamtstatistiken

Bei der Untersuchung der gesamten Stichprobe haben wir Folgendes festgestellt:

59.653 Artikel wurden als KI klassifiziert, was 6,96 % des Artikelsatzes entspricht.

Die Aufschlüsselung der Online-Verlage

Verlage, sortiert nach der Menge der von ihnen veröffentlichten KI-Inhalte Anschließend haben wir die KI-Klassifizierungen anhand wichtiger Merkmale untersucht, darunter die Sprache, in der der Artikel verfasst wurde, das Land, in dem der Artikel veröffentlicht wurde, das Thema des Artikels sowie dessen besondere politische Relevanz.

Länder mit der höchsten Anzahl an KI-Artikeln (mindestens 100 Artikel)

Grafik zur Anzahl der KI-Artikel nach Land (Anteil an der Gesamtzahl der Nachrichtenartikel nach Land) Generell stellen wir fest, dass Ghana in Bezug auf KI-generierte Inhalte einen recht deutlichen Ausreißer darstellt. Auch wenn die Gesamtfrequenz geringer ist, ist Indien ebenfalls ein bedeutender Anbieter von KI-generierten Inhalten, was angesichts der Auswirkungen von Deepfakes auf die jüngsten Wahlen in Indien.

KI-Häufigkeit nach Thema

Grafik der nach Themen gegliederten KI-Artikel (Anteil an der Gesamtzahl der zu jedem Thema verfassten Nachrichtenartikel)

Wir stellen fest, dass Schönheit (gesponserte Artikel), Technik und Wirtschaft (Krypto-Betrug) besonders große Themenbereiche sind, über die Menschen KI-Artikel verfassen. Etwas überraschend ist, dass Politik bei KI-Artikeln tendenziell unterdurchschnittlich vertreten ist: Wir vermuten, dass dies daran liegt, dass Werbekunden politische Nachrichtenseiten aufgrund von Risiken für die Markensicherheit eher meiden, was den Anreiz für Publisher verringert, werbewirksame politische Inhalte zu produzieren.

Wie sehen „Nachrichten“ über KI aus?

Wir unterscheiden verschiedene Kategorien von KI-Nachrichtenartikeln: auf Werbung ausgerichtete Websites (MFAs), gesponserte Artikel, Betrug und Desinformation.

Für Werbezwecke

Eine Website, deren einziger Zweck darin besteht, Werbung anzuzeigen, anstatt echte Inhalte bereitzustellen, wird als „MFA“ bezeichnet – eine Website, die ausschließlich für Werbezwecke erstellt wurde. Hier ist ein Beispiel für eine MFA:

Eine Website, die ausschließlich für Werbezwecke erstellt wurde und voller Werbung ist

Wie wir sehen können, gibt es oberhalb der Falz der Website außer dem Titel keine eigentlichen Inhalte, und es gibt acht Display-Anzeigen, die um die Aufmerksamkeit des Nutzers buhlen. Der KI-generierte Inhalt darunter ist nicht wirklich zum Lesen gedacht: Er dient lediglich dazu, Besucher auf die Seite zu locken, um Werbeeinnahmen zu generieren, bevor die Nutzer in der Regel sofort wieder abspringen. Werbetreibende sind sich oft gar nicht bewusst, dass sie auf diesen Seiten werben: Die programmatische Natur der digitalen Werbung bedeutet, dass Gebote für diese Werbeflächen innerhalb von Millisekunden mithilfe automatisierter Bietalgorithmen gekauft und verkauft werden. Unternehmen wie Jounce Media helfen Werbetreibenden dabei, zu vermeiden, ihr Budget auf solchen Seiten zu verschwenden, und gehören zu einer Gruppe von Unternehmen, die als „Supply Chain Optimizers“ bezeichnet wird.

Jounce definiert drei wesentliche Merkmale eines MFA:

1. Bezahlter Traffic: Websites, die kaum oder gar keine organischen Besucher haben und auf Zugriffe über Clickbait-Anzeigen anderer Websites angewiesen sind.
2. Aggressive Monetarisierung: Durch eine hohe Anzeigenlast und sich schnell automatisch aktualisierende Platzierungen nutzen diese Publisher eine Arbitragemöglichkeit auf den Auktionsmärkten, allerdings auf Kosten einer negativen Nutzererfahrung.
3. Oberflächliche KPIs: Diese Websites schneiden bei „Vanity Metrics“ wie Sichtbarkeit und Video-Abschlussraten gut ab, doch Untersuchungen von Jounce zeigen, dass Anzeigen auf MFAs die Kaufentscheidungen der Käufer tatsächlich nicht beeinflussen.

Zusammenfassend lässt sich sagen, dass MFAs Websites mit seriösen Inhalten Werbetraffic wegnehmen, um Werbeflächen kostengünstig anzubieten. Sie liefern programmatischen Werbekampagnen nur oberflächliche Kennzahlen, ohne den Werbetreibenden tatsächlich nützliche Inhalte oder einen echten ROI zu bieten. Sie verschmutzen das Internet und sorgen für eine negative Nutzererfahrung für den durchschnittlichen Internetnutzer.

Zwar gibt es keine konkreten Kennzahlen dazu, was einen MFA ausmacht, doch schätzen wir, dass MFAs etwa 50 % der online verfügbaren, KI-generierten Inhalte ausmachen.

Bezahlte/gesponserte Inhalte

Manche Nachrichten im Internet werden als Werbemittel für ein Produkt gekauft, während sie sich als echte Inhalte ausgeben, die von einem Influencer oder einer seriösen Rezensionsplattform verfasst wurden. Uns ist aufgefallen, dass das Thema „Beauty“ zu den Themen mit der höchsten Häufigkeit an KI-generierten Inhalten gehört. Als wir uns die Daten genauer angesehen haben, stellten wir fest, dass es sich bei vielen der „Nachrichten“-Artikel zum Thema „Beauty“ schlichtweg um gesponserte Artikel wie diesen hier handelt:

Dieser gesponserte Inhalt von geringer Qualität wurde von einer KI verfasst

Viele Texter greifen einfach auf KI zurück, um diese minderwertigen gesponserten Artikel zu verfassen, da es ihnen lediglich darum geht, die Werbefläche zu verkaufen, anstatt eine authentische Rezension zu verfassen.

Betrugsmaschen

Krypto-Betrüger nutzen KI, um Inhalte in rascher Folge zu produzieren

Wir beobachten auch zahlreiche gewöhnliche Betrugsaktionen, die mit KI generiert wurden. Insbesondere Krypto-Betrugsversuche scheinen weit verbreitet zu sein und werden sogar auf seriösen Websites wie Medium beworben.

Desinformation

Eine Desinformationsseite mit KI-generierten Inhalten

Zwar stellen wir fest, dass der Einsatz von KI in politischen Nachrichten in der Regel weniger verbreitet ist (was zum großen Teil darauf zurückzuführen ist, dass viele Werbekunden politische Nachrichten aufgrund von Risiken für die Markensicherheit eher meiden), doch spielt KI eine immer größere Rolle bei Desinformationskampagnen. Newsguard verfügt über ein KI-Tracking-Center, das KI-gestützte Desinformation detailliert und aktuell nachverfolgt.

Im Gegensatz zu anderen Formen der Täuschung, bei denen böswillige Akteure KI einsetzen, geht es bei diesen Artikeln tatsächlich darum, die Menschen dazu zu bringen, den Inhalt zu lesen. In der Regel zielen diese Kampagnen darauf ab, die öffentliche Stimmung oder Meinung zu einem bestimmten Thema zu beeinflussen.

Da die US-Wahlen im November näher rücken, ist davon auszugehen, dass diese Art des Missbrauchs von KI weitergehen wird.

Zusammenfassung

• Schätzungsweise 7 % der weltweiten täglichen Nachrichten werden im Juli 2024 wahrscheinlich von KI generiert.
• Westafrika und Südasien bilden Ausreißer, was die Menge der veröffentlichten KI-Inhalte angeht.
• Die Bereiche Schönheit, Technik und Wirtschaft weisen den höchsten Anteil an KI-Inhalten auf, während Politik und Meinungsbeiträge den geringsten Anteil haben.
• KI-Inhalte werden meist mit böswilligen Absichten oder irreführendem Verhalten in Verbindung gebracht. MFAs versuchen, Werbetreibende dazu zu verleiten, zu glauben, dass minderwertige Werbeflächen tatsächlich Premium-Flächen seien. Gesponserte Inhalte sind nicht unbedingt irreführend, aber sie sind auch nicht wirklich authentisch und dürfen nicht mit einer echten Kundenbewertung verwechselt werden. Betrugsversuche und Desinformation stellen eine echte Bedrohung für Internetnutzer dar, und der potenzielle Schaden, den diese Websites anrichten, liegt auf der Hand.

Möchten Sie mehr über unsere Übersicht über KI-Inhalte im Internet oder unsere KI-Sperrliste für Werbetreibende erfahren? Kontaktieren Sie uns unter info@pangram.com!