KI-Inhalte sind in den sozialen Medien allgegenwärtig, insbesondere auf LinkedIn

Vor zwei Monaten haben wir unsere Chrome-Erweiterung eingeführt, um dem zunehmenden Problem der „Slop“-Inhalte in den sozialen Medien entgegenzuwirken. Mit ihr können Nutzer Beiträge in den sozialen Medien beim Scrollen überprüfen und KI-generierte Inhalte kennzeichnen, um fundierte Entscheidungen darüber zu treffen, womit sie ihre Aufmerksamkeit verbringen.

Pangram ist ein forschungsorientiertes Unternehmen – nicht nur wegen unserer branchenführenden KI-Erkennungsalgorithmen, sondern auch, weil wir das Risiko und die Verbreitung von KI-generierten Inhalten verfolgen. Soziale Medien gehören zu den am schwierigsten zu untersuchenden Bereichen – viel schwieriger als beispielsweise Nachrichtenartikel, Forschungsarbeiten oder Amazon-Rezensionen. Sie sind jedoch auch einer der wichtigsten Bereiche, da sie potenziell die umfangreichste Quelle für KI-generierte Inhalte darstellen, mit der wir es zu tun haben.

Wir halten es für wichtig, dieses Problem zu verstehen, damit wir es besser bekämpfen können. Aus diesem Grund haben wir in unsere Chrome-Erweiterung eine Opt-in-Einstellung integriert, damit Nutzer unsere Forschung unterstützen können, indem sie ihre Scan-Statistiken anonym an uns weitergeben. Die Daten der ersten Monate haben wir im folgenden Bericht zusammengefasst.

Wichtigste Ergebnisse:

• Jeder vierte Langbeitrag in den sozialen Medien wird als vollständig KI-generiert gekennzeichnet
• Von allen Beiträgen, die wir als KI-generiert gekennzeichnet haben, stammten zwei Drittel von LinkedIn
• Fast die Hälfte der Artikel auf X/Twitter stammte aus KI-Generierung

Von KI generierte Inhalte treffen vor allem den Bereich der Langformartikel am stärksten

KI-generierte Inhalte tauchten auf allen Social-Media-Plattformen in unserem Datensatz auf. Der durchschnittliche KI-Anteil aller untersuchten Beiträge lag bei 13,8 %, wobei die konkreten Anteile je nach Plattform und Länge der Beiträge variierten. Auf vier von fünf Plattformen waren längere Inhalte mit höherer Wahrscheinlichkeit KI-generiert als Kurzbeiträge. Über alle Plattformen hinweg war jeder vierte Langbeitrag (25,72 % der Beiträge mit mehr als 250 Wörtern) vollständig KI-generiert.

Substack bildete eine Ausnahme; dort blieb der Anteil vollständig KI-generierter Inhalte relativ konstant, und längere, gehaltvollere Beiträge wurden im Vergleich zu kürzeren sogar etwas seltener von einer KI erstellt.

LinkedIn war die Plattform mit dem höchsten KI-Anteil: Dort wurden mehr als 40 % der Langform-Beiträge als vollständig KI-generiert gekennzeichnet. Bezieht man jedoch gemischte Inhalte – also solche, die sowohl von KI als auch von Menschen erstellt wurden – mit ein, schnitt X/Twitter am schlechtesten ab: Fast die Hälfte der X-Artikel war entweder vollständig KI-generiert (23,9 %) oder KI-unterstützt bzw. gemischt(22,9 %), während nur 53,2 % der X-Artikel als vollständig von Menschen verfasst gekennzeichnet waren.

Unsere Daten zeigen, dass KI-generierte Inhalte auf allen Plattformen ein Problem darstellen und insbesondere Langform-Inhalte stark betreffen. Selbst bei Substack, der Langform-Plattform mit der niedrigsten Gesamt-KI-Rate, wurden immer noch mehr als ein Fünftel der Beiträge (21,9 %) als KI-generiert oder KI-unterstützt gekennzeichnet. Dies steht im Einklang mit dem Anstieg KI-generierter Inhalte, den wir auch in anderen Bereichen beobachten, beispielsweise in Meinungsbeiträgen in Zeitungen.

KI-Müll überschwemmt LinkedIn

LinkedIn wies über alle Bereiche hinweg den höchsten KI-Anteil aller Plattformen auf. Beiträge auf LinkedIn machten ein Drittel der untersuchten Einträge aus, entfielen jedoch auf fast zwei Drittel (62 %) aller von uns identifizierten KI-Inhalte. Entgegen der allgemeinen Erwartung sind die Menschen überwiegend bereit, KI einzusetzen, um in beruflichen Kontexten, die mit ihrer tatsächlichen Identität verbunden sind, in ihrem Namen zu sprechen, während sie weniger dazu neigen, KI auf informellen und anonymen Plattformen zu nutzen.

LinkedIn fördert den Einsatz von KI auf seiner Plattform zudem auf verschiedene Weise, unter anderem durch eine integrierte Schaltfläche „Mit KI schreiben“ (die nun in „Beitrag optimieren“ umbenannt wurde, aber weiterhin KI-Unterstützung beim Verfassen von Texten bietet). Die Nutzer nehmen den wachsenden Ruf von LinkedIn als Plattform für schlampige Inhalte zunehmend wahr – vielleicht um dem entgegenzuwirken, kündigte ein Führungskraft bei LinkedIn kürzlich an, dass die Plattform KI-generierte Beiträge mithilfe eines hauseigenen Algorithmus erkennen und in den Suchergebnissen herabstufen werde; ironischerweise war die Ankündigung selbst KI-generiert. Unabhängig davon, ob das Unternehmen versucht, den Einsatz von KI in seinem Feed zu regulieren oder nicht, sehen unsere Nutzer auf LinkedIn nach wie vor viele von KI verfasste Beiträge.

Beiträge auf der obersten Ebene wurden häufiger von KI generiert als Antworten

In unseren Daten wies Reddit das höchste Scan-Volumen aller Plattformen auf und machte 36,7 % der von uns gescannten Beiträge aus. Dennoch hatte Reddit mit nur 4,4 % einen der niedrigsten kombinierten KI-Anteile aller Plattformen. Dies ist auf einen Zusammensetzungseffekt zurückzuführen: Die Antworten auf Reddit stammten überwiegend von Menschen (98,1 %), und die Antworten machten insgesamt 72 % der von uns gescannten Reddit-Beiträge aus. Beiträge auf der obersten Ebene auf Reddit stammten mit 11,6 % deutlich häufiger von KI – was mit der KI-Sättigung von 10,0 % bei X/Twitter übereinstimmt. Das gleiche Muster zeigte sich auch auf LinkedIn, wenn auch in geringerem Maße: Ein Beitrag auf der obersten Ebene auf LinkedIn stammte mit 1,35-mal höherer Wahrscheinlichkeit von einer KI als ein Kommentar.

Zwar waren Antworten auf LinkedIn seltener KI-generiert als Beiträge, doch kehrt sich dieser Effekt um, wenn man die Länge berücksichtigt: LinkedIn-Kommentare stammten im Vergleich zu Beiträgen auf der obersten Ebene sogar etwas häufiger von einer KI. Bei Reddit war der Unterschied in der KI-Rate unabhängig vom Beitragsformat – unter Berücksichtigung der Länge war die Wahrscheinlichkeit, dass Reddit-Beiträge auf der obersten Ebene KI-generiert waren, immer noch 5,25-mal höher.

Die KI-freien Antworten auf Reddit weisen auf eine Schwachstelle vieler Strategien zur Bekämpfung von Bots hin. Zwar eliminiert die Spam-Richtlinie von Reddit zwar effektiv Konten, die KI zur automatischen Generierung von Spam-Antworten nutzen, doch dieser Ansatz erfasst nur die am wenigsten aufwendig erstellten Spam-Inhalte auf der Plattform. Reddit-Beiträge der obersten Ebene machen zwar nur ein Viertel aller Reddit-Beiträge aus, haben jedoch eine weitaus größere Wirkung auf das Publikum, und aufgrund ihres geringeren Volumens können KI-verfasste Beiträge volumensbasierte Moderationsmaßnahmen wie Ratenbegrenzungen umgehen.

Methodik und Datenerhebung

Insgesamt haben uns Nutzer, die sich seit der Einführung der Chrome-Erweiterung am 24. April 2026 bereit erklärt haben, ihre Daten für Forschungszwecke zur Verfügung zu stellen, dabei geholfen, einen Datensatz mit 1.002.627 Beiträgen auf mehreren der größten Social-Media-Plattformen im Internet zu erstellen: LinkedIn, Medium, Substack, X/Twitter und Reddit. Jeder Beitrag in unserem Datensatz wird nur einmal gezählt, und wir erfassen ausschließlich Beiträge, die länger als 50 Wörter sind. Jeder Beitrag wurde mit Pangram 3.3 analysiert, unserem neuesten KI-Erkennungsmodell, das eine Falsch-Positiv-Rate von 0,01 % erreicht. Dieser Datensatz ermöglicht uns einen direkten Einblick in die KI-generierten Inhalte, die Nutzer derzeit in ihren Feeds sehen.

Fazit

KI-generierte Texte sind mittlerweile überall in den sozialen Medien ein Problem. Das ist besorgniserregend, entspricht aber dem, was wir auch anderswo im Internet beobachten: Forscher schätzten, dass 35 % der neu veröffentlichten Websites im offenen Internet KI-generiert oder KI-unterstützt waren. Ein Internet, das vollständig mit nicht als KI-Inhalte gekennzeichneten Inhalten überflutet ist, ist eine düstere Perspektive, aber wir glauben nicht, dass dies unvermeidlich ist. Wir hoffen, dass wir den Internetnutzern durch Transparenz bei KI-generierten Inhalten im Internet wieder ein Stück Kontrolle darüber zurückgeben können, womit sie ihre Aufmerksamkeit verbringen.