Warum Perplexität und Burstiness bei der Erkennung von KI versagen

Wenn man online nach der Funktionsweise von KI-Detektoren sucht, stößt man in der Regel auf zahlreiche Quellen, die die Begriffe „Perplexity“ und „Burstiness“ verwenden. Was bedeuten diese Begriffe, und warum funktionieren sie letztendlich nicht bei der Erkennung von KI-generierten Inhalten? Heute möchte ich erläutern, was Perplexity und Burstiness sind, und erklären, warum sie für die Erkennung von KI-generierten Texten ungeeignet sind. Wir werden uns auch damit befassen, warum sie nicht funktionieren, warum Detektoren, die auf Perplexity und Burstiness basieren, die Unabhängigkeitserklärung fälschlicherweise als KI-generiert einstufen und warum diese Detektoren zudem gegenüber Nicht-Muttersprachlern voreingenommen sind. Los geht’s!

Was sind Perplexity und Burstiness?

Wir beginnen mit einer ungenauen, nicht-technischen Definition von Perplexität, um zunächst einmal ein allgemeines Verständnis davon zu bekommen, was Perplexität ist und welche Rolle sie spielt. Für weitere Hintergrundinformationen zum Thema Perplexität fand ich diesen zweiminütigen Erklärartikel sehr hilfreich.

Die Perplexität gibt an, wie unerwartet oder überraschend jedes Wort in einem Text ist, wenn man es aus der Perspektive eines bestimmten Sprachmodells oder LLM betrachtet.

Hier sind zum Beispiel zwei Sätze. Konzentrieren wir uns zur Veranschaulichung auf das letzte Wort jedes Satzes. Im ersten Beispiel weist das letzte Wort eine niedrige Perplexität auf, während das letzte Wort im zweiten Beispiel eine hohe Perplexität aufweist.

Geringe Perplexität:

Heute habe ich zum Mittagessen eine Schüssel *Suppe* gegessen.

Hohe Verwirrung:

Heute habe ich zum Mittagessen eine Schüssel *Spinnen* gegessen.

Der Grund dafür, dass der zweite Satz eine hohe Perplexität aufweist, liegt darin, dass ein Sprachmodell in seinem Trainingsdatensatz nur sehr selten Beispiele dafür findet, dass Menschen Schüsseln voller Spinnen essen. Daher ist es für das Sprachmodell sehr überraschend, dass der Satz mit „Spinnen“ endet, anstatt beispielsweise mit „Suppe“, „einem Sandwich“ oder „einem Salat“.

Das Wort „Perplexity“ hat denselben Wortstamm wie das Wort „perplexed“, was so viel wie „verwirrt“ oder „ratlos“ bedeutet. Es ist hilfreich, sich „Perplexity“ als die Verwirrung des Sprachmodells vorzustellen: Wenn es auf etwas stößt, das ihm unbekannt oder unerwartet ist – im Vergleich zu dem, was es während seines Trainingsprozesses gelesen und verarbeitet hat –, dann kann man sich vorstellen, dass das Sprachmodell durch die Vervollständigung verwirrt oder aus der Fassung gebracht wird.

Okay, super, und wie sieht es mit der Burstiness aus? Burstiness bezeichnet die Veränderung der Perplexität im Verlauf eines Dokuments. Wenn im gesamten Dokument immer wieder überraschende Wörter und Ausdrücke auftauchen, würden wir sagen, dass es eine hohe Burstiness aufweist.

Wie funktionieren Detektoren, die auf Perplexity und Burstiness basieren?

Leider legen die meisten kommerziellen Erkennungsprogramme (mit Ausnahme von Pangram) ihre Methodik nicht offen, doch lässt sich aus ihren Beschreibungen ableiten, dass menschlich verfasster Text als komplexer und sprunghafter angesehen wird als KI-generierter Text, während KI-generierter Text als weniger wahrscheinlich und weniger sprunghaft gilt.

Das lässt sich unten anschaulich darstellen! Ich habe das GPT-2-Modell von Huggingface heruntergeladen und die Perplexity aller Texte in zwei Dokumenten berechnet: zum einen bei einer Reihe von Restaurantbewertungen von Menschen und zum anderen bei einer Reihe von KI-generierten Bewertungen. Anschließend habe ich die Texte mit niedriger Perplexity blau und die Texte mit hoher Perplexity rot markiert.

Visualisierung der Perplexität im Vergleich zwischen KI- und menschlich verfassten Texten

Wie Sie sehen können, ist der KI-generierte Text durchgehend tiefblau, was auf einheitlich niedrige Perplexity-Werte hindeutet. Der von Menschen verfasste Text ist größtenteils blau, weist jedoch rote Spitzenwerte auf. Das bezeichnen wir als hohe Burstiness.

Genau dieser Gedanke liegt den Detektoren für Perplexity und Burstiness zugrunde. Nicht nur einige der ersten kommerziellen KI-Detektoren basieren auf diesem Konzept, sondern es hat auch zu wissenschaftlichen Veröffentlichungen wie „DetectGPT“ und „Binoculars“ geführt.

Um ganz ehrlich zu sein: Diese Detektoren für Verwirrung und plötzliche Ausbrüche funktionieren tatsächlich manchmal! Wir glauben jedoch nicht, dass sie in Situationen mit hohem Einsatz, in denen Ungenauigkeiten unbedingt vermieden werden müssen, zuverlässig funktionieren können – beispielsweise im Unterricht, wo eine fälschlicherweise als positiv eingestufte KI-Erkennung das Vertrauen zwischen Lehrkraft und Schüler untergraben oder, schlimmer noch, in einem Gerichtsverfahren zu ungenauen Beweisen führen könnte.

Mangel Nr. 1: Text im Trainingsdatensatz wird fälschlicherweise als KI klassifiziert

Für diejenigen, die nicht wissen, wie LLMs entstehen: Bevor LLMs bereitgestellt und als Chatbots eingesetzt werden können, müssen sie zunächst einen Prozess durchlaufen, der als „Training“ bezeichnet wird. Während des Trainings werden dem Sprachmodell Milliarden von Texten vorgelegt, und es lernt die zugrunde liegenden sprachlichen Muster dessen, was als „Trainingsdatensatz“ bezeichnet wird.

Die genauen technischen Details des Trainingsverfahrens würden den Rahmen dieses Blogbeitrags sprengen, doch ein entscheidender Punkt ist, dass das LLM im Optimierungsprozess direkt darauf hin trainiert wird, die Perplexität der Dokumente in seinem Trainingssatz zu minimieren! Mit anderen Worten: Das Modell lernt im Laufe der Zeit, dass die Textabschnitte, die es im Trainingsverfahren wiederholt vorfindet, eine möglichst geringe Perplexität aufweisen sollten.

Warum ist das ein Problem?

Da das Modell darauf trainiert ist, die Dokumente des Trainingssatzes auf eine niedrige Perplexity zu bringen, stufen Perplexity- und Burstiness-Detektoren gewöhnliche Dokumente des Trainingssatzes als KI-Ergebnisse ein, selbst wenn diese Dokumente tatsächlich von Menschen verfasst wurden!

Aus diesem Grund stufen auf Perplexität basierende KI-Detektoren die Unabhängigkeitserklärung als KI-generiert ein: Da es sich bei der Unabhängigkeitserklärung um ein berühmtes historisches Dokument handelt, das in unzähligen Lehrbüchern und Internetartikeln im gesamten Web wiedergegeben wurde, taucht es in den Trainingsdatensätzen der KI sehr häufig auf. Und da der Text bei jedem Auftreten während des Trainings exakt gleich ist, kann sich das Modell merken, was die Unabhängigkeitserklärung ist, wenn es sie sieht, und dann automatisch allen Tokens eine sehr niedrige Perplexität zuweisen, was wiederum auch die Burstiness sehr niedrig macht.

Ich habe die oben beschriebene Visualisierung auf die Unabhängigkeitserklärung angewendet – und wir sehen dieselbe KI-Signatur: eine durchgehend tiefe, einheitliche blaue Farbe, was darauf hindeutet, dass jedes Wort eine geringe Perplexität aufweist. Aus der Perspektive eines auf Perplexität und Burstiness basierenden Detektors ist die Unabhängigkeitserklärung von KI-generierten Inhalten völlig nicht zu unterscheiden.

Interessanterweise fällt auf, dass der erste Satz der Unabhängigkeitserklärung ein noch tieferes Blau aufweist und eine geringere Perplexität hat als der Rest. Dies liegt daran, dass der erste Satz der mit Abstand am häufigsten reproduzierte Teil des Textes ist und im GPT-2-Trainingsdatensatz am häufigsten vorkommt.

Visualisierung der „Perplexity“ der Unabhängigkeitserklärung

Ebenso stellen wir fest, dass auch bei anderen gängigen Quellen für LLM-Trainingsdaten erhöhte Falsch-Positiv-Raten bei der Erkennung von Perplexität und Burstiness auftreten. Wikipedia ist aufgrund seiner hohen Qualität und der uneingeschränkten Lizenz ein sehr häufig verwendeter Trainingsdatensatz; daher wird es extrem häufig fälschlicherweise als KI-generiert eingestuft, da die Sprachmodelle direkt darauf optimiert sind, die Perplexität bei Wikipedia-Artikeln zu reduzieren.

Dieses Problem verschärft sich mit der fortschreitenden Entwicklung und zunehmenden Leistungsfähigkeit der KI, da die neuesten Sprachmodelle extrem datenhungrig sind: Die Crawler von OpenAI, Google und Anthropic durchforsten das Internet gerade in diesem Moment, während Sie diesen Artikel lesen, und sammeln weiterhin Daten für das Training von Sprachmodellen. Müssen sich Verlage und Website-Betreiber Sorgen machen, dass die Erlaubnis für diese Crawler, ihre Website für das LLM-Training zu durchsuchen, dazu führen könnte, dass ihre Inhalte in Zukunft fälschlicherweise als KI-generiert eingestuft werden? Müssen Unternehmen, die erwägen, ihre Daten an OpenAI zu lizenzieren, das Risiko abwägen, dass diese Daten, sobald die LLMs sie verarbeitet haben, fälschlicherweise als KI-Ergebnisse zurückkommen? Wir halten dies für einen völlig inakzeptablen Fehlerfall, der sich mit der Zeit noch verschlimmert.

Mangel Nr. 2: Perplexity und Burstiness unterscheiden sich je nach Sprachmodell

Ein weiteres Problem bei der Verwendung von Perplexity und Burstiness als Metriken für die Erkennung besteht darin, dass sie sich auf ein bestimmtes Sprachmodell beziehen. Was beispielsweise bei GPT zu erwarten ist, muss bei Claude nicht unbedingt der Fall sein. Und wenn neue Modelle auf den Markt kommen, weicht auch deren Perplexity ab.

Sogenannte „Black-Box“-Detektoren, die auf der Perplexity basieren, müssen ein Sprachmodell auswählen, um die tatsächliche Perplexity zu messen. Wenn sich die Perplexity dieses Sprachmodells jedoch von der des Generators unterscheidet, erhält man äußerst ungenaue Ergebnisse, und dieses Problem verschärft sich mit jeder neuen Modellversion.

Mangel Nr. 3: Kommerzielle Modelle machen die Verwirrung nicht immer deutlich

Anbieter von Closed-Source-Modellen geben nicht immer die Wahrscheinlichkeiten der einzelnen Token bekannt, sodass man die Perplexität für kommerzielle Closed-Source-Modelle wie ChatGPT, Gemini und Claude gar nicht berechnen kann. Im besten Fall kann man ein Open-Source-Modell zur Messung der Perplexität verwenden, doch dabei stößt man auf dieselben Probleme wie bei Nachteil 2.

Mangel Nr. 4: Von Nicht-Muttersprachlern verfasste Texte (ESL) werden fälschlicherweise als KI-Text eingestuft

Es hat sich die Auffassung verbreitet, dass KI-Erkennungssysteme gegenüber Nicht-Muttersprachlern voreingenommen sind, was durch eine Stanford-Studie aus dem Jahr 2023 gestützt wird, die 91 TOEFL-Aufsätze untersuchte. Obwohl Pangram Texte von Nicht-Muttersprachlern umfassend analysiert und in unseren Trainingsdatensatz einbezieht, damit das Modell diese erkennen und identifizieren kann, weisen auf Perplexity basierende Erkennungssysteme bei Texten von Nicht-Muttersprachlern tatsächlich eine erhöhte Falsch-Positiv-Rate auf.

Der Grund dafür ist, dass Texte, die von Englischlernenden verfasst werden, im Allgemeinen eine geringere Perplexität und geringere Burstiness aufweisen. Wir glauben, dass dies kein Zufall ist: Dies liegt daran, dass der Wortschatz der Lernenden während des Sprachlernprozesses deutlich begrenzter ist und sie zudem nicht in der Lage sind, komplexe Satzstrukturen zu bilden, die für ein Sprachmodell ungewöhnlich wären oder eine hohe Überraschungsdichte aufweisen würden. Wir vertreten die Ansicht, dass das Erlernen eines Schreibstils mit hoher Perplexität und Burstiness, der dennoch sprachlich korrekt ist, eine fortgeschrittene Sprachkompetenz darstellt, die aus der Erfahrung mit der Sprache resultiert.

Nicht-Muttersprachler des Englischen – und wir gehen davon aus, dass dies im weiteren Sinne auch für neurodiverse Studierende oder Studierende mit Behinderungen gilt – sind anfälliger dafür, von auf Verwirrung basierenden KI-Detektoren erfasst zu werden.

Mangel Nr. 5: Auf Perplexity basierende Detektoren können sich nicht iterativ selbst verbessern

Was wir für den größten Nachteil von auf Perplexity basierenden Detektoren halten – und warum wir uns bei Pangram stattdessen für einen auf Deep Learning basierenden Ansatz entschieden haben –, ist die Tatsache, dass sich diese Detektoren nicht mit zunehmender Datenmenge und Rechenleistung selbst verbessern können.

Was bedeutet das? Je mehr Erfahrung Pangram durch unseren aktiven Lernalgorithmus mit menschlichen Texten sammelt, desto besser wird es nach und nach. Auf diese Weise haben wir unsere Falsch-Positiv-Rate von 2 % auf 1 %, dann auf 0,1 % und nun auf 0,01 % gesenkt. Detektoren, die auf Perplexity basieren, können sich nicht verbessern, indem sie mehr Daten verarbeiten.

Quellen und weiterführende Literatur

• „DetectGPT: Zero-Shot-Erkennung maschinell generierter Texte unter Verwendung der Wahrscheinlichkeitskrümmung“ ist eine wissenschaftliche Arbeit, die sich mit der lokalen Perplexitätslandschaft befasst, um menschliche und KI-Textproduktion anhand dieser Landschaft und nicht anhand absoluter Perplexitätswerte zu unterscheiden.

• LLMs mit dem Fernglas aufspüren: Die Zero-Shot-Erkennung maschinell generierter Texte nutzt eine neuartige Metrik namens „Cross-Perplexity“, um die Erkennung auf Basis der einfachen Perplexity zu verbessern.

• Das technische Whitepaper von Pangram befasst sich eingehender mit unserer alternativen Lösung zur Erkennung von KI-generierten Texten auf der Grundlage von Deep Active Learning.

Fazit

Es besteht ein großer Unterschied zwischen der Berechnung einer Statistik, die mit KI-generierten Texten korreliert, und der Entwicklung eines produktionsreifen Systems, das KI-generierte Texte zuverlässig erkennen kann. Zwar erfassen auf Perplexity basierende Detektoren einen wichtigen Aspekt dessen, was menschliche Texte menschlich und KI-Texte KI-typisch macht, doch aus den in diesem Artikel beschriebenen Gründen ist es nicht möglich, einen auf Perplexity basierenden Detektor einzusetzen, um KI-generierte Texte zuverlässig zu erkennen und gleichzeitig die Falsch-Positiv-Rate für Produktionsanwendungen niedrig genug zu halten.

In Bereichen wie dem Bildungswesen, in denen die Vermeidung von Fehlalarmen von entscheidender Bedeutung ist, hoffen wir, dass sich die Forschung verstärkt auf Deep-Learning-basierte Methoden konzentriert und sich von Perplexity- und Burstiness-Modellen sowie anderen metrikbasierten Methoden abwendet.

Wir hoffen, dass dies einen Einblick darin gibt, warum Pangram sich dagegen entschieden hat, Perplexity und Burstiness zur Erkennung von KI-generiertem Text zu verwenden, und sich stattdessen auf zuverlässige Methoden konzentriert, die skalierbar sind.

Pangram nutzt Deep Learning anstelle statistischer Heuristiken. Testen Sie unseren KI-Inhaltsdetektor für produktionsreife Genauigkeit.