Ein Rundgang durch die am häufigsten verwendeten Ausdrücke im Bereich der KI

Wie wir letzte Woche besprochen haben, neigt KI dazu, bestimmte Wörter und Ausdrücke übermäßig häufig zu verwenden. Einige davon fallen Ihnen vielleicht spontan ein: von „ein Beweis für“ bis hin zu „sich vertiefen“. Wenn man genügend solcher Ausdrücke sieht, kann das ein deutlicher Hinweis darauf sein, dass der Text, mit dem man es zu tun hat, von einer KI generiert wurde, aber es gibt viel zu viele davon, als dass eine einzelne Person den Überblick behalten könnte.

Um dieses Problem zu lösen, haben wir kürzlich ein Tool namens „AI phrases“ eingeführt, mit dem wir genau diese Formulierungen hervorheben. Im Rahmen der Entwicklung dieses Tools haben wir einen umfangreichen Datensatz mit den am häufigsten verwendeten KI-Formulierungen erstellt. In diesem Artikel stellen wir Ihnen einige der gängigsten KI-Formulierungen aus unserem Datensatz vor und erklären, wie Sie diese nutzen können, um Ihr Gespür für KI-generierte Texte zu schärfen.

Teil 1: KI-Artefakte

Beginnen wir mit dem Offensichtlichsten: Manchmal sagt eine KI einem tatsächlich, dass sie eine KI ist! Oft geschieht dies im Zusammenhang mit einer Ablehnung. Wenn ein Nutzer eine KI um etwas bittet, wozu sie nicht programmiert wurde, muss sie dem Nutzer mitteilen, dass sie der Anfrage nicht nachkommen kann, und in diesem Zusammenhang gibt das Modell oft zu erkennen, dass es sich um eine KI handelt. Viele Ablehnungen durch KI beginnen mit dem Satz „Als KI-Sprachmodell…“. Daraus folgt, dass diese Art von Satz in KI-Texten recht häufig vorkommt, in menschlichen Texten hingegen äußerst selten. Die Zahlen bestätigen dies! Viele unserer häufigsten KI-Sätze sind selbstreferenziell.

Teil 2: Abgedroschene Redewendungen

KI-Artefakte gehören zu den „am häufigsten überstrapazierten“ KI-Begriffen, sind aber letztlich ziemlich offensichtlich und daher eher uninteressant. Nun kommen wir zum interessanten Teil: Begriffe, die in KI-Texten zwar tatsächlich überrepräsentiert sind, aber nichts damit zu tun haben, „eine KI zu sein“. Hier sind ein paar Beispiele:

Teil 3: Warum verwendet KI immer wieder dieselben Formulierungen?

Es ist leicht nachvollziehbar, warum eine KI, die sagt „Als KI…“, in KI-Texten weitaus häufiger vorkommt. Aber warum tauchen die scheinbar zusammenhanglosen Phrasen in Teil 2 häufiger auf? Zunächst einmal gibt es ein Phänomen, das als „Mode Collapse“ bekannt ist, bei dem KI-Ausgaben übermäßig allgemein oder repetitiv werden, weil sie sich auf Wortfolgen mit hoher Wahrscheinlichkeit stützen. Mode Collapse…

Darüber hinaus ist es nach dem Training gängige Praxis, RLHF (Reinforcement Learning from Human Feedback) anzuwenden. Bei diesem Verfahren bewerten menschliche Annotatoren KI-generierte Texte anhand einer Reihe von Merkmalen, um bestimmte Muster zu fördern und andere zu unterbinden. Wenn bestimmte Antworten oder Formulierungen im Laufe dieses Prozesses von diesen menschlichen Annotatoren wahrscheinlich positiv bewertet werden, kommen sie immer häufiger vor.

Folglich lassen sich einige dieser überstrapazierten Formulierungen eher als charakteristisches Merkmal bestimmter Modelle, Architekturen und Trainingsprozesse betrachten und nicht nur als typisches Kennzeichen des KI-Schreibens an sich. Eine Studie von Jenna Russell, Marzena Karpinska und Mohit Iyyer von der University of Maryland zeigt, dass verschiedene Modelle tatsächlich unterschiedliche bevorzugte Formulierungen aufweisen:

überbeansprucht

Dies lässt vermuten, dass verschiedene Modelle, die mit unterschiedlichen Datensätzen und Optimierungsstrategien trainiert wurden, ihre eigenen, spezifischen Tendenzen bei der Phrasenwiederholung entwickeln können.

Bonus: Die Lieblings-N-Gramme unseres Teams

Im Rahmen unserer Arbeit hat unser Team unzählige Stunden damit verbracht, von KI generierte Texte zu lesen und zu analysieren. Dabei haben wir natürlich eine Vorliebe für einige dieser Formulierungen entwickelt:

Hier sind die Lieblings-KI-Phrasen unseres Teams:

• Max (CEO): „In der sich ständig weiterentwickelnden“ (11.000x)

• Bradley (CTO): „wichtig zu beachten“ (3.000x)

• Lu (Gründungsingenieur): „komplexe Natur“ (6.000x)

• Elyas (Gründungsingenieur): „lebendiges Mosaik“ (17.000x)