Tremau und Pangram Labs gehen eine Partnerschaft ein, um sich mit KI-generierten Inhalten zu befassen

Da wir kurz vor dem größten Wahljahr der Geschichte stehen, rückt das Zusammenspiel von Technologie und Demokratie erneut in den Mittelpunkt. Mehr als 50 Länder weltweit mit einer Gesamtbevölkerung von rund 4,2 Milliarden Menschen werden 2024 nationale und regionale Wahlen abhalten, darunter sieben der zehn bevölkerungsreichsten Nationen der Welt. Angesichts des rasanten Fortschritts der generativen KI, die es jedem ermöglicht, auf der Grundlage von Nutzeranweisungen realistische Bilder, Videos, Audiodateien oder Texte zu erstellen, können die Wahlprozesse vor neuen Herausforderungen stehen.

Generative KI hat aufgrund ihres Potenzials, die öffentliche Meinung zu beeinflussen und damit Debatten und Entscheidungen zu prägen, große Aufmerksamkeit auf sich gezogen. Von Deepfake-Videos bis hin zu „intelligenten“, zielgerichteten und groß angelegten KI-generierten Kampagnen – der Einsatz generativer KI-Techniken kann erhebliche Gefahren für die Integrität demokratischer Prozesse mit sich bringen. Diese Risiken können vielfältige Formen annehmen, darunter kurzfristige Versuche, Menschen von der Stimmabgabe abzuhalten, die Inszenierung eines Ereignisses mit einer generierten Darstellung eines Kandidaten, die schwer zu widerlegen ist, oder die gezielte Verbreitung falscher Berichte.

Was bedeutet das für Online-Plattformen? Ganz einfach: Vermeiden Sie unangenehme Fragen zur Verantwortlichkeit für die Verbreitung fragwürdiger, KI-generierter Inhalte auf Ihrer Plattform, insbesondere angesichts potenzieller Skandale, und verbessern Sie Ihre Maßnahmen im Bereich Vertrauen und Sicherheit, um potenziellen neuen Bedrohungen zu begegnen. Pangram Labs entwickelt die präzisesten Methoden zur Erkennung von KI-generierten Inhalten, um die Identifizierung und Moderation von KI-Inhalten zu automatisieren. In Kombination mit den von Tremau ermöglichten „Human-in-the-Loop“-Technologien ist dies ein effektiver Prozess zur Kontrolle und Moderation von KI-Inhalten, bevor diese die Integrität einer Plattform oder einer Wahl gefährden.

Als die Europäische Kommission im April 2021 erstmals ihren Vorschlag für ein KI-Gesetz vorlegte, war generative KI für die Regulierungsbehörden noch kein dringendes Anliegen. Das änderte sich jedoch mit den jüngsten Fortschritten im Bereich der KI, wie beispielsweise GPT-4. Aus diesem Grund hat das Europäische Parlament den ursprünglichen Vorschlag der Europäischen Kommission erheblich abgeändert und insbesondere spezifische Vorschriften für generative KI-Systeme eingeführt (der Vorschlag des Parlaments). Generative KI fällt unter die Kategorie der„Allzweck-KI-Systeme“, die Transparenzanforderungen erfüllen müssen, darunter die Offenlegung, dass der Inhalt durch KI generiert wurde. Die Erfüllung dieser regulatorischen Verpflichtungen kann mit einer von Grund auf konformen Content-Moderationsplattform wie der von Tremau vereinfacht werden.

Viele Unternehmen haben erkannt, dass die Vorbereitung auf die Herausforderungen und Risiken der KI nicht nur eine Frage der Regulierung ist. Die rasante Entwicklung der KI stellt die Markensicherheit und die Integrität von Plattformen vor Herausforderungen – daher ist es unerlässlich, sich bewusst zu machen, wie böswillige Akteure KI-Inhalte für Spam und Desinformation nutzen, und Tools einzusetzen, um solche Inhalte von der eigenen Plattform fernzuhalten.

Aus all diesen Gründen und im Rahmen unserer Mission, eine sichere und nützliche digitale Welt für alle zu schaffen, arbeiten Tremau und Pangram Labs zusammen, um Lösungen zur Erkennung von KI-generierten Inhalten sowie KI-Kennzeichnungen für nutzergenerierte Inhalte anzubieten. Auf diese Weise können Plattformen die geltenden Vorschriften einhalten und die Authentizität ihrer nutzergenerierten Inhalte gewährleisten.

Wie können wir Ihnen helfen?

Pangram Labs entwickelt Tools zur automatischen Erkennung von KI-generierten Inhalten, zunächst für Text und Sprache.

Tremau unterstützt Sie dabei, sich in der neuen Welt leistungsstarker KI und neuer Vorschriften bestmöglich zurechtzufinden. Erfahren Sie mehr unter tremau.com.

Wenn Sie mehr erfahren möchten, kontaktieren Sie uns unter info@pangram.com und info@tremau.com.