Tremau und Pangram Labs gehen Partnerschaft ein, um sich mit KI-generierten Inhalten zu befassen

Da wir kurz vor dem größten Wahljahr der Geschichte stehen, rückt die Schnittstelle zwischen Technologie und Demokratie erneut in den Mittelpunkt. Mehr als 50 Länder weltweit mit einer Gesamtbevölkerung von rund 4,2 Milliarden Menschen werden 2024 nationale und regionale Wahlen abhalten, darunter sieben der zehn bevölkerungsreichsten Nationen der Welt. Mit dem rasanten Fortschritt der generativen KI, die es jedem ermöglicht, realistische Bilder, Videos, Audiodateien oder Texte auf der Grundlage von Benutzerangaben zu erstellen, können Wahlprozesse vor neuen Herausforderungen stehen.

Generative KI hat aufgrund ihres Potenzials, die öffentliche Meinung zu beeinflussen und damit Debatten und Entscheidungen zu beeinflussen, Aufmerksamkeit erregt. Von Deepfake-Videos bis hin zu „intelligenten“, zielgerichteten KI-generierten Kampagnen in großem Maßstab kann der Einsatz generativer KI-Techniken eine erhebliche Gefahr für die Integrität demokratischer Prozesse darstellen. Diese Risiken können viele Formen annehmen, darunter Versuche in letzter Minute, Menschen von der Stimmabgabe abzuhalten, oder die Inszenierung eines Ereignisses mit einer generierten Darstellung eines Kandidaten, die schwer zu widerlegen ist, oder die Verbreitung gezielter Falschmeldungen.

Was bedeutet das für Online-Plattformen? Ganz einfach: Vermeiden Sie unangenehme Fragen zur Verantwortung für die Verbreitung fragwürdiger KI-generierter Inhalte auf Ihrer Plattform, insbesondere angesichts potenzieller Skandale, und verbessern Sie Ihre Vertrauens- und Sicherheitsmaßnahmen, um potenzielle neue Bedrohungen zu bewältigen. Pangram Labs entwickelt die genauesten Methoden zur Erkennung von KI-generierten Inhalten, um die Identifizierung und Moderation von KI-Inhalten zu automatisieren. In Kombination mit den von Tremau ermöglichten Human-in-the-Loop-Technologien ist dies ein effektiver Prozess, um KI-Inhalte zu kontrollieren und zu moderieren, bevor sie die Integrität einer Plattform oder einer Wahl gefährden.

Als die Europäische Kommission im April 2021 erstmals ihren Vorschlag für ein KI-Gesetz veröffentlichte, war generative KI noch kein dringendes Anliegen der Regulierungsbehörden. Das hat sich mit den jüngsten Fortschritten in der KI, wie beispielsweise GPT-4, grundlegend geändert. Aus diesem Grund hat das Europäische Parlament den ursprünglichen Vorschlag der Europäischen Kommission erheblich geändert und insbesondere spezifische Vorschriften für generative KI-Systeme eingeführt (der Vorschlag des Parlaments). Generative KI fällt unter die Kategorie„Allzweck-KI-Systeme”, die Transparenzanforderungen erfüllen müssen, darunter die Offenlegung, dass der Inhalt von KI generiert wurde. Die Erfüllung dieser regulatorischen Verpflichtungen kann mit einer von Grund auf konformen Content-Moderationsplattform wie der Moderationsplattform von Tremau vereinfacht werden.

Viele Unternehmen haben erkannt, dass die Vorbereitung auf die Herausforderungen und Risiken der KI nicht nur eine Frage der Regulierung ist. Die rasante Entwicklung der KI stellt Herausforderungen für die Markensicherheit und die Integrität von Plattformen dar. Daher ist es unerlässlich, sich bewusst zu sein, wie böswillige Akteure KI-Inhalte für Spam und Desinformation nutzen, und Tools einzusetzen, um diese von Ihrer Plattform fernzuhalten.

Aus all diesen Gründen und als Teil unserer Mission, eine sichere und vorteilhafte digitale Welt für alle zu schaffen, arbeiten Tremau und Pangram Labs zusammen, um KI-generierte Inhaltserkennung und KI-Offenlegungen für nutzergenerierte Inhalte anzubieten. Auf diese Weise können Plattformen die Compliance einhalten und die Authentizität ihrer nutzergenerierten Inhalte gewährleisten.

Wie können wir Ihnen helfen?

Pangram Labs entwickelt Tools zur automatisierten Erkennung von KI-generierten Inhalten, beginnend mit Text und Sprache.

Tremau hilft Ihnen dabei, sich in der neuen Welt leistungsstarker KI und neuer Vorschriften zurechtzufinden. Weitere Informationen finden Sie unter tremau.com.

Weitere Informationen erhalten Sie unter info@pangram.com und info@tremau.com.