Das neue EU-Gesetz zur künstlichen Intelligenz verstehen

Foto von Angel Bena.

Letzte Woche verabschiedete das Europäische Parlament das Gesetz über künstliche Intelligenz (KI-Gesetz), einen umfassenden Rahmen, an den sich die EU-Mitgliedstaaten bei der Regulierung von KI-Produkten und -Dienstleistungen halten müssen.

Das KI-Gesetz soll als Verbraucherschutzgesetz dienen und verfolgt einen „risikobasierten Ansatz“ für Produkte oder Dienstleistungen, die künstliche Intelligenz nutzen – je riskanter eine KI-Anwendung ist, desto strenger wird sie geprüft. Die Risikostufen sind in verschiedene Kategorien unterteilt, darunter:

• KI-Systeme, die „unterschwellige, manipulative oder irreführende Techniken einsetzen, um Verhalten zu verzerren und fundierte Entscheidungen zu beeinträchtigen“ oder ein „eindeutiges Risiko für grundlegende Menschenrechte“ darstellen, werden als „inakzeptables Risiko“ eingestuft und verboten.
• KI-Systeme, die als „risikoreich“ gelten, wie beispielsweise solche, die in kritischen Infrastrukturen, im Bildungswesen, im Gesundheitswesen, in der Strafverfolgung, im Grenzmanagement oder bei Wahlen eingesetzt werden, müssen strenge Anforderungen erfüllen.
• Allgemeine KI-Systeme, die nicht in die Kategorien mit hohem Risiko fallen, gelten als Systeme mit begrenztem Risiko und unterliegen weniger strengen Transparenzpflichten. Generative KI-Anwendungen gelten als allgemeine KI-Systeme.

Sowohl Hersteller (wie Open AI/Google) als auch Nutzer (Unternehmen, die diese Anwendungen verwenden) müssen Tests hinsichtlich Genauigkeit und Transparenz bestehen, damit Endnutzer (Verbraucher) wissen, dass sie mit KI interagieren. Unternehmen, die diese neuen Anforderungen nicht erfüllen können, müssen mit Geldstrafen von bis zu 35 Millionen Euro oder 7 % ihres weltweiten Jahresumsatzes rechnen.

Was bedeutet das für Online-Plattformen?

Jedes Unternehmen, unabhängig davon, wo es seinen Sitz hat, das Endnutzer in der EU hat und KI-Systeme in seinen Produkten einsetzt, unterliegt dem KI-Gesetz. Auch wenn dies ein weit gefasster Geltungsbereich mit einigen Unklarheiten ist, steht fest, dass Online-Plattformen, die KI-Inhalte nutzen oder veröffentlichen, diese neuen regulatorischen Verpflichtungen einhalten müssen.

Da auf vielen Plattformen für nutzergenerierte Inhalte immer mehr KI-generierte Inhalte gepostet werden, müssen die meisten Online-Seiten (z. B. Verlage, Marktplätze und Social-Media-Seiten) wahrscheinlich einige Transparenz- und Moderationskontrollen einrichten, darunter:

• Offenlegung, ob auf der Plattform generierte oder veröffentlichte Inhalte von KI erstellt wurden.
• Entwurf einer Plattform zur Ablehnung illegaler, durch KI generierter Beiträge.
• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die zum Trainieren interner Modelle verwendet werden.

Die Kennzeichnung und damit die Erkennung von KI-generierten Inhalten wird nun zur Pflicht, wenn solche Inhalte auf Content-Plattformen verbreitet werden. Dies gilt für alle Arten von Inhalten – Text, Audio, Bilder und Videos:

„Anbieter von KI-Systemen, einschließlich universeller KI-Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen sicherstellen, dass die Ergebnisse des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich generiert oder manipuliert erkennbar sind.“

Wir unterstützen zwar die Absicht der EU, sichere KI-Systeme zu fördern, sind uns jedoch auch bewusst, dass die Auslegung und Einhaltung dieses Gesetzes für Unternehmen verwirrend sein kann. Diese Verpflichtungen erscheinen recht vage, und das KI-Gesetz enthält keine genauen Angaben dazu, ob sekundäre Arten von Inhalten (wie Nutzerbewertungen oder Kommentare) diesen Anforderungen unterliegen oder welche Konformitätsprüfungen Unternehmen einführen müssen.

Wie können Unternehmen dem KI-Gesetz einen Schritt voraus sein?

Die gute Nachricht ist, dass Unternehmen Zeit haben werden, Lösungen zu entwickeln, um die Einhaltung der Vorschriften zu ermöglichen. Das Gesetz wird voraussichtlich im Mai in Kraft treten, und seine Bestimmungen werden schrittweise in Kraft treten, wobei viele der Transparenzanforderungen erst in einem Jahr gelten werden.

Wir sind jedoch der Meinung, dass Unternehmen jetzt bestimmte Maßnahmen ergreifen können, um einer Durchsetzung des Gesetzes zuvorzukommen. Insbesondere sollten Unternehmen darauf achten, Folgendes zu entwickeln:

• Klare Richtlinien und Governance für nutzergenerierte Inhalte.
• Effizientere Workflows für die Moderation von Inhalten, um KI-generierte Inhalte zu identifizieren.
• Automatisierungen zur Verhinderung der Verbreitung von KI-generierten Inhalten.

Bereits jetzt sehen wir, dass einige Unternehmen Maßnahmen ergreifen – einige Plattformen wie YouTube und Instagram fordern ihre Nutzer auf, „realistische“ KI-generierte Inhalte beim Hochladen selbst zu melden. Es ist unklar, ob dieses „Vertrauenssystem“ ausreicht, um die Anforderungen des Gesetzes zu erfüllen, aber es ist ein starkes Signal dafür, dass die Branchenführer diese Gesetzgebung und die Sicherheit von KI ernst nehmen.

Bei Pangram Labs arbeiten wir intensiv daran, die besten KI-Erkennungssysteme zu entwickeln, damit Unternehmen sichere und verantwortungsbewusste Online-Plattformen betreiben können. Das Ziel der EU hinsichtlich der Transparenz im Internet bestärkt uns in unserem Vorhaben, und wir freuen uns darauf, gemeinsam mit Forschern und politischen Entscheidungsträgern diese wichtigen Standards auszuarbeiten.

Möchten Sie mit uns in Kontakt treten? Senden Sie uns eine E-Mail an info@pangram.com!