Das neue KI-Gesetz der EU verstehen

Foto: Angel Bena.

Letzte Woche hat das Europäische Parlament das Gesetz über künstliche Intelligenz (KI-Gesetz) verabschiedet, einen umfassenden Rechtsrahmen, an den sich die EU-Mitgliedstaaten bei der Regulierung von KI-Produkten und -Dienstleistungen halten müssen.

Das KI-Gesetz soll als Verbraucherschutzgesetz dienen und verfolgt einen „risikobasierten Ansatz“ für Produkte oder Dienstleistungen, die künstliche Intelligenz nutzen – je risikoreicher eine KI-Anwendung ist, desto strenger wird sie geprüft. Die Risikostufen sind in verschiedene Kategorien unterteilt, darunter:

• KI-Systeme, die „unterschwellige, manipulative oder irreführende Techniken einsetzen, um das Verhalten zu verzerren und eine fundierte Entscheidungsfindung zu beeinträchtigen“, oder die ein „eindeutiges Risiko für die grundlegenden Menschenrechte“ darstellen, gelten als „inakzeptables Risiko“ und werden verboten.
• KI-Systeme, die als „risikoreich“ gelten, wie beispielsweise solche, die in kritischen Infrastrukturen, im Bildungswesen, im Gesundheitswesen, bei der Strafverfolgung, im Grenzschutz oder bei Wahlen eingesetzt werden, müssen strenge Anforderungen erfüllen.
• Allgemeine KI-Systeme, die nicht unter die Kategorien mit hohem Risiko fallen, gelten als Systeme mit begrenztem Risiko und unterliegen weniger strengen Transparenzpflichten. Generative KI-Anwendungen gelten als allgemeine KI-Systeme.

Sowohl Anbieter (wie OpenAI/Google) als auch Nutzer (Unternehmen, die diese Anwendungen nutzen) müssen Tests hinsichtlich Genauigkeit und Transparenz bestehen, damit Endnutzer (Verbraucher) wissen, dass sie mit KI interagieren. Unternehmen, die diese neuen Anforderungen nicht erfüllen können, drohen Geldstrafen von bis zu 35 Millionen Euro oder 7 % ihres weltweiten Jahresumsatzes.

Was bedeutet das für Online-Plattformen?

Jedes Unternehmen, unabhängig von seinem Sitz, das Endnutzer in der EU hat und KI-Systeme in seinem Produkt einsetzt, unterliegt dem KI-Gesetz. Auch wenn dieser Anwendungsbereich weit gefasst ist und gewisse Unklarheiten aufweist, steht fest, dass Online-Plattformen, die KI-Inhalte nutzen oder veröffentlichen, diese neuen regulatorischen Verpflichtungen einhalten müssen.

Da auf vielen Plattformen für nutzergenerierte Inhalte immer mehr KI-generierte Inhalte veröffentlicht werden, werden die meisten Online-Seiten (z. B. Verlage, Marktplätze und Social-Media-Seiten) wahrscheinlich Maßnahmen zur Gewährleistung von Transparenz und zur Moderation einführen müssen, darunter:

• Angabe, ob auf der Plattform generierte oder veröffentlichte Inhalte von einer KI erstellt wurden.
• Die Plattform so gestalten, dass sie unzulässige, durch KI generierte Beiträge zurückweist.
• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die zum Trainieren interner Modelle verwendet wurden.

Die Kennzeichnung und damit auch die Erkennung von KI-generierten Inhalten wird künftig vorgeschrieben sein, wenn solche Inhalte auf Content-Plattformen verbreitet werden. Dies gilt für alle Arten von Inhalten – Texte, Audiodateien, Bilder und Videos:

„Anbieter von KI-Systemen, einschließlich Allzweck-KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ergebnisse des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.“

Wir unterstützen zwar das legislative Ziel der EU, sichere KI-Systeme zu fördern, sind uns jedoch auch bewusst, dass es für Unternehmen verwirrend sein kann, dieses Gesetz auszulegen und einzuhalten. Diese Verpflichtungen mögen recht unklar erscheinen, und der KI-Gesetzentwurf legt nicht konkret fest, ob sekundäre Arten von Inhalten (wie Nutzerbewertungen oder Kommentare) diesen Anforderungen unterliegen oder welche Konformitätsprüfungen Unternehmen durchführen müssen.

Wie können Unternehmen dem AI Act einen Schritt voraus sein?

Die gute Nachricht ist, dass Unternehmen Zeit haben werden, Lösungen zur Einhaltung der Vorschriften zu entwickeln. Das Gesetz soll voraussichtlich bis Mai in Kraft treten, und seine Bestimmungen werden schrittweise wirksam werden, wobei viele der Transparenzanforderungen erst in einem Jahr gelten werden.

Dennoch sind wir der Ansicht, dass es bestimmte Maßnahmen gibt, die Unternehmen bereits jetzt ergreifen können, um einer Durchsetzung des Gesetzes zuvorzukommen. Insbesondere sollten Unternehmen darauf hinarbeiten, Folgendes zu entwickeln:

• Klare Richtlinien und Regeln für nutzergenerierte Inhalte.
• Effizientere Arbeitsabläufe bei der Content-Moderation zur Erkennung von KI-generierten Inhalten.
• Automatisierte Maßnahmen zur Verhinderung der Verbreitung von KI-generierten Inhalten.

Bereits jetzt sind erste Maßnahmen einiger Unternehmen zu beobachten – Plattformen wie YouTube und Instagram fordern ihre Nutzer auf, beim Hochladen von „realistisch“ wirkenden, KI-generierten Inhalten einen entsprechenden Hinweis anzubringen. Es ist zwar unklar, ob dieses „Vertrauenssystem“ ausreichen wird, um die gesetzlichen Anforderungen zu erfüllen, doch ist dies ein deutliches Zeichen dafür, dass die Branchenführer diese Gesetzgebung und die Sicherheit im Bereich der KI ernst nehmen.

Wir bei Pangram Labs arbeiten intensiv daran, die besten KI-Erkennungssysteme zu entwickeln, damit Unternehmen sichere und verantwortungsbewusste Online-Plattformen betreiben können. Das Ziel der EU, Transparenz im Internet zu schaffen, bestärkt uns in unserem Handeln, und wir freuen uns darauf, gemeinsam mit Forschern und politischen Entscheidungsträgern diese wichtigen Standards weiter auszuarbeiten.

Möchten Sie mit uns Kontakt aufnehmen? Schreiben Sie uns eine E-Mail an info@pangram.com!