Stellungnahme zu Bidens Verordnung zur Sicherheit künstlicher Intelligenz

HINWEIS: Wir haben unseren Namen in Pangram Labs geändert! Weitere Informationen findest du in unserem Blogbeitrag.

Die Biden-Regierung hat heute neue Standards für die Sicherheit und den Schutz im Bereich der künstlichen Intelligenz veröffentlicht, darunter diese Richtlinie zur Erkennung von KI-Inhalten:

Das Handelsministerium wird Leitlinien für die Authentifizierung und Wasserzeichen von Inhalten erarbeiten, um KI-generierte Inhalte eindeutig zu kennzeichnen. Die Bundesbehörden werden diese Instrumente nutzen, um den Amerikanern zu erleichtern, zu erkennen, dass die Mitteilungen, die sie von ihrer Regierung erhalten, authentisch sind – und damit ein Beispiel für die Privatwirtschaft und Regierungen weltweit zu setzen.

Joe Biden, von ai.gov.

Checkfor.ai unterstützt uneingeschränkt das Engagement der Biden-Regierung für den sicheren und verantwortungsvollen Einsatz großer Sprachmodelle. Wir sind der Ansicht, dass die Entwicklung von Richtlinien und Strategien zur Authentifizierung von KI-Inhalten ein wichtiger Schritt in die richtige Richtung für die KI-Sicherheit ist und im Einklang mit unserer Mission steht, das Internet vor Spam und anderen schädlichen Inhalten zu schützen, die von großen Sprachmodellen generiert werden. Die Welt wird besser dastehen – sowohl für Verbraucher als auch für Nutzer von KI-Technologie –, wenn wir als Gesellschaft stärker in die Erkennung von KI-generierten Inhalten investieren. Heute möchten wir eine Stellungnahme zu unserer Position als Unternehmen in Bezug auf Inhaltsauthentifizierung, Wasserzeichen und Erkennung veröffentlichen.

• Wir sind der Ansicht, dass keine der derzeitigen Erkennungslösungen ausreicht, um das Problem sofort zu lösen, und dass wir mehr Ressourcen speziell in die Entwicklung von KI-basierten Erkennungslösungen investieren müssen.
• Wir sind der Ansicht, dass Wasserzeichen keine Lösung für dieses Problem darstellen, da sie ein falsches Sicherheitsgefühl vermitteln und nachweislich an ihre Grenzen stoßen, wenn ein Nutzer Zugriff auf die Modellgewichte hat oder die Ausgabe bearbeiten kann (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Es gibt bereits leistungsstarke und fähige Open-Source-Modelle ohne Wasserzeichen, und böswillige Akteure werden immer in der Lage sein, ihre eigenen Versionen davon lokal zu optimieren, um einer Erkennung zu entgehen. Darüber hinaus sind wir der Ansicht, dass das Erkennungsproblem auch bei Modellen ohne Wasserzeichen lösbar ist.
• Wir befürworten eine Regulierung im Bereich der KI-Sicherheit und der Entwicklung großer Sprachmodelle, wobei die zentrale Voraussetzung ist, dass jede Regulierung das Open-Source-Ökosystem unterstützt. Open Source sorgt für ein System der gegenseitigen Kontrolle mächtiger großer Technologieunternehmen, bietet Transparenz für Verbraucher und ermöglicht es der Öffentlichkeit, diese Modelle frei zu bewerten, zu kritisieren und zu vergleichen.
• Wir sind der Ansicht, dass sich die Rolle der Regierung bei der Förderung der KI-Sicherheit und der Investition in die Forschung zur KI-Erkennung darauf konzentrieren sollte, sowohl akademische als auch industrielle Projekte im Bereich der KI-Erkennung zu finanzieren.
• Um die Forschung im Bereich der KI-Erkennung voranzutreiben, müssen wir Benchmarks und Bewertungskriterien festlegen, damit Verbraucher sich über die Wirksamkeit und die Grenzen der verfügbaren KI-Detektoren im Klaren sind. Wir setzen uns dafür ein, branchenweite Standards für die KI-Erkennung zu entwickeln und dazu beizutragen, damit größere und leistungsfähigere Sprachmodelle sicher und verantwortungsbewusst eingesetzt werden können.

Bei Checkfor.ai arbeiten wir intensiv daran, zuverlässige KI-Erkennungssysteme zu entwickeln, damit Sprachmodelle der nächsten Generation sicher und produktiv eingesetzt werden können. Wir begrüßen das Engagement der Biden-Regierung, zwischen von Menschen und von KI generierten Inhalten zu unterscheiden, und freuen uns darauf, gemeinsam mit Forschern und politischen Entscheidungsträgern diese wichtigen Standards zu entwickeln.