Erklärung zu Bidens Executive Order zur KI-Sicherheit

HINWEIS: Wir haben unseren Namen in Pangram Labs geändert! Weitere Informationen finden Sie in unserem Blogbeitrag.

Heute hat die Biden-Regierung neue Standards für die Sicherheit und Gefahrenabwehr im Bereich der KI veröffentlicht, darunter diese Richtlinie zur Erkennung von KI-Inhalten:

Das Handelsministerium wird Leitlinien für die Authentifizierung von Inhalten und die Kennzeichnung mit Wasserzeichen entwickeln, um KI-generierte Inhalte eindeutig zu kennzeichnen. Bundesbehörden werden diese Instrumente nutzen, um den US-Bürgern die Gewissheit zu geben, dass die Mitteilungen, die sie von ihrer Regierung erhalten, authentisch sind – und damit ein Beispiel für den privaten Sektor und Regierungen auf der ganzen Welt setzen.

Joe Biden, von ai.gov.

Checkfor.ai unterstützt voll und ganz das Engagement der Biden-Regierung für den sicheren und verantwortungsvollen Einsatz großer Sprachmodelle. Wir glauben, dass die Entwicklung von Richtlinien und Strategien zur Authentifizierung von KI-Inhalten ein wichtiger Schritt in die richtige Richtung für die KI-Sicherheit ist und mit unserer Mission übereinstimmt, das Internet vor Spam und anderen bösartigen Inhalten zu schützen, die von großen Sprachmodellen generiert werden. Die Welt wird besser werden, sowohl für Verbraucher als auch für Nutzer von KI-Technologie, wenn wir als Gesellschaft stärker in die Erkennung von KI-generierten Inhalten investieren. Heute möchten wir eine Erklärung zu unserer Position als Unternehmen in Bezug auf die Authentifizierung, Wasserzeichen und Erkennung von Inhalten veröffentlichen.

• Wir glauben, dass keine der derzeitigen Erkennungslösungen ausreicht, um das Problem sofort zu lösen, und dass wir mehr Ressourcen in die Lösung der KI-Erkennung investieren müssen.
• Wir glauben, dass Wasserzeichen keine Lösung für dieses Problem sind, da sie ein falsches Gefühl der Sicherheit vermitteln und nachweislich Einschränkungen aufweisen, wenn ein Benutzer Zugriff auf Modellgewichte hat oder die Ausgabe bearbeiten kann (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Es gibt bereits leistungsstarke und fähige Open-Source-Modelle ohne Wasserzeichen, und böswillige Akteure werden immer in der Lage sein, ihre eigenen Versionen dieser Modelle lokal zu optimieren, um einer Erkennung zu entgehen. Darüber hinaus glauben wir, dass das Erkennungsproblem auch bei Modellen ohne Wasserzeichen lösbar ist.
• Wir unterstützen die Regulierung der KI-Sicherheit und die Entwicklung großer Sprachmodelle, wobei die wichtigste Voraussetzung ist, dass alle Vorschriften das Open-Source-Ökosystem unterstützen müssen. Open Source sorgt für gegenseitige Kontrolle der mächtigen großen Technologieunternehmen, Transparenz für die Verbraucher und ermöglicht es der Öffentlichkeit, diese Modelle frei zu bewerten, zu kritisieren und zu benchmarken.
• Wir sind der Ansicht, dass sich die Rolle der Regierung bei der Förderung der KI-Sicherheit und der Investition in die KI-Erkennungsforschung darauf konzentrieren sollte, sowohl akademische als auch industrielle Projekte im Bereich der KI-Erkennung zu finanzieren.
• Um eine effektive Forschung im Bereich der KI-Erkennung voranzutreiben, müssen wir Benchmarks und Bewertungskriterien festlegen, damit Verbraucher sich der Wirksamkeit und Grenzen der verfügbaren KI-Detektoren bewusst werden können. Wir engagieren uns für die Entwicklung und Förderung branchenweiter Standards im Bereich der KI-Erkennung, damit größere und leistungsfähigere Sprachmodelle sicher und verantwortungsbewusst eingesetzt werden können.

Bei Checkfor.ai arbeiten wir intensiv daran, zuverlässige KI-Erkennungssysteme zu entwickeln, damit Sprachmodelle der nächsten Generation sicher und produktiv eingesetzt werden können. Wir freuen uns über das Engagement der Biden-Regierung, zwischen von Menschen und KI generierten Inhalten zu unterscheiden, und freuen uns darauf, gemeinsam mit Forschern und politischen Entscheidungsträgern diese wichtigen Standards zu entwickeln.