Vorstellung der Pangram-Bilderkennung (Forschungsvorschau)

Wir freuen uns, eine Forschungsvorschau auf eine völlig neue Ergänzung der Pangram-Modellfamilie ankündigen zu dürfen: Pangram Image.

Pangram Image ist ein Modell zur Erkennung von KI-generierten Bildern. Es erkennt Bildausgaben aller großen Anbieter von KI-Bildern, darunter GPT Image von OpenAI, Nano Banana von Gemini, Midjourney, FLUX und Grok Imagine, sowie einiger Anbieter von KI-Videos, darunter Kling, Seedance, Veo und Wan.

Pangram Image übertrifft die Leistung modernster akademischer und kommerzieller KI-Bilderkennungsmethoden bei weitem. In einem internen Vergleichstest mit fünf kommerziellen Erkennungssystemen erreicht Pangram Image eine Genauigkeit von 99,5 %, während der nächstplatzierte Wettbewerber bei 98 % liegt. Bei externen Vergleichstests wie der NTIRE 2026 AI Image Challenge, Synthbuster und Mirage erzielt Pangram Image durchweg einen AUROC-Wert von über 99 % und übertrifft die Wettbewerber um mehrere Prozentpunkte.

Wir sind uns bewusst, dass aus Sicht von Künstlern und Schöpfern falsche KI-Vorwürfe gegenüber echtem, authentischem Kunstschaffen erheblichen Schaden anrichten, und wir haben besondere Sorgfalt darauf verwendet, dies bei unserem Modell zu verhindern. Bei einer Teilmenge von 2.000 Bildern aus WikiArt haben wir jedes einzelne Bild korrekt als von Menschen geschaffen klassifiziert. Auf ReLAION, einem vielfältigen Datensatz mit Bildern aus dem Internet aus der Zeit vor 2022, darunter Fotos, Webgrafiken, CGI und mehr, weist Pangram Image eine Falsch-Positiv-Rate von 0,16 % auf, was etwa 1 von 625 entspricht.

Genau wie bei unserem Flaggschiff-Textmodell veröffentlichen wir unsere Methodik offen und stehen im Austausch mit der Forschungsgemeinschaft. Pangram Image ist im Web-Dashboard für alle kostenlosen und kostenpflichtigen Pangram-Nutzer verfügbar und wird in Kürze auch in unserer Chrome-Erweiterung und anderen Integrationen verfügbar sein.

Wir sind zwar unglaublich stolz auf dieses Modell, doch handelt es sich hierbei noch nicht um die endgültige Version von „Pangram Image“. Wir werden das Modell in den kommenden Wochen weiter optimieren und die Genauigkeit steigern. Wir sind überzeugt, dass wir bereits große Fortschritte erzielt haben, und freuen uns, dieses frühe Modell der Öffentlichkeit vorstellen zu können. Während der Forschungsvorschau ist der Zugriff auf die „Pangram Image“-API nur auf Einladung möglich. Bitte wenden Sie sich an uns, wenn Sie an einer Zusammenarbeit interessiert sind, während wir dieses Modell zügig weiterentwickeln.

Warum gerade jetzt?

Von KI erzeugte Bilder sind mittlerweile unglaublich realistisch geworden. Früher konnte man noch an der Anzahl der Finger oder an fehlerhaftem Text erkennen, dass es sich um KI-generierte Bilder handelte. Heute folgen KI-Bilder den Vorgaben und sind realistischer denn je.

Zudem sind KI-generierte Bilder immer häufiger anzutreffen. Im Internet findet man sie überall – von „Fruit Love Island“-TikToks bis hin zu KI-generierten Videos zum Iran-Krieg. Man hört Geschichten von Menschen, die mithilfe von KI Insekten in ein Foto ihrer Essensportion einfügen, um eine Rückerstattung für ihre Lieferung zu erhalten. Sogar auf Speisekarten und Schildern sieht man Bilder, die offensichtlich von einer KI generiert wurden.

Genau wie bei Text sind nicht alle Anwendungsfälle von KI-Bildern schädlich. Es gibt jedoch viele Szenarien, in denen wir das wirklich wissen wollen. In den letzten Monaten gab es ein Bild von Mitch McConnell im Krankenhaus, bei dem spekuliert wurde, es stamme von einer KI (was nicht der Fall war). In den sozialen Medien kursierten von einer KI generierte Fotos von Taylor Swifts Hochzeit. Ein von einer KI generiertes Bild schaffte es sogar bis in die Endrunde eines großen Fotowettbewerbs.

Im Gegensatz zu Text werden erhebliche Anstrengungen unternommen, um sicherzustellen, dass die Herkunft von Bildern und Videos nachverfolgt werden kann. Maßnahmen wie SynthID und C2PA-Metadaten sowie unsichtbare Wasserzeichen in Bildern dienen dazu, die Herkunftskette sowohl von echten als auch von KI-generierten Bildern zu identifizieren. Leider lassen sich Wasserzeichen mit Tools, die Wasserzeichen rückentwickeln und Metadaten entfernen, leicht umgehen. Hinzu kommt, dass zwar sowohl OpenAI als auch Google SynthID implementieren, andere Anbieter von KI-Bildern dies jedoch nicht tun. Das bedeutet, dass man sich allein auf Wasserzeichen nicht vollständig auf die Herkunft eines Bildes verlassen kann, dem Metadaten fehlen.

Funktionen zur Bilderkennung

Wir haben unser Bildmodell darauf trainiert, Bilder aus einer Vielzahl von KI-Bildgeneratoren zu erkennen, darunter GPT Image von OpenAI, Nano Banana von Gemini, FLUX, Midjourney und Grok Imagine. Dieses Modell kann zudem Einzelbilder aus KI-Videogeneratoren wie Kling, Seedance, Veo und Wan erkennen.

In den meisten Fällen werden mit KI bearbeitete Bilder von unserem Modell als vollständig KI-generiert gekennzeichnet, da moderne Bildgenerierungstools das gesamte Bild neu generieren, selbst wenn nur geringfügige Änderungen vorgenommen werden.

Mit unserer Heatmap-Funktion können wir auch gemischte Bilder erkennen. Diese Funktion zeigt Ihnen, welche Teile des Bildes als KI-Ergebnis markiert wurden. Intern haben wir festgestellt, dass diese Funktion nützlich ist, um Screenshots oder Fotos aus der realen Welt zu testen, die zwar KI-Elemente enthalten, aber nicht vollständig KI-generiert sind. Wir sind der Meinung, dass die Bereitstellung dieser Heatmap-Informationen den Nutzern helfen kann, unser Modell besser zu verstehen. Daher stellen wir diese Heatmap direkt im Dashboard zur Verfügung.

In dieser ersten Vorschau auf unsere Forschungsergebnisse sind einige Bildkategorien noch nicht berücksichtigt. Derzeit können wir keine Bilder mit einer Auflösung von weniger als 512 × 512 Pixel verarbeiten, da unserem Modell bei diesen kleineren Bildern deutlich weniger Informationen zur Verfügung stehen. Außerdem können wir Deepfakes und Gesichtsvertauschungen noch nicht zuverlässig erkennen, da wir uns in dieser ersten Version auf gängigere Bildgeneratoren für Endverbraucher konzentriert haben.

Aus Sicherheitsgründen können wir derzeit auch keine Inhalte bearbeiten, die von unseren Moderationssystemen als NSFW-Bilder gekennzeichnet wurden. Wir werden diese Einschränkung in Zukunft aufheben können, sobald wir weitere Sicherheitsmaßnahmen eingerichtet haben und die Forschungsvorschau verlassen.

Wie wir es entwickelt haben

Architektur

Unser Modell baut auf der branchenüblichen DINOv3-Architektur auf. DINOv3 ist ein leistungsstarkes, universell einsetzbares Repräsentationsmodell für die Bildverarbeitung, das Bilder als Vektoren darstellt, die auch als „Embeddings“ oder „Features“ bezeichnet werden: Zahlenlisten, die alle visuellen Merkmale eines Bildes in komprimierter Form kodieren.

Diese Einbettungen sind so leistungsfähig, dass sie alle Informationen enthalten, die erforderlich sind, um eine Vielzahl von Aufgaben im Bereich der Bildverarbeitung – wie Klassifizierung, Tiefenschätzung oder Segmentierung – mit außergewöhnlicher Genauigkeit zu lösen. Unsere Hypothese lautete, dass diese Einbettungen angesichts ihres universellen Charakters und ihrer Fähigkeit, sowohl lokale als auch globale Eigenschaften von Bildern zu erfassen, einen naheliegenden Ausgangspunkt für die KI-basierte Bilderkennung darstellen würden.

DINOv3 extrahiert universell einsetzbare Bildmerkmale, die Klassifizierung, Suche, Hauptkomponentenanalyse (PCA), Erkennung, Segmentierung und Tiefenschätzung unterstützen.

Bildquelle: Meta Research Blog

Was diese Merkmale so leistungsstark macht, ist eine Weiterentwicklung eines langjährigen Forschungszweigs, der als selbstüberwachtes Lernen bezeichnet wird. Diese Merkmale werden von einem Modell erlernt, das allgemeine Eigenschaften von Bildern anhand umfangreicher Datensätze erlernt, anstatt für eine bestimmte Aufgabe optimiert zu werden. Insbesondere DINO nutzt eine Technik namens Selbstdestillation, bei der ein „Schüler“-Neuralnetzwerk die Ausgabe eines „Lehrer“-Neuralnetzwerks über unterschiedliche Ansichten und Augmentationen eines Bildes hinweg nachbilden muss. Die Muster und das Weltwissen, die DINO im Laufe seines Trainings erwirbt, machen es wesentlich leistungsfähiger, als wenn wir ein neuronales Netzwerk zufällig initialisieren und die KI-Bilderkennungsaufgabe von Grund auf neu erlernen würden.

Wir stellen jedoch fest, dass die KI-Erkennung nicht nur eine gewöhnliche nachgelagerte Aufgabe ist. Anstelle des typischen Vorgehens, bei dem lediglich ein Klassifikationskopf auf der Grundlage festgelegter DINO-Merkmale trainiert wird, nutzen wir stattdessen ein fortlaufendes Training, um das Backbone zusammen mit dem Klassifikationskopf für die KI-Erkennung vollständig zu verfeinern: So können sich die DINO-Merkmale weiterentwickeln, während unser Modell im Verlauf unserer zweiten Trainingsphase ein immer besseres Verständnis dafür gewinnt, wie sich menschliche und KI-Bilder voneinander unterscheiden.

Trainingsdaten

Die Qualität, Vielfalt und der Umfang der Daten sind für jedes Grundmodell von entscheidender Bedeutung, und Pangram Image bildet da keine Ausnahme. Wir haben festgestellt, dass die spezifische Zusammensetzung der Daten – sowohl bei von Menschen als auch bei von KI generierten Bildern – den größten Einfluss auf die endgültige Genauigkeit des Modells hatte, verglichen mit allen anderen Faktoren, die wir getestet haben.

Wir haben bereits ausführlich über unser System zur Generierung synthetischer Daten für unseren KI-Textdetektor berichtet, das wir als „Synthetic Mirroring“ bezeichnen. Das „Synthetic Mirroring“-System erzeugt vielfältige KI-Beispiele, indem es KI-Modelle dazu anregt, Texte zu erstellen, die menschlichen Texten sehr ähnlich, aber nicht exakt identisch sind. Dieses System verankert jedes KI-Beispiel in realen Themen, Stilen, Genres und spezifischen Informationen und verhindert, dass sich das Modell zu stark an Unterschiede zwischen Paaren aus menschlichem und KI-Text anpasst, die nichts mit dem Schreibstil der KI zu tun haben. Tatsächlich ist der KI-Datensatz zum Trainieren des Textdetektors rein synthetisch: Das bedeutet, dass wir alle Daten selbst mithilfe von LLM-APIs generieren.

Für „Pangram Image“ nutzen wir nach wie vor die Technik der synthetischen Spiegelung. Wir verwenden ein Vision-Language-Modell (VLM) – ein Sprachmodell, das auch Bilder als Eingabe verarbeiten kann –, um zunächst eine äußerst detaillierte Bildbeschreibung eines realen Bildes zu generieren. Diese Bildbeschreibung geben wir dann als Eingabe in ein Bildgenerierungsmodell ein. Manchmal sehen die Bilder sich unheimlich ähnlich!

Ein Foto unseres Teams und seines KI-generierten Spiegels

Ein Foto unseres Teams und seines KI-generierten Spiegels

Eine der Herausforderungen, mit denen wir zu Beginn der Entwicklung von Pangram Image konfrontiert waren, bestand darin, dass die Arten von Bildern, die unsere synthetischen Spiegel erzeugten, nicht mit der Verteilung realer KI-Bilder übereinstimmten, die Nutzer online veröffentlichten. Wir erkannten, dass unsere Technik der synthetischen Spiegelung nicht ausreichte, um die komplexe Verteilung von KI-Bildern zu simulieren, die online „in freier Wildbahn“ zu finden sind. Bei der Erstellung von KI-generierten Bildern schneiden Nutzer diese oft so zu und bearbeiten sie auf eine Weise, die sich nur schwer simulieren lässt.

Unsere Lösung bestand letztendlich darin, neben den Bildern, die wir intern synthetisch generiert haben, in viel größerem Umfang auf reale KI-Bilder aus dem Internet zurückzugreifen. Wir haben unsere Datensätze aus der realen Welt unter Einhaltung ethischer Scraping-Grundsätze erstellt, um sicherzustellen, dass wir die Arbeit der Urheber respektieren und nicht versehentlich personenbezogene Daten oder Daten erfassen, deren Nutzung die Urheber nicht zustimmen würden. Darüber hinaus wenden wir während unseres Trainingsprozesses umfangreiche Augmentationen an, um sicherzustellen, dass wir die Art und Weise erfassen, wie Bilder verzerrt, komprimiert und bearbeitet werden, wenn sie online geteilt werden.

Originalbild vor der Vergrößerung

Dasselbe Bild nach der Bildverbesserung – zugeschnitten, verkleinert und komprimiert

Originalbild vor der Vergrößerung

Dasselbe Bild nach der Bildverbesserung – zugeschnitten, verkleinert und komprimiert

Original Erweitert

Zudem setzen wir auf ein neues Verfahren, das sogenannte „Composite Training“, um hochwertige Heatmaps zu erstellen, die die Interpretation von gemischten KI- und von Menschen erstellten Bildern erleichtern. Beim „Composite Training“ überlagern wir KI- und von Menschen erstellte Bilder, um unser Modell so zu trainieren, dass es sowohl lokale als auch globale Merkmale erkennt. Auf diese Weise können wir in unserem Modell Heatmaps darstellen, was unserer Erfahrung nach das Vertrauen der Nutzer erheblich stärkt und das Scannen von Objekten aus der realen Welt ermöglicht, die KI-Bilder enthalten.

Das Modell kombiniert KI- und von Menschen erstellte Bilder, sodass es sowohl lokale als auch globale Merkmale erlernt und interpretierbare Heatmaps erzeugt.

Bewertung und Prüfung

Fundierte Bewertungen sind ein zentraler Bestandteil unserer Strategie für alle unsere Produkte. Für Pangram Image haben wir eine große Anzahl von Bewertungsdatensätzen erstellt, um unsere Leistung in verschiedenen Bereichen zu messen. Die ethische Beschaffung von Daten ist für unsere Mission und unsere Werte als Unternehmen von größter Bedeutung: Im Rahmen dieses Engagements haben wir mit mehreren Personen innerhalb und außerhalb von Pangram zusammengearbeitet, um Bilder zu beschaffen, die von ihren Eigentümern zur Förderung der KI-Bilderkennung gespendet wurden.

Detektorübergreifender Vergleichstest

Wir haben einen internen Benchmark mit 1.130 Beispielbildern erstellt, um verschiedene kommerzielle KI-Bilderkennungsmodelle auf kosteneffiziente Weise miteinander zu vergleichen. Wir haben 500 Beispiele bekannter Bilder von Menschen zusammengestellt, darunter 100 Bilder aus dem persönlichen iPhone-Fotoalbum unseres CTO Bradley, um sicherzustellen, dass ein Teil des Benchmarks noch von keinem der KI-Bilderkennungsmodelle gesehen worden war.

Anschließend baten wir Claude, 100 Eingabeaufforderungen zu erstellen, die reale Anwendungsfälle der KI-Bildgenerierung widerspiegeln, und gaben diese Eingabeaufforderungen an fünf führende KI-Bildgenerierungsmodelle weiter: Flux 2 Pro, Bytedance Seedream, Gemini 3.1 Flash Image (Nano Banana), GPT Image und Riverflow v2. Schließlich haben wir 30 Bilder von der Website von Midjourney bezogen (da es dort keine API gibt).

Wir berichten über Ergebnisse sowohl für bereinigte Daten als auch für erweiterte Daten, bei denen eine Herunterskalierung auf 1024×1024 vorgenommen und das Bild in das JPEG-Format mit einer Qualität von 50 konvertiert wurde. Da dies einen höheren Grad an Bildkomprimierung darstellt als bei den meisten Bildern aus der Praxis, sind wir der Ansicht, dass dies einen guten Maßstab für die Qualität im Worst-Case-Szenario liefert.

Sauber

Erweitert

Falsch-positiv-Rate

Um die Leistungsfähigkeit unseres FPR in großem Maßstab zu beurteilen, haben wir Bilder aus dem ReLAION-Datensatz aus der Zeit vor 2022 ausgewertet, die von Common Crawl stammen, einer Quelle, die eine äußerst vielfältige Sammlung von Bildern aus dem gesamten Internet bereitstellt. Wir haben uns auf Bilder aus der Zeit vor 2022 beschränkt, um eine Verfälschung der Daten durch Bildgenerierungsmodelle zu vermeiden.

Verallgemeinerung auf KI-Videos

Um zu untersuchen, ob wir auch KI-generierte Videoinhalte erkennen können, haben wir zudem einen internen Datensatz mit Videoausgaben aus den neuesten Modellen zur Videogenerierung erstellt. Diese Videos wurden mit echten Fotos von Menschen aus unserem Datensatz als Ausgangsbasis erstellt.

Diese Videobilder wurden mit einem Gemini VLM beschriftet. Wir berichten über unsere Ergebnisse für neun Videomodelle: Google Veo 3.1 und Veo 3.1 Fast, Wan 2.7, Grok Image Video, Kling Video O1 und 3.0 Standard sowie Seedance 2.0 und 2.0 Fast.

Verallgemeinerung auf reale KI-Bilder aus sozialen Medien

Eine Quelle für diese Auswertungen war unser neuer @PangramData-Account. Wir möchten uns bei der Community dafür bedanken, dass sie uns dabei geholfen hat, den Einsatz von KI in der Praxis besser zu verstehen, und sich die Zeit genommen hat, diese Erkenntnisse mit uns zu teilen. Nachdem wir die Daten manuell bereinigt hatten, um Bilder zu entfernen, die entweder nicht in den Untersuchungsbereich fielen oder eindeutig keine KI darstellten, stellten wir fest, dass unser Modell bei nur 2 der 43 eingereichten Bilder zu einem anderen Ergebnis kam als die Nutzer. Dies ist ein unglaublich hilfreicher Datensatz für uns, da er uns ein tiefes Verständnis dafür vermittelt, welche Arten von Bildern unsere Nutzer als KI einstufen.

Falsch-negative Unstimmigkeiten:

Eine Diskrepanz aufgrund eines falsch-negativen Ergebnisses zwischen unserem Modell und dem von der Community eingereichten Ergebnis

Eine Diskrepanz aufgrund eines falsch-negativen Ergebnisses zwischen unserem Modell und dem von der Community eingereichten Ergebnis

Benchmarks von Drittanbietern

Zusätzlich zu unseren internen Evaluierungsdatensätzen vergleichen wir unsere Ergebnisse auch anhand relevanter Benchmarks von Drittanbietern. Pangram Image erzielt im Vergleich zu früheren Ansätzen eine Leistung auf dem neuesten Stand der Technik. Da verschiedene Benchmarks unterschiedliche spezifische Metriken wie Makro-Genauigkeit, mAP oder AUROC ausweisen, berechnen wir die Metriken gemäß der jeweiligen Veröffentlichung und geben den Vergleich an, der den dort angegebenen Werten am nächsten kommt.

Fallstudie zu Reddit r/IsThisAI

Eine der besten Quellen, die wir haben, um die Einschätzung der Community darüber zu erhalten, ob Bilder aus der realen Welt von einer KI stammen oder nicht, ist der Subreddit /r/IsThisAI. Dies macht ihn zu einer guten repräsentativen Fallstudie für die Übereinstimmung unseres Modells mit den menschlichen Präferenzen und ermöglicht es uns, Fehlerquellen in unserem Modell aufzudecken. Für diese Fallstudie haben wir eine Sammlung von 100 Beiträgen aus dem Subreddit zusammengestellt. Von diesen gab es bei 27 keinen klaren Konsens in der Community, weshalb sie aus unserem Auswertungssatz herausgefiltert wurden. Der Konsens wurde von einem menschlichen Annotator beurteilt.

Von den verbleibenden 73 Bildern wurden 48 von der Community als KI-Ergebnis eingestuft, während die übrigen 25 als von Menschen erstellt eingestuft wurden. Pangram Image stimmte bei allen 25 von Menschen erstellten Beispielen sowie bei 40 der 45 KI-Beispiele, die als KI-Ergebnis eingestuft wurden, korrekt mit der Entscheidung auf Reddit überein. Dies steht im Einklang mit unserer Strategie, unsere Modelle so zu kalibrieren, dass das Risiko von Fehlalarmen minimiert wird.

Wie geht es mit Pangram Image weiter?

Auch wenn wir dieses Modell für hervorragend halten und voller Zuversicht in die Zukunft blicken, wissen wir, dass noch viel zu tun ist. Was die Forschung angeht, wissen wir, dass die Leistung bei adversarischen Fällen verbessert werden kann, beispielsweise wenn Wasserzeichen entfernt oder KI-Bilder nach ihrer Generierung bearbeitet werden. Darüber hinaus planen wir, die Falsch-Positiv-Rate weiter zu senken, bis sie näher an die unseres Textmodells heranreicht.

Was das Produkt angeht, sind im Laufe der Zeit weitere Verbesserungen zu erwarten. Der X-Bot wird bald in der Lage sein, Bilder auf KI-Inhalte zu überprüfen, und das Dashboard wird Videos als Eingabe akzeptieren können. Letztendlich werden wir Pangram Image in die Chrome-Erweiterung integrieren, sodass alle Pangram-Nutzer proaktive KI-Kennzeichnungen für Bilder in ihren Social-Media-Feeds erhalten.

Literaturverzeichnis

1: Park et al., „Community Forensics: Einsatz Tausender Generatoren zum Trainieren von Detektoren für gefälschte Bilder“, CVPR 2025. https://huggingface.co/datasets/OwensLab/CommunityForensics-Eval/blob/main/README.md 2: Qin et al., „Scaling Up AI-Generated Image Detection with Generator-Aware Prototypes“, CVPR 2026, Tabelle 1. https://openaccess.thecvf.com/content/CVPR2026/papers/Qin_Scaling_Up_AI-Generated_Image_Detection_with_Generator-Aware_Prototypes_CVPR_2026_paper.pdf 3: Guo et al., „OmniAID: Entkopplung von Semantik und Artefakten für die universelle Erkennung KI-generierter Bilder in der freien Natur“, https://arxiv.org/pdf/2511.08423 4: Pantsios et al., „Automatisierte Datenerfassung in der realen Umgebung für die kontinuierliche Erkennung KI-generierter Bilder“, https://arxiv.org/pdf/2605.02567 5: Gushchin et al., „NTIRE 2026 Challenge on Robust AI-Generated Image Detection in the Wild“, https://arxiv.org/pdf/2604.11487

Danksagungen

Wir möchten uns bei Artem Frenk für seine Beiträge zur Recherche, bei Ben Glickenhaus für die technische Umsetzung, bei Lu Lyu und Fanyi Pan für das Design und die Benutzeroberfläche sowie bei Tianxu Zhou für die Integration der Chrome-Erweiterung bedanken.