Zum Inhalt springen
SONOYA.com
KI

KI-Bilder erkennen: Content Credentials prüfen

Ist das Bild KI-generiert? So prüfst Du Herkunftsdaten nach C2PA im Browser, mit exiftool und c2patool, nutzt SynthID und erkennst die Grenzen.

Von

Symbol eines Fotos mit Prüfhaken als Sinnbild für die Kontrolle von Herkunftsdaten, die zeigen, ob ein Bild mit KI erzeugt wurde

Ein Foto macht die Runde, und Du fragst Dich, ob es echt ist oder aus einem Bildgenerator stammt. Die sogenannten KI-Detektoren im Netz, die ein Bild nach Gefühl bewerten, liegen oft daneben. Verlässlicher sind Herkunftsdaten, die Kameras und KI-Dienste inzwischen direkt in die Datei schreiben. Hier lernst Du, diese Daten im Browser und im Terminal auszulesen, was sie belegen und, genauso wichtig, was sie nicht belegen.

Den Befehl mit exiftool habe ich mit Version 13.25 unter Debian 13 getestet, die Angaben zu den Diensten folgen den Dokumentationen der jeweiligen Anbieter, Stand November 2026.

Was C2PA und Content Credentials sind

Die Coalition for Content Provenance and Authenticity, kurz C2PA, ist ein offener Standard, hinter dem unter anderem Adobe, Google, Microsoft, OpenAI und große Kamerahersteller stehen. Er beschreibt, wie ein Programm oder eine Kamera ein digital signiertes Herkunftsprotokoll in eine Datei einbettet. Dieses Protokoll nennt sich Manifest, im Alltag heißt es Content Credentials.

Ein Manifest kann zum Beispiel festhalten, mit welchem Werkzeug ein Bild erstellt wurde, ob es mit KI erzeugt oder bearbeitet wurde und welche Bearbeitungsschritte folgten. Es ist mit einem Zertifikat signiert und über Prüfsummen an den Bildinhalt gebunden. Ändert jemand das Bild, ohne ein neues Manifest zu schreiben, passt die Signatur nicht mehr, und ein Prüfwerkzeug meldet das. Die technischen Details stehen in der C2PA-Spezifikation.

Herkunftsdaten setzen heute unter anderem:

  • OpenAI für Bilder aus ChatGPT und der API, zusätzlich mit einem SynthID-Wasserzeichen (OpenAI Help Center)
  • Adobe Firefly für vollständig generierte Bilder
  • Microsoft für Bilder aus Copilot, Designer und dem Bing Image Creator
  • Google in einer wachsenden Zahl seiner generativen Werkzeuge sowie die Kamera des Pixel 10
  • Samsung für KI-bearbeitete Fotos ab der Galaxy-S25-Reihe
  • Kameras von Leica und Sony, die schon bei der Aufnahme signieren und so umgekehrt belegen, dass ein Bild aus einer echten Kamera stammt

Schritt 1: Im Browser prüfen

Der einfachste Weg ist das Prüfwerkzeug der Content Authenticity Initiative. Öffne inspect.cr und zieh die Bilddatei in das Fenster. Private Fotos prüfst Du besser lokal im Terminal, wie unten gezeigt, dann verlässt die Datei Deinen Rechner nicht.

Findet das Werkzeug ein Manifest, zeigt es drei Bereiche: wer das Bild signiert hat, mit welcher App oder welchem Gerät es entstand und welche Aktionen protokolliert sind. Steht dort etwa „Created using Generative AI“ oder ein KI-Dienst als Werkzeug, ist die Sache klar. Ohne Herkunftsdaten erscheint „No Content Credential“. Das ältere Werkzeug unter verify.contentauthenticity.org funktioniert genauso.

Liegt das Bild nur als Link vor, lädst Du es zuerst herunter, und zwar in Originalgröße. Ein Screenshot reicht nicht, denn er ist ein neues Bild ohne Manifest.

Schritt 2: Im Terminal prüfen

Im Terminal prüfst Du Bilder, ohne sie irgendwo hochzuladen. Am Mac installierst Du beide Werkzeuge mit Homebrew:

Code
brew install exiftool
brew install c2patool

Unter Debian, Ubuntu oder Raspberry Pi OS bekommst Du exiftool mit sudo apt install libimage-exiftool-perl. Für c2patool gibt es fertige Programmdateien auf der Release-Seite des Projekts.

Den KI-Hinweis in den Metadaten lesen

Viele Generatoren schreiben zusätzlich zum Manifest ein einfaches Metadatenfeld des Presse-Standards IPTC, den DigitalSourceType. Du fragst es so ab:

Code
exiftool -XMP-iptcExt:DigitalSourceType bild.jpg

Ersetze bild.jpg durch den Pfad zu Deiner Datei. Bei einem KI-generierten Bild sieht die Ausgabe so aus:

Code
Digital Source Type             : http://cv.iptc.org/newscodes/digitalsourcetype/trainedAlgorithmicMedia

trainedAlgorithmicMedia heißt vollständig mit KI erzeugt. compositeWithTrainedAlgorithmicMedia bedeutet, dass ein echtes Bild mit KI verändert oder ergänzt wurde. Ist das Feld nicht vorhanden, gibt exiftool schlicht nichts aus. Die Bedeutung aller Werte erklärt die IPTC-Spezifikation.

Dieses Feld ist nicht signiert und lässt sich von jedem setzen oder löschen. Es ist ein Hinweis, kein Beweis. Belastbarer ist das Manifest.

Das Manifest mit c2patool auslesen

Code
c2patool bild.jpg

Der Befehl gibt das vollständige Manifest als JSON aus. Wichtig sind darin drei Stellen: der Aussteller der Signatur, die Liste der Aktionen (etwa c2pa.created) mit dem digitalSourceType und ein Abschnitt validation_status, der nur dann auftaucht, wenn die Prüfung etwas zu beanstanden hat, etwa eine gebrochene Signatur. Für einen schnellen Überblick genügt:

Code
c2patool bild.jpg --info

Das zeigt die Größe der Herkunftsdaten, wie viele Manifeste die Datei enthält und ob sie gültig sind. Enthält die Datei keine Herkunftsdaten, bekommst Du statt eines Manifests einen Hinweis, dass keines gefunden wurde. Weitere Optionen beschreibt die Dokumentation von c2patool.

Schritt 3: Auf Wasserzeichen prüfen

Metadaten gehen verloren, ein Wasserzeichen im Bild selbst bleibt eher erhalten. Google markiert Bilder aus seinen KI-Diensten mit SynthID, einem unsichtbaren Wasserzeichen in den Pixeln, und OpenAI setzt es inzwischen ebenfalls ein. Am einfachsten prüfst Du es in der Gemini-App: Lade das Bild hoch und frag „Wurde dieses Bild mit Google-KI erstellt oder bearbeitet?“. Gemini sucht dann nach SynthID und nach Content Credentials. Daneben gibt es den SynthID Detector von Google DeepMind, und OpenAI bietet unter openai.com/verify einen eigenen Prüfdienst für seine Bilder.

Ein Treffer ist eindeutig. Kein Treffer heißt nur, dass das Bild nicht von einem Dienst stammt, der dieses Wasserzeichen setzt.

Was die Prüfung nicht beweisen kann

Das ist der wichtigste Abschnitt: Fehlende Herkunftsdaten beweisen nichts. Ein Screenshot, das Konvertieren in ein anderes Format und die meisten Messenger und sozialen Netzwerke entfernen Metadaten beim Hochladen. OpenAI weist selbst darauf hin, dass alltägliche Schritte wie ein Screenshot die Credentials löschen. Ein KI-Bild, das über WhatsApp weitergeleitet wurde, sieht deshalb für jedes Prüfwerkzeug aus wie ein Bild ohne Herkunft. Dazu kommen offene Bildmodelle, die lokal laufen und gar nichts kennzeichnen.

Umgekehrt beweist ein gültiges Manifest nur, wer das Bild signiert hat und was protokolliert wurde. Ob die abgebildete Szene so stattgefunden hat, sagt es nicht.

Ohne Herkunftsdaten bleibt Dir der kritische Blick, wie bei einer verdächtigen Mail im Artikel Phishing erkennen: Mails, SMS und Paketfallen prüfen:

  • Quelle suchen: Mit der umgekehrten Bildersuche (Google Lens, Bing) findest Du oft die erste Veröffentlichung und damit den Ursprung.
  • Details ansehen: Schrift auf Schildern, Hände, Schmuck, Spiegelungen und Hintergründe verraten Generatoren noch immer häufiger als Gesichter.
  • Kontext prüfen: Berichtet niemand sonst über das angebliche Ereignis, ist Vorsicht angebracht.

Was die EU-KI-Verordnung vorschreibt

Seit dem 2. August 2026 gilt Artikel 50 der EU-KI-Verordnung. Anbieter von KI-Systemen, die Bilder, Videos, Audio oder Text erzeugen, müssen ihre Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen, und wer Deepfakes veröffentlicht, muss sie offenlegen. Für Systeme, die schon vorher auf dem Markt waren, räumt die EU-Kommission eine Übergangsfrist ein. Das macht Herkunftsdaten in Zukunft häufiger, ändert aber nichts daran, dass sie unterwegs verloren gehen können.

Fazit

Wer wissen will, ob ein Bild aus einer KI stammt, prüft zuerst die Herkunftsdaten mit inspect.cr oder lokal mit c2patool, schaut mit exiftool nach dem DigitalSourceType und lässt im Zweifel Gemini nach SynthID suchen. Ein Treffer ist ein starkes Signal. Ein fehlender Treffer ist dagegen kein Echtheitsbeweis, sondern nur der Anlass, Quelle und Details genauer anzusehen. Dieselbe Skepsis lohnt sich bei Textantworten, wie der Artikel KI-Halluzinationen erkennen und vermeiden: so prüfst Du zeigt.

Weiterlesen.