Googles SynthID-System hat erfolgreich ein KI-generiertes Bild des US-Senators Mitch McConnell als Fälschung identifiziert. Das System erkannte ein unsichtbares Wasserzeichen in dem weit verbreiteten Bild, das McConnell in einem Krankenhausbett in extremer Notlage zeigte.
Das Bild, das den Senator aus Kentucky mit Schläuchen bedeckt in einem Krankenhausbett darstellte, verbreitete sich Anfang der Woche schnell online, unter anderem auf Reddit und X. Die Gerüchte über McConnells Gesundheitszustand hatten seit seinem Krankenhausaufenthalt nach einem Notruf am 14. Juni zugenommen, da er sich weitgehend aus der Öffentlichkeit zurückgezogen hatte. Die renommierte Faktencheck-Website Snopes entlarvte das Bild jedoch bis Mittwoch als Fälschung, nachdem SynthID das darin enthaltene Wasserzeichen erkannt hatte. Dies demonstrierte die Funktionstüchtigkeit der Anti-Deepfake-Technologie.
Funktionsweise von Googles SynthID
SynthID, das auf der Google I/O-Entwicklerkonferenz 2025 vorgestellt wurde, funktioniert als unsichtbare Signatur oder digitales Wasserzeichen. Dieses ist für SynthID-Algorithmen sichtbar, aber für den menschlichen Betrachter nicht wahrnehmbar. Da die Signatur direkt in das Bild integriert ist, bleibt sie erhalten, auch wenn das Bild über verschiedene Plattformen hinweg als Screenshot weiterverbreitet wird, wie es im Fall des McConnell-Bildes geschah.
Beteiligung und Nutzerprüfung
Die Hauptbeschränkung von SynthID liegt darin, dass es nur bei Bildern funktioniert, deren Erzeugungswerkzeuge aktiv am Programm teilnehmen. Googles eigene Gemini-Modelle integrieren das Wasserzeichen seit dem Start des Programms im Jahr 2025. OpenAI trat dem Programm im Mai 2026 bei, um die Verbreitung bösartiger Bildgenerierungen zu bekämpfen. Das Unternehmen Anthropic beteiligt sich derzeit nicht an dem Programm. Nutzer können die Echtheit von Bildern überprüfen, indem sie ein Gemini-Modell befragen oder die öffentliche Bildüberprüfung von OpenAI nutzen.
Thema: Google. Quelle/Inspiration: TechCrunch.