Google hat seinen KI-Inhaltsdetektor SynthID global zugänglich gemacht. Nutzer können ab sofort auf einer neuen Webseite unter SynthID.com überprüfen, ob Medieninhalte wie Bilder, Videos oder Audio mithilfe von Künstlicher Intelligenz erstellt oder bearbeitet wurden. Das Tool unterstützt nun auch die unsichtbaren Wasserzeichen von Partnern wie OpenAI und Nvidia.
Wie SynthID funktioniert und was neu ist
SynthID ist ein unsichtbares Signal, das in die Pixel von KI-generierten Bildern und Videos sowie in die Wellenform von KI-Audio eingebettet wird. Google gibt an, dass die eigenen Gemini-Modelle bereits über 180 Milliarden Bilder und Videos sowie 240.000 Jahre Audio mit SynthID versehen haben. Bisher war die Überprüfung von SynthID-Wasserzeichen außerhalb von Googles internem Testerprogramm umständlich und erfolgte hauptsächlich über eine Anfrage an das Gemini-Modell selbst, dessen Antworten oft unklar waren. Die neue Webseite vereinfacht diesen Prozess erheblich und liefert eine direkte „Ja“- oder „Nein“-Antwort zur Anwesenheit eines Wasserzeichens.
Unterstützte Partner und Nutzung
Eine wesentliche Neuerung ist die erweiterte Kompatibilität des Detektors. Während frühere Versionen nur Googles eigene SynthID-Wasserzeichen erkennen konnten, unterstützt die neue Version die spezifischen Wasserzeichen aller SynthID-Partner. Dazu gehören aktuell OpenAI, Nvidia und Kakao; Apple soll demnächst folgen. Nutzer können sich auf SynthID.com mit einem Google-, OpenAI- oder Apple-Konto anmelden. Die Nutzung ist allerdings begrenzt: Jeder Nutzer erhält ein tägliches Kontingent von etwa 10 Prüfungen für Bilder, Videos oder Audio. Diese Beschränkung dient laut Google-Ingenieuren dazu, die Entwicklung von Tools zur Entfernung von SynthID-Wasserzeichen zu erschweren.
Grenzen der Erkennung
Trotz der Erweiterung ist SynthID kein umfassendes Werkzeug zur Erkennung aller KI-generierten Inhalte. Viele andere Modell-Anbieter nutzen andere Wasserzeichen-Technologien, wie beispielsweise Meta, oder verzichten gänzlich auf Wasserzeichen. Auch Open-Weight-Modelle, die Nutzer auf eigener Hardware betreiben können, produzieren KI-Inhalte, die keine einfachen Metadaten-Markierungen enthalten. Dies bedeutet, dass zahlreiche KI-Inhalte vom SynthID-Tool nicht als solche identifiziert werden können, worauf die Webseite mit einem Disclaimer hinweisen wird. Zudem besteht die Möglichkeit, dass trotz Googles Bemühungen Methoden zur Entfernung von SynthID-Wasserzeichen entwickelt werden könnten, was die Authentizität von KI-Inhalten weiter verschleiern würde. Als ergänzender Ansatz wird die Verwendung kryptografischer Technologien wie C2PA genannt, die reale Medieninhalte bereits bei ihrer Erstellung kennzeichnen. Google Pixel-Telefone nutzen diese Technologie bereits.
Thema: OpenAI. Quelle/Inspiration: Ars Technica.