OpenAI führt in den kommenden Wochen unsichtbare Wasserzeichen für Texte ein, die mit ChatGPT und Codex in der Europäischen Union generiert werden. Diese Maßnahme dient der Einhaltung des EU AI Act, der KI-Anbieter zur maschinenlesbaren Kennzeichnung generierter Inhalte verpflichtet. Im Gegensatz dazu können API-Kunden weltweit die Wasserzeichen-Funktion optional aktivieren.
Funktionsweise von textGrain und Verfügbarkeit
Die von OpenAI entwickelte Technologie namens textGrain bettet ein unsichtbares statistisches Signal in die Wortwahl des Modells ein. Dies ähnelt der Funktionsweise von Claudes SynthID-Wasserzeichen, das auf Googles Open-Source-Technologie basiert. OpenAI hat textGrain internen Tests zufolge anderen Ansätzen, einschließlich Googles SynthID für Text, als überlegen oder ebenbürtig eingestuft.
Die Wasserzeichen werden für ChatGPT- und Codex-Nutzer in der EU in den kommenden Wochen aktiviert. Für API-Kunden weltweit ist die Nutzung opt-in, was einen Unterschied zu Anthropic darstellt, dessen Claude-Wasserzeichen global verpflichtend sind. Die API-Wasserzeichen von OpenAI werden auch über Cloud-Partner wie Microsoft Azure verfügbar sein.
Erkennungsraten und Einschränkungen
Die Erkennungsraten der Wasserzeichen hängen stark von Textlänge und Thema ab. Bei einer Zielrate von 1 Prozent für falsch-positive Erkennungen wurden in internen Tests etwa 95 Prozent der 400 Token langen Passagen über Psychologie erkannt. Bei 200 Token sank die Rate auf etwa 80 Prozent. Inhalte aus dem Bereich Mathematik zeigten deutlich niedrigere Erkennungsraten, da das Modell hier weniger Freiheit bei der Wortwahl hat.
Das Bearbeiten von Texten erschwert die Erkennung erheblich: Das Ersetzen von nur 10 Prozent der Wörter durch Synonyme reduziert die Erkennungsrate für 400-Token-Passagen von etwa 92 Prozent auf 66 Prozent. Bei 25 Prozent ersetzter Wörter fällt die Erkennung auf 17 Prozent, was die Umgehung des Wasserzeichens vereinfacht. OpenAI plant, die textGrain-Technologie als Open Source freizugeben.
Auswirkungen auf Textqualität und Detektorzugang
OpenAI gibt an, dass die Wasserzeichen die Qualität der Ausgabe nicht beeinträchtigen. Tests mit dem Modell Astra zeigten keine signifikanten Leistungsunterschiede bei aktivierten oder deaktivierten Wasserzeichen über acht Benchmarks, darunter GPQA Diamond, BrowseComp und DeepSWE. Es bleibt jedoch unklar, ob die Schreibqualität beeinflusst wird, eine Frage, die auch bei Claudes Wasserzeichen aufkam.
Ein erkanntes Wasserzeichen gibt keine Auskunft über den Anteil menschlicher Kreativität oder Bearbeitung, Eigentumsverhältnisse, Verantwortlichkeiten, Nutzeridentitäten oder die Genauigkeit des Textes. Ein fehlendes Wasserzeichen beweist ebenfalls nicht, dass ein Text von einem Menschen verfasst wurde, da er zu kurz, bearbeitet oder übersetzt sein könnte.
Der Zugang zum textGrain-Detektor wird zunächst auf ausgewählte Forscher und spezialisierte Organisationen beschränkt, die sich über ein Antragsformular bewerben können. OpenAI begründet diese Einschränkung damit, dass der Detektor unvermarkte Texte fälschlicherweise markieren oder Wasserzeichen übersehen kann. Eine Erweiterung des Zugangs ist geplant, sobald die Ergebnisse verantwortungsvoll interpretiert werden können. Bestehende Verifizierungstools für Bilder und Audio bleiben öffentlich zugänglich.
Thema: OpenAI. Quelle/Inspiration: The Decoder.