OpenAI hat angekündigt, in den kommenden Wochen damit zu beginnen, von ChatGPT generierte Texte in der Europäischen Union standardmäßig mit Wasserzeichen zu versehen. Diese Maßnahme dient der Einhaltung des im August in Kraft getretenen EU AI Act, der eine Kennzeichnung von KI-generierten Inhalten vorschreibt. Außerhalb der EU wird die Wasserzeichenfunktion zwar angeboten, ist dort jedoch standardmäßig deaktiviert.
Hintergrund: Der EU AI Act
Der EU AI Act, ein umfassendes Regelwerk für künstliche Intelligenz, verpflichtet Entwickler von KI-Modellen dazu, Inhalte so zu kennzeichnen, dass sie von anderen Werkzeugen erkannt werden können. Bisher gibt es jedoch keine vollständig effektive oder absolut zuverlässige Methode, um dies zu gewährleisten. Bestehende Standards wie SynthID oder das C2PA-Projekt sind bekannt dafür, dass sie mit grundlegendem technischem Wissen relativ leicht umgangen werden können.
Funktionsweise und Zuverlässigkeit von textGrain
OpenAIs eigene Methode zur Kennzeichnung, genannt textGrain, ist proprietär und wurde in einem technischen Papier erläutert. Sie funktioniert ähnlich wie andere Wasserzeichen-Tools für große Sprachmodelle (LLMs): Es werden Muster in die Wortwahl eingefügt, die für menschliche Leser nicht erkennbar sind und die Qualität des Outputs nicht wesentlich verändern. Ein spezialisierter Detektor mit entsprechendem Schlüssel kann diese Muster jedoch identifizieren. OpenAI plant, den Zugang zu diesem Detektor zunächst einer begrenzten Anzahl von Forschern und Organisationen zu gewähren und einen Genehmigungsprozess für weitere Interessenten einzurichten.
Die Zuverlässigkeit von textGrain ist, ähnlich wie bei Konkurrenzlösungen, begrenzt. Tests von OpenAI zeigen eine Erkennungsrate von 92 Prozent unter optimalen Bedingungen. Allerdings reduziert sich diese Rate erheblich, wenn der Text verändert wird: Eine Änderung von nur 10 Prozent des Outputs senkt die erfolgreiche Erkennung um fast 30 Prozent, und bei 20 Prozent Textänderung fällt die Erfolgsquote um fast 75 Prozent. Zudem ist die Erkennungsrate bei kürzeren oder übersetzten Texten generell geringer als bei längeren Texten.
Regionale Unterschiede und Konkurrenz
Während OpenAI die standardmäßige Aktivierung der Wasserzeichenfunktion auf die EU beschränkt – zumindest für die ChatGPT- und Codex-Anwendungen – hat der Wettbewerber Anthropic bereits im August Wasserzeichen für Texte seiner Modelle weltweit eingeführt. Für OpenAIs API-Nutzer wird die Funktion außerhalb der EU zwar verfügbar, bleibt aber standardmäßig deaktiviert.
Thema: OpenAI. Quelle/Inspiration: Ars Technica.