Internationale Normungsgremien wie die International Electrotechnical Commission (IEC), die International Organization for Standardization (ISO) und die International Telecommunication Union (ITU) intensivieren ihre Bemühungen, Werkzeuge zur Unterscheidung von authentischen Bildern und Videos von KI-generierten Fälschungen bereitzustellen. Neue Standards wurden kürzlich auf der unter UN-Schirmherrschaft stehenden „AI for Good“-Konferenz in Genf vorgestellt, um dem erwarteten Anstieg von Betrug durch generative KI entgegenzuwirken, dessen Kosten in den USA laut Schätzungen von Deloitte’s Center for Financial Services bis 2027 auf 40 Milliarden US-Dollar ansteigen könnten.
Die zunehmende Verbreitung von Bildern und Videos, die mit generativer Künstlicher Intelligenz (KI) erzeugt werden, hat zu einer Glaubwürdigkeitskrise geführt. Es wird immer schwieriger, echte Fotos von KI-generierten Fälschungen zu unterscheiden. Dies hat weitreichende Auswirkungen auf die Gesellschaft und Unternehmen, da die Authentizität von Bildern in Nachrichten, sozialen Medien und sogar als Beweismittel in Gerichtsverfahren infrage gestellt wird. Bereits im Jahr 2023 beliefen sich die Betrugsverluste in den USA auf 12,3 Milliarden US-Dollar.
Die finanzielle Dimension des KI-Betrugs
Die finanziellen Auswirkungen des KI-gestützten Betrugs sind erheblich. Schätzungen von Deloitte’s Center for Financial Services prognostizieren, dass die durch generative KI ermöglichten Betrugsverluste in den USA von 12,3 Milliarden US-Dollar im Jahr 2023 auf 40 Milliarden US-Dollar im Jahr 2027 steigen könnten. Dies unterstreicht die Dringlichkeit, wirksame Mechanismen zur Erkennung und Bekämpfung von Fälschungen zu etablieren.
Professor Touradj Ebrahimi vom Schweizerischen Bundesinstitut für Technologie leitet die Bemühungen zur Bekämpfung von KI-Betrug und Deepfakes (tiefgreifende Fälschungen, die meist durch KI erzeugt werden). Er arbeitet mit den genannten internationalen Normungsgremien zusammen, um gemeinsame Standards zu entwickeln. Ebrahimi betont die Notwendigkeit von Metadaten und Informationen, um Inhalte in den richtigen Kontext einordnen zu können.
JPEG Trust: Ein Ansatz zur Authentifizierung
Ein zentraler Schritt in diesen Bemühungen ist die Einführung von zwei Erweiterungen der JPEG Trust-Standards durch IEC und ISO. Der erste JPEG Trust-Standard wurde im vergangenen Jahr vorgestellt und bietet einen Rahmen zum Einbetten von Metadaten in Form von Vertrauensindikatoren direkt in JPEG-Dateien.
Laut Ebrahimi zielt der JPEG Trust-Standard darauf ab, Verifizierungswerkzeuge in die Hände der Endnutzer zu legen. Er ist nicht dazu gedacht, Bilder oder Daten zum Zeitpunkt ihrer Erstellung zu validieren oder zu kennzeichnen. „Betrüger werden ihre Inhalte nicht als KI kennzeichnen“, so Ebrahimi. Der Standard soll Nutzern die Möglichkeit geben, auf Basis des Inhalts und ihres Profils zu entscheiden, ob sie einem Medium vertrauen möchten. Die Vertrauenswürdigkeit eines Inhalts ist zudem stark kontextabhängig.
Die Bemühungen zum Schutz vor Betrug in Multimediainhalten begannen bereits 2018, als das JPEG-Komitee der IEC und ISO erstmals Bedenken hinsichtlich inauthentischer Inhalte äußerte. Die Herausforderung besteht nun darin, die Standards zu erweitern, um Nutzern und Unternehmen bei der Überprüfung der Authentizität von KI-generierten Bildern zu helfen.
Weitere Standards in Entwicklung
Neben JPEG Trust werden im Rahmen der „AI and Multimedia Authenticity and Standards“-Initiative der IEC und ISO weitere Multimediastandards entwickelt:
- Originator Profile: Dieser Standard bietet einen Rahmen zur Dokumentation des Ursprungs digitaler Inhalte. Er umfasst Richtlinien zur Erstellung und Pflege von Profilen, die detaillierte Informationen über den Ersteller des Inhalts und dessen Entstehungsprozess erfassen.
- Vocabulary for expressing content preferences for AI: Hier wird ein standardisiertes Vokabular für Anwendungsfälle vorgeschlagen, die maschinenlesbare Opt-out-Optionen im Zusammenhang mit Text- und Data-Mining sowie dem Training von KI-Modellen betreffen.
- H.MMAUTH: Framework for authentication of multimedia content: Dieser vorgeschlagene Standard basiert auf der digitalen Signierung von Datenströmen. Er ermöglicht es Nutzern, die Authentizität von Inhalten durch deren Ersteller über eine vertrauenswürdige dritte Partei zu bestätigen.
Bisher waren die Bemühungen zur Identifizierung und Bekämpfung von Deepfakes und KI-Betrug oft fragmentiert, da Unternehmen eigene Ansätze innerhalb ihrer Ökosysteme förderten. Die große Frage bleibt, welcher dieser Standards sich letztendlich durchsetzen wird und eine breite Akzeptanz finden kann.
Thema: Technologie / KI allgemein. Quelle/Inspiration: ZDNet.