Google hat eine kürzlich eingeführte Funktion in Google Earth, die Benutzern die KI-gestützte Modifikation von Satellitenbildern ermöglichte, nach nur einem Tag wieder entfernt. Diese schnelle Kehrtwende erfolgte, nachdem Forscher und unabhängige Ermittler auf das erhebliche Potenzial für die Verbreitung von Falschinformationen und Desinformationen hingewiesen hatten.
Googles ambitionierter Start und schnelle Kehrtwende
Die umstrittene Funktion integrierte Googles KI-Bildgenerator „Nano Banana 2“ direkt in Google Earth. Bryan Horowitz, Produktmanager für Google Earth, hatte die Neuerung am 30. Juli in einem Blogbeitrag des Unternehmens angekündigt. Er hob hervor, dass Nutzer erstmals benutzerdefinierte Bilder auf Basis der vorhandenen Satelliten-, Luft- und 3D-Bilder von Google Earth erstellen könnten, die Konzepte in der realen Welt verankerten.
Google bewarb die Funktion zunächst mit Anwendungsfällen wie der Darstellung abgeschlossener Immobilienprojekte oder der Möglichkeit für Lehrkräfte und Schüler, die heutigen Ruinen von Pompeji in eine „hyperrealistische Ansicht“ der Stadt im Jahr 78 n. Chr. zu verwandeln. Doch die breite Öffentlichkeit und Experten reagierten mit Besorgnis. Innerhalb eines Tages kündigte Google auf der Social-Media-Plattform X an, die Funktion zurückzuziehen. Kurz darauf war sie für Google Earth-Nutzer nicht mehr zugänglich.
Experten warnen vor Missbrauchspotenzial
Forscher, die Google Earth oft zur Verifizierung von Bildern und Videos nutzen, zeigten sich zutiefst alarmiert. Eliot Higgins, Gründer der unabhängigen investigativen Organisation Bellingcat, äußerte auf Bluesky seinen Unmut. Er demonstrierte, wie einfach es war, gefälschte Szenarien auf fotorealistische Google Earth-Bilder zu legen, etwa eine riesige goldene Statue von Präsident Donald Trump vor dem Weißen Haus.
Der unabhängige Ermittler Henk van Ess beschrieb in einem Blogbeitrag am 30. Juli, wie er mit nur einem Satz in Google Earth „Flüchtlinge nahe der mexikanischen Grenze“ platzierte, „ein Atomkraftwerk im Iran“ errichtete und „einen tödlichen Unfall auf einer Straße in Amsterdam“ inszenierte – alles auf Googles eigenen Satellitenbildern. Er wies auch auf einen früheren Fall von KI-generierten Falschinformationen hin, bei dem ein Screenshot des US-Marinestützpunkts in Bahrain mithilfe von Googles Gemini-KI in eine gefälschte Darstellung eines iranischen Drohnenangriffs umgewandelt wurde. Mit dem nun zurückgezogenen Google Earth-Tool hätte dieser Prozess, der zuvor etwa sechs Schritte erforderte, „in Sekunden“ erfolgen können.
Grenzen der Verifikation durch SynthID
Google reagierte zunächst auf die Kritik, indem es sein SynthID-System hervorhob, das digitale Wasserzeichen automatisch in von Googles KI-Tools generierte Bilder einbettet. Laut Google könnten Nutzer über die Gemini-App oder Lens in der Suche überprüfen, ob ein Bild KI-generiert sei. Zudem würden schädliche Bildkreationen verhindert.
Tests des Ars Technica-Magazins zeigten, dass SynthID-Wasserzeichen trotz erheblicher Bildbearbeitung bestehen bleiben können, die Überprüfung jedoch auf etwa zehn Bilder pro Tag begrenzt war. Van Ess äußerte jedoch Skepsis: Er fragte, warum Googles Richtlinien ihn nicht daran gehindert hätten, Szenen wie ein Krankenhaus mit einem Bombenkrater in Gaza darzustellen. Zudem reisten Fälschungen oft nicht als saubere Dateien, sondern als Bildschirmaufnahmen, Re-Encodings oder Fotos von Bildschirmen. Tatsächlich konnte SynthID keine Bildverifizierung liefern, als Ars Technica ein mit der Google Earth-Funktion erstelltes, KI-verändertes Bild mit einer Smartphone-Kamera abfotografierte.
Auswirkungen auf Vertrauen und zukünftige Pläne
Durch die Einführung eines KI-Bildgenerators in Google Earth riskierte Google, das öffentliche Vertrauen in Google Earth als verlässliche Quelle für authentisches Bildmaterial der realen Welt zu untergraben. Dies hätte auch Regierungsvertretern oder anderen die Möglichkeit gegeben, echte Satellitenfotos als KI-generiert oder -modifiziert zu leugnen. Für Journalisten und Forscher, die Falschinformationen überprüfen, hätte dies die Arbeit zusätzlich erschwert. Van Ess empfahl die Nutzung mehrerer Quellen und ständig aktualisierter Satellitenbildquellen wie Europas Copernicus Sentinel-2 zur Verifizierung.
Obwohl Google die unmittelbaren Bedenken durch die schnelle Entfernung des Tools zerstreute, deutet eine Stellungnahme des Unternehmens darauf hin, dass die Funktion in Zukunft möglicherweise zurückkehren könnte: „Wir haben gesehen, dass Geodaten-Experten diese Funktion für eine Reihe nützlicher Zwecke nutzen, aber wir haben auch gesehen, dass Leute Screenshots von generierten Bildern teilen, die gegen unsere Richtlinien zu verstoßen scheinen“, so Google. „Deshalb ziehen wir diese Funktion in Google Earth zurück, während wir an der Implementierung stärkerer Schutzmaßnahmen arbeiten.“
Thema: Google. Quelle/Inspiration: Ars Technica.