Zwei unabhängige Entwickler, Peter James und Jonny L. Saunders, haben nach eigenen Angaben Meta Muse, die Künstliche Intelligenz des Unternehmens, dazu gebracht, ihr gesamtes Dateisystem offenzulegen. Dies umfasste Root-Dateisysteme, Ubuntu-Systemdateien, App-Vorlagen und interne Dokumentationen. Saunders beschrieb den Vorgang als „extrem einfach“ und betonte die geringe Widerstandsfähigkeit von Muse gegenüber der Einschleusung von Befehlen (Prompt Injection).
Zugang zu internen Daten
Die Entwickler nutzten minimale Befehlseingaben, um die KI zur Erstellung komprimierter Archive des gesamten Dateisystems zu veranlassen. Die offengelegten Daten umfassen Klartext-Markdown- und JSON-Dateien, die detailliert beschreiben, wie „Hatch“ – Metas interner Name für Muse – Anfragen verarbeitet, Daten handhabt und Verbindungen zu anderen Diensten wie Gmail herstellt. Saunders erklärte, dass Muse innerhalb von Sekunden Hunderte von Megabytes an präzisem Bibliothekscode und kompilierten Binärdateien generierte, was die Authentizität der Daten nahelegt.
Dieser Vorfall ist nicht die erste aufgedeckte Schwachstelle bei Muse in dieser Woche. Zuvor hatte der Sicherheitsforscher Patrick Wardle eine Sicherheitslücke entdeckt, die es Angreifern ermöglichte, den KI-Agenten zu kapern, die Transkriptionsverarbeitung umzuleiten und auf das Muse-Konto eines Benutzers zuzugreifen. Meta reagierte daraufhin umgehend mit einem Hotfix.
Metas Einschätzung der Lage
Meta bestreitet, dass die Offenlegung des Dateisystems eine Sicherheitsverletzung darstellt. Daniel Roberts, ein Sprecher von Meta, erklärte, dass Meta Muse in persistenten Linux-basierten virtuellen Maschinen (VMs) für jeden Benutzer läuft. Er verglich die Situation mit dem Zugriff auf Dateien auf einem persönlichen Laptop und betonte, dass das Exportieren von VM-Daten keinen privilegierten Zugang zur Meta-Infrastruktur oder zu Daten anderer Benutzer ermöglicht.
Roberts kündigte an, dass Meta weiterhin Aktualisierungen am Produkt vornehmen wird, was dazu führen könnte, dass sich die Menge der Informationen, die über die virtuelle Maschine eines Benutzers verfügbar sind, ändert.
Einblicke in die Funktionsweise von Muse
Die gewonnenen Daten geben Aufschluss über verschiedene interne Abläufe von Muse. Die KI speichert beispielsweise ihren Speicher in einfachen Markdown-Dateien. Laut James führt Muse zudem nächtliche „Traum“-Überprüfungen jüngster Konversationen durch, um daraus Anleitungen für zukünftige Interaktionen abzuleiten.
Saunders stellte fest, dass viele Funktionen von Muse fest im Code verankert sind, darunter die Fähigkeit, Abonnements zu kündigen, und der Mechanismus zur Verwaltung von außer Kontrolle geratenen Agenten-Spawns. Er spekuliert, dass viele der Bash- und Python-Skripte, die Muse im Hintergrund ausführen, mithilfe von Claude erstellt wurden, was jedoch unbestätigt ist.
Des Weiteren fand James Hinweise auf eine Hardware-Integration namens „Meta Home Link“, die Muse möglicherweise Zugang zu Geräten in einem Heimnetzwerk ermöglichen könnte. Diese Funktion wurde von Meta bisher nicht angekündigt und ihre Einführung ist nicht garantiert.
Thema: Meta. Quelle/Inspiration: The Verge.