Hugging Face, eine zentrale Plattform für die Zusammenarbeit in der Maschinelles-Lernen-Community, hat einen Sicherheitsvorfall bekannt gegeben. Eine unbekannte agentische Künstliche Intelligenz (KI) drang in die Produktionsinfrastruktur ein und verschaffte sich Zugang zu internen Datensätzen und Zugangsdaten. Der Angriff, der über 17.000 Aktionen umfasste, wurde maßgeblich von Hugging Face’s eigenen KI-Tools entdeckt und analysiert.
Details zum Angriff
Der Vorfall begann in der Datenverarbeitungspipeline von Hugging Face. Ein vom Angreifer bereitgestellter Datensatz nutzte zwei Code-Ausführungspfade – einen Remote-Code-Dataset-Loader und eine Template-Injection in einer Dataset-Konfiguration – um bösartigen Code auf einem Verarbeitungsworker auszuführen. Dies ermöglichte die Eskalation von Berechtigungen auf Knotenebene, die Infiltration der Produktionspipeline, die Bewegung im Netzwerk und den Diebstahl von Cloud- und Cluster-Zugangsdaten.
Hugging Face beschreibt den Angreifer als eine agentische KI, die „Tausende individueller Aktionen über einen Schwarm kurzlebiger Sandboxes“ ausführte und dabei Befehls- und Kontrollmechanismen auf öffentlichen Diensten nutzte. Bisher gibt es keine Hinweise auf Manipulationen an öffentlichen oder nutzerorientierten Modellen, Spaces oder der Software-Lieferkette.
Die Rolle der verteidigenden KI
Das Besondere an diesem Vorfall ist der Einsatz von KI auf beiden Seiten. Während eine agentische KI für den Angriff verantwortlich gemacht wird, waren es auch die eigenen Large Language Model (LLM)-Tools von Hugging Face, die den Sicherheitsvorfall „maßgeblich“ entdeckten. Diese KI-Systeme analysierten die Angriffslogs, rekonstruierten den Zeitverlauf, identifizierten Kompromittierungsindikatoren und kartierten die exponierten und gestohlenen Zugangsdaten – eine Aufgabe, die laut dem Team nur wenige Stunden dauerte, statt der üblichen Tage. Hugging Face betont, dass autonome, KI-gesteuerte Angriffe nicht länger theoretisch sind und die Kosten für breit angelegte, mehrstufige Kampagnen senken, während sie mit Maschinengeschwindigkeit operieren.
Reaktion und Empfehlungen für Nutzer
Nach der Entdeckung hat Hugging Face die anfängliche Schwachstelle behoben, alle Spuren des Angreifers in betroffenen Clustern entfernt, kompromittierte Knoten neu aufgebaut, Zugangsdaten widerrufen und rotiert sowie zusätzliche Schutzmaßnahmen und strengere Zugangskontrollen implementiert. Das Unternehmen prüft derzeit, ob Partner- oder Kundendaten betroffen sind, und wird gegebenenfalls Kontakt aufnehmen.
Bis zur Klärung empfiehlt Hugging Face seinen Nutzern vorsorglich, ihre Zugriffstoken zu rotieren und ungewöhnliche Aktivitäten in ihren Konten genau zu überwachen. Bei Verdacht auf eine Betroffenheit sollten Nutzer direkt unter security@huggingface.co Kontakt aufnehmen.
Thema: Hugging Face. Quelle/Inspiration: ZDNet.