Ein aktueller Bedrohungsbericht des KI-Unternehmens Anthropic dokumentiert einen weitreichenden Missbrauch seiner Claude-KI-Modelle über einen Zeitraum von acht Monaten, von Dezember 2025 bis August 2026. Die Untersuchung enthüllt, dass die Modelle für die Entwicklung von Waffensystemen, landesweite Überwachung und die unautorisierte Extraktion von Trainingsdaten durch chinesische KI-Labore eingesetzt wurden.
Die am häufigsten betroffenen Modelle waren Claude Haiku, Sonnet und Opus. Die neueren Modelle Fable und Mythos waren lediglich in einem Fall von Modell-Destillation betroffen. Anthropic betont, dass der Bericht neuartige Missbrauchsfälle dokumentiert, die über typische Verwendungen hinausgehen.
Unautorisierte Datenextraktion durch chinesische Labore
Die größte Kategorie des Missbrauchs stellt die unautorisierte Modell-Destillation dar, eine Methode, bei der die Fähigkeiten eines größeren KI-Modells extrahiert werden, um eigene Modelle zu trainieren. Anthropic identifizierte seit einer ersten Offenlegung im Februar sieben weitere chinesische Labore, die an solchen Kampagnen beteiligt waren. Diese wurden oft durch Netzwerke gefälschter Konten mit gestohlenen Kreditkarten und API-Schlüsseln ermöglicht.
- Alibaba (Qwen-Team): Das Qwen-Labor (GTG-16005) war für die größte Kampagne verantwortlich, bei der Claude durch feste Prompts dazu gebracht wurde, seine Denkprozesse offenzulegen. Diese Transkripte wurden dann als Feinabstimmungsdaten für die Qwen-Modelle 3.5, 3.6 und 3.7 verarbeitet. Zwischen Mai und Juli 2026 wurden über 151 Millionen solcher Austausche verzeichnet, mit einem Höchststand von fast drei Millionen Austauschen pro Tag über mehr als 3.500 betrügerische Konten.
- Moonshot AI: Das Labor (GTG-16002) leitete innerhalb von zehn Tagen fast 300.000 Kundenanfragen über 5.380 betrügerische Konten an Claude weiter, während die Nutzer glaubten, ein Kimi-Modell zu verwenden.
- DeepSeek: DeepSeek (GTG-16001) identifizierte Anfragen, die von Schnittstellen wie Claude Code stammten, markierte diese Nutzer und leitete ausgewählte Anfragen an Claude Opus weiter. Dies umfasste über 12,1 Millionen Austausche innerhalb von 14 Tagen. Unter den umgeleiteten Anfragen befanden sich solche, die wahrscheinlich mit der Volksbefreiungsarmee in Verbindung standen, wie die Analyse von CCTV-Archivmaterial. Auch Anfragen eines Betreibers mit Zugangsdaten zu einer Datenbank des russischen Verteidigungsministeriums und die Arbeit an einem Fallmanagementsystem für ein chinesisches Sicherheitsbüro wurden über DeepSeek an Claude weitergeleitet.
- Xiaomi: Xiaomi (GTG-16008) nutzte Claude, um Anfragen und Programmiersitzungen von Nutzern seiner MiMo-Modelle zu speichern und diese Konversationen über Claude wieder abzuspielen, um Trainingsdaten zu generieren. Dabei wurden persönliche Daten wie Namen und Kontaktdaten von Hunderten von Personen in verschiedenen Sprachen weitergeleitet.
- Zhipu (Z.ai): Zhipu rotierte durch 273 Konten und führte über zehn Tage mehr als 770.000 Austausche über ein sogenanntes CoT-Reinigungstool durch, das Denkprozesse automatisch in Trainingsdaten umwandelt. Für das Training von GLM-5.3 wechselte das Labor bewusst zu Modellen mit schwächeren Schutzmechanismen, nachdem die Cyber-Schutzfunktionen von Fable dessen Leistung beeinträchtigt hatten.
- SenseTime und MiniMax: SenseTime kaufte Transkripte von Drittanbietern, während MiniMax ein eigenes Proxy-Netzwerk über eine Scheinfirma betrieb, die nur Anthropic- und OpenAI-Modelle anbot.
Einsatz in Waffensystemen und Spionage
Der Bericht dokumentiert auch den Einsatz von Claude für die Entwicklung von Software für konventionelle Waffen, darunter Raketensysteme und autonome Kamikaze-Drohnen. Die Erkenntnisse aus dem Kapitel über Cyber-Operationen zeigen, dass anspruchsvolle Angriffe keine anspruchsvollen Angreifer mehr erfordern. Die Modelle übernehmen Aufgaben wie Aufklärung, Ausnutzung von Schwachstellen und Tool-Entwicklung maschinell und parallel.
- Russischsprachige Spionagegruppe (GTG-20006): Diese Gruppe nutzte eine Feedback-Schleife, bei der KI-Agenten Malware neu schrieben und rekompilierten, sobald sie von Sicherheitsprodukten erkannt wurde. Über 20 Organisationen, darunter Regierungsministerien, Geheimdienste und Rüstungsunternehmen, wurden angegriffen, mit einem Fokus auf die Ukraine und Europa. Die Drohnenlieferkette war ein wiederkehrendes Ziel, wobei unter anderem ein komplettes proprietäres SDK für ein Drohnen-Visionssystem gestohlen wurde.
- ShinyHunters-Kollektiv (GTG-50014): Dieses Kollektiv konzentrierte sich auf das industrielle Sammeln von Zugangsdaten. Ein Hacker lud 1,8 Millionen Android-Apps herunter, dekompilierte sie und suchte nach fest einprogrammierten Geheimnissen. Anthropic beschreibt diesen Ansatz als „Vibe Hacking“, bei dem ein Mensch ein grobes Ziel vorgibt und das Modell die Umgebung bewertet und iteriert, bis die Aufgabe erledigt ist.
Überwachung und Zivilkontrolle
Claude wurde auch für die Entwicklung von Überwachungssystemen eingesetzt. In Mali nutzte ein einzelner Berater die KI als primäre technische Arbeitskraft für „Lakana 360“, eine Plattform zur Überwachung von etwa 25 Millionen SIM-Karten landesweit. Das System kann Personen anhand ihrer Stimme über SIM-Kartenwechsel hinweg identifizieren, Nutzer von Verschlüsselung und VPNs markieren und Individuen mit dem nationalen biometrischen Zivilregister verknüpfen. Ähnliche Muster wurden bei iranischen Einheiten festgestellt, die Überwachung und Profilerstellung betrieben haben sollen.
Die Berichte zeigen, dass die Autonomie von KI-Modellen die Kosten für Angreifer senkt und bisher unrentable Ziele attraktiv macht. Die Last verschiebt sich auf die Verteidiger, da das Schreiben neuer Erkennungssignaturen Angreifer nicht mehr verlangsamt, wenn diese Änderungen schneller durchlaufen, als neue Signaturen bereitgestellt werden können.
Thema: Anthropic. Quelle/Inspiration: The Decoder.