Die Künstliche Intelligenz Mythos von Anthropic, speziell die Version Claude Mythos Preview, identifiziert Schwachstellen in Microsoft-Software in einem Tempo, das die Patch-Fähigkeiten des Tech-Riesen übersteigt. Eine interne Besprechung von Microsoft-Ingenieuren und Managern Mitte Mai zeigte auf, dass allein im April 90 kritische und 141 wichtige Fehler in SharePoint, einer weit verbreiteten Kollaborationssoftware, entdeckt wurden. In der ersten Maihälfte fand die KI sogar noch mehr Schwachstellen.
Dringende Maßnahmen bei Microsoft
Das Projekt, intern als Project Glasswing bezeichnet, zielt darauf ab, Sicherheitslücken zu schließen, bevor Hacker und staatliche Akteure ähnliche KI-Tools zur Spionage und Sabotage nutzen können. Auf die Frage eines Ingenieurs, ob Mythos dem von Anthropic versprochenen Hype gerecht werde, antwortete ein Manager laut einer Aufzeichnung des Meetings mit „Ja“. Die KI decke Fehler schneller auf, als Microsoft sie beheben könne, was die Ingenieure in „rasante Eile“ versetze, um die Lücke zu schließen.
Ingenieurmanager Hans Andersen appellierte an die Gruppe, die im April gefundenen Fehler schnellstmöglich zu bearbeiten. Sie hätten etwa zwei Wochen Zeit gehabt, „so viele Dinge wie möglich zu finden und so viel Gutes wie möglich mit diesem Zugang zu tun“. Der 31. Mai sei als der Tag angesehen worden, an dem „der Rest der Welt aufgeholt“ haben würde. Ein Ingenieur fasste die Befürchtung zusammen: „Sie sagen also im Grunde, wenn es am 1. Juni veröffentlicht wird, haben die Gegner am 2. Juni unsere Fehler?“
Bereits seit April, als Project Glasswing öffentlich wurde, prognostizierten nationale Sicherheitsexperten, dass die USA ein Zeitfenster hätten, um Schwachstellen zu beheben, bevor Gegner ähnliche Modelle entwickeln. Eine gemeinsame Erklärung der Geheimdienstallianz Five Eyes (USA, Australien, Kanada, Neuseeland, Großbritannien) warnte Ende Juni, dass dieses Fenster sich innerhalb weniger Monate schließen würde. Die Microsoft-Aufzeichnung und interne Dokumente deuten jedoch darauf hin, dass die Zeit der Cyber-Abrechnung möglicherweise bereits begonnen hat.
Microsofts Priorisierungsstrategie und ihre Risiken
Angesichts der Flut an von Mythos identifizierten Schwachstellen konzentrierte sich Microsoft zunächst auf die Behebung der als „kritisch“ und „wichtig“ eingestuften Fehler. Dies entspricht einem branchenüblichen Triage-System, bei dem die gefährlichsten Probleme zuerst behandelt werden. „Moderate“ Schwachstellen sollen später angegangen werden, während „niedrige“ Schwachstellen in den Dokumenten nicht erwähnt wurden.
Diese Strategie birgt in der Ära der KI-gestützten Fehlererkennung jedoch Risiken. Mythos kann eine Kette von Schwachstellen bilden, bei der mehrere niedrig- oder mittelschwere Fehler kombiniert werden, um einen verheerenden Angriff zu ermöglichen. Vinh Nguyen, ein technischer Berater bei Anthropic und früherer Chief AI Officer der National Security Agency, warnte: „Das Problem ist jetzt, dass man vier niedrigstufige Fehler verketten kann, und das kann eine hohe Schwere ergeben.“ Er merkte an, dass Microsofts aktuelle Triage-Strategie Risiken möglicherweise unterbewerten könnte.
Microsoft verteidigte seinen Ansatz und erklärte, dass Triage-Entscheidungen auf mehreren Faktoren basierten, darunter die Ausnutzbarkeit und die Auswirkungen auf Kunden. Ein Unternehmenssprecher betonte gegenüber ProPublica, dass die Verkettung von Schwachstellen „seit langem als Teil der Schwachstellenbewertung und Risikoanalyse betrachtet“ werde. Bezüglich der internen Präsentation und der Frist vom 31. Mai spielte der Sprecher deren Bedeutung herunter, merkte aber an, dass die Kommentare auf der Konferenz die Dringlichkeit widerspiegeln, mit der das Unternehmen seine Kunden unterstützen wolle.
Umfang der ungelösten Schwachstellen
Die internen Unterlagen von Microsoft prognostizierten, dass das SharePoint-Team, das Regierungen und Unternehmen weltweit bei der Daten- und Dokumentenverwaltung unterstützt, „Monate beschäftigt sein wird“, um zunächst die kritischen und dann im August die wichtigen Fehler zu beheben. Danach sollten die rund 300 „moderaten“ Fehler bearbeitet werden. Kritische Schwachstellen können Systemabstürze und die Verbreitung von Malware verursachen, während wichtige Schwachstellen die Vertraulichkeit, Integrität oder Verfügbarkeit von Nutzerdaten beeinträchtigen können.
Die Dokumente geben einen Einblick in das Ausmaß des Problems über SharePoint hinaus. Seit dem Einsatz von Mythos Anfang des Jahres wurden Hunderte von kritischen oder wichtigen Fehlern in populären Produkten wie Microsoft 365, der Konferenzplattform Teams und dem KI-Tool Copilot gefunden. Mitte Mai war der Großteil davon noch nicht behoben. Ingenieurmanager Andersen bestätigte während des Meetings: „Sie sind nicht tiefgründig und exotisch, aber sie sind real. Und viele davon sind ausnutzbar.“ Es ist unklar, ob Hacker bereits spezifische, von Mythos identifizierte Fehler ausgenutzt haben, doch einige nutzen KI, um Angriffe zu automatisieren und scheinen Mythos-ähnliche Technologien zur Ausnutzung von Schwachstellen zu verwenden.
Thema: Anthropic. Quelle/Inspiration: Ars Technica.