Anthropic stellt den Auto Mode für sein KI-Codierungstool Claude Code ab dem 14. August standardmäßig für Pro-, Max- und Team-Pläne ein. Diese Umstellung zielt darauf ab, die Sicherheit und Effizienz in der Softwareentwicklung zu erhöhen. Interne Tests zeigten, dass der KI-Klassifikator 89 Prozent gefährlicher Befehle erkannte, während menschliche Prüfer lediglich 13,6 Prozent identifizierten. Für Enterprise-Kunden bleibt der Auto Mode optional.
Funktionsweise des Auto Mode
Der Auto Mode ermöglicht es dem KI-Codierungstool, autonom zu arbeiten, ohne bei jedem Schritt auf manuelle Genehmigungen zu warten. Ein integrierter Klassifikator überprüft jede Aktion auf potenzielle Gefahren oder irreversible Schritte. Nur in solchen Fällen fordert das System eine menschliche Bestätigung an. Laut Anthropic wurden bei Tests mit 1.053 bezahlten Testern und internen Red-Teaming-Szenarien mindestens die gleiche, oft sogar eine bessere Sicherheitsleistung als bei manuellen Genehmigungsverfahren erzielt. Teams, die den Auto Mode nutzten, erstellten zudem etwa 25 Prozent mehr Pull Requests, was auf eine höhere Arbeitsleistung hindeutet.
Verbesserter Schutz vor Angriffen
Anthropic betont, dass der Auto Mode eine zusätzliche Schutzschicht gegen sogenannte Prompt-Injection-Angriffe bietet. Bei diesen Angriffsversuchen wird bösartiger Code eingeschleust, um die KI von den ursprünglichen Benutzeranweisungen abzulenken. Eine unabhängige Prüfung durch Trajectory Labs umfasste 720 Angriffsversuche (72 Szenarien, je zehnmal getestet) gegen Claude Code mit den Modellen Fable 5, Opus 5 und Sonnet 5 im Auto Mode. Keiner dieser Versuche war erfolgreich. Im Vergleich dazu gelang es bei OpenAI’s GPT-5.6 Sol im Codex Auto-Review-Modus, 5,83 Prozent der Angriffe durchzuführen.
Intern konnte der Auto Mode bei Anthropic verhindern, dass vertrauliche Daten auf einer öffentlichen Seite hochgeladen wurden. In einer anderen Langzeitsitzung beendete das System etwa 2.000 Prozesse, die laufende GPU-Trainingsaufträge gestört hätten.
Auswirkungen auf die Entwicklerrolle
Claude Code ist derzeit das meistgenutzte KI-Codierungstool. Die Standardisierung des Auto Mode verschiebt die Rolle der Entwickler weiter vom aktiven Schreiben von Code hin zur Überwachung und Überprüfung der von der KI generierten Ergebnisse. Anthropic weist darauf hin, dass der Klassifikator Risiken zwar reduziert, aber nicht eliminiert. Für „hochriskante Änderungen an der Produktionsinfrastruktur“ empfiehlt das Unternehmen weiterhin eine manuelle Überprüfung der Aktionen von Claude.
Diese Empfehlung birgt ein Paradoxon: Je seltener Entwickler eingreifen, desto wichtiger wird ihre Aufsicht. Gleichzeitig wird es schwieriger, ein tiefes Verständnis für Projekte zu entwickeln, die weitgehend autonom von der KI erstellt wurden. Die Komplexität der Cybersicherheit nimmt zudem schneller zu, als ein Mensch sie realistisch vollständig überblicken kann.
Obwohl Anthropic keine Kosten für die von dem Klassifikator verbrauchten Tokens erhebt, dürfte die vermehrte Nutzung des Auto Mode zu einem Anstieg des gesamten Token-Verbrauchs und somit zu höheren Einnahmen für das Unternehmen führen.
Thema: Anthropic. Quelle/Inspiration: The Decoder.