Das britische AI Security Institute (AISI) hat in einer aktuellen Studie festgestellt, dass gängige Bewertungen von KI-Agenten deren tatsächliche Fähigkeiten systematisch unterschätzen. Der Grund liegt in der Begrenzung des Rechenbudgets, insbesondere des sogenannten Token-Budgets, das den Agenten während der Testphase zur Verfügung steht.
Die Leistungsfähigkeit eines KI-Agenten ist keine feste Größe, sondern eine Kurve, die mit dem zur Verfügung stehenden Rechenaufwand (Test-Time Compute) ansteigt. Wird dieses Budget gekappt, während die Leistungskurve noch steigt, misst die Bewertung lediglich ein Minimum und nicht das maximale Potenzial des Agenten.
Deutliche Leistungssteigerung durch mehr Rechenbudget
Die AISI-Forschung hat diesen Effekt über verschiedene Anwendungsbereiche hinweg nachgewiesen. Bei Software-Engineering-Aufgaben, getestet mit Benchmarks wie TerminalBench 2.0 und SWE-Bench Pro, stiegen die Erfolgsquoten um rund 25 Prozent, wenn das Token-Budget von einer Million auf zehn Millionen erhöht wurde. Für mathematische und akademische Aufgaben (Humanity’s Last Exam) lag der Zuwachs bei etwa 22 Prozent bei einer Erhöhung auf bis zu fünf Millionen Tokens.
Im Bereich der Cybersicherheit konnten etwa acht Prozent der Aufgaben nur gelöst werden, wenn das Budget zehn Millionen Tokens überschritt; einige erforderten sogar 50 Millionen Tokens. Neueste Modelle erzielten bei Budgets über 100 Millionen Tokens noch höhere Ergebnisse.
Allerdings hilft zusätzlicher Rechenaufwand nicht überall gleichermaßen. Bei medizinischen Aufgaben des HealthBench-Benchmarks erreichten alle Modelle ihr Leistungsplateau innerhalb des Standardbudgets. Laut AISI ist mehr Rechenleistung vor allem dort nützlich, wo Agenten ihre Arbeit selbst überprüfen können, etwa beim Ausführen von Code oder dem Testen eines Exploits. Wenn Feedback fehlt oder verzögert ist, hat ein größeres Budget kaum Auswirkungen.
Zusammenhang zwischen menschlicher Arbeitszeit und Token-Verbrauch
Eine weitere Erkenntnis der Studie ist der Zusammenhang zwischen der Zeit, die ein menschlicher Experte für eine Aufgabe benötigt, und dem Token-Verbrauch eines KI-Agenten. Diese Beziehung folgt einem Potenzgesetz: Eine einminütige Aufgabe kostet den Agenten Tausende von Tokens, eine einstündige Aufgabe Millionen und eine einwöchige Aufgabe Milliarden von Tokens. Ein festes Bewertungsbudget schließt daher die längsten und schwierigsten Aufgaben von vornherein aus. Das Versagen eines Agenten kann somit auf ein zu knappes Budget zurückzuführen sein und nicht auf mangelnde Fähigkeiten. Als Beispiel nennt AISI die Cyber-Aufgabe „The Last Ones“, die einen menschlichen Experten etwa 20 Stunden in Anspruch nimmt und von keinem getesteten Modell mit weniger als 30 Millionen Tokens gelöst werden konnte.
Neuere Modelle profitieren am stärksten
Die Studie zeigt, dass neuere Modelle weitaus stärker von zusätzlichem Rechenaufwand profitieren als ältere. Die Leistungskurve verschiebt sich mit jeder Modellgeneration nach oben und verändert ihre Form in drei Achsen: Reichweite (schwierigere Aufgaben werden lösbar), Zuverlässigkeit (dieselbe Aufgabe wird häufiger gelöst) und Effizienz (dieselben Aufgaben benötigen weniger Tokens).
Der Zeithorizont eines aktuellen Spitzenmodells, also die Komplexität der Aufgaben, die es bewältigen kann, wuchs von etwa 40 Minuten bei einem Budget von 2,5 Millionen Tokens auf rund vier Stunden bei 50 Millionen Tokens. Über die gesamte „Frontier“ (die Spitzengruppe der Modelle) verschiebt sich der Horizont von etwa zwei Stunden auf 14 Stunden bei einem Sprung von 2,5 auf 50 Millionen Tokens.
Die bisherige Schätzung des AISI, dass sich der Zeithorizont von Spitzenmodellen bei Cyber-Aufgaben alle 4,7 Monate verdoppelt (gemessen bei einem festen Budget von 2,5 Millionen Tokens), muss neu bewertet werden. Bei 50 Millionen Tokens ist der Trend um etwa 60 Prozent steiler: Eine Verdopplung erfolgt alle 40 bis 50 Tage statt alle 67 bis 91 Tage. Dies verdeutlicht, dass die gemessene Fortschrittsrate teilweise vom gewählten Bewertungsbudget abhängt und keine feste Eigenschaft des Fortschritts an der Spitze der KI-Entwicklung ist. Allerdings ist der Fortschritt nicht einheitlich: Bei 10 bis 30 Prozent der Aufgaben schnitten neuere Modelle sogar schlechter ab als ihre Vorgänger.
Konsequenzen für die Bewertung von KI-Systemen
Für das AISI ist die zentrale Lehre, wie Fähigkeiten gemessen werden. „Wenn wir die Fähigkeit weiterhin als festen Wert statt als Kurve über den Rechenaufwand betrachten, werden wir immer wieder überrascht sein, was diese Systeme leisten können, wenn mehr in sie investiert wird“, so die Forscher. Eine Bewertung mit zu geringem Budget verzerrt Entscheidungen über den Einsatz, den wirtschaftlichen Wert und die Risiken von KI-Systemen. Sinkende Kosten pro Token könnten zudem höhere Testbudgets zugänglicher machen, wodurch zuvor als zu teuer oder unerreichbar angesehene Fähigkeiten leichter und kostengünstiger zu nutzen wären.
Das AISI testet Spitzenmodelle nun mit verschiedenen Budgets, um sogenannte „Minimum Informative Budgets“ zu ermitteln. Ziel ist es, zu erkennen, wann die Reichweite eines Modells nicht mehr mit zusätzlichem Rechenaufwand wächst. Nur dann gilt ein Ergebnis als aussagekräftig. Das Team versucht auch, die Leistung bei hohem Budget aus günstigeren Testläufen vorherzusagen.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Decoder.