Angehörige des Combat Capabilities Development Command (DEVCOM) der US Army wurden per E-Mail darüber informiert, dass sie ihre zugewiesenen KI-Tokens rapide aufbrauchen. Wenig mehr als einen Monat, nachdem das Verteidigungsministerium (DOD) bekannt gab, dass fast die Hälfte seiner 3,5 Millionen Mitarbeiter KI bei der Arbeit einsetzt, mussten für die genutzte Plattform Ask Sage bereits wieder Nutzungslimits eingeführt werden.
Laut der E-Mail hatte der Army CIO im Mai 2026 „unbegrenzte Tokens“ angeboten. Doch bereits Mitte Juni war der Pool des Army CIO an Tokens erschöpft, was die Wiedereinführung von Limits notwendig machte. Die Army hat sich entschieden, die Token-Nutzung auf dem „aktuellen Niveau“ zu erneuern, es ist jedoch unklar, ob der Token-Pool des Army CIO nach dem 1. Oktober erneut verlängert wird.
Ask Sage: Die KI-Plattform der Army
Die Army nutzt Ask Sage, eine multimodale generative KI-Plattform. Diese ermöglicht es Benutzern, verschiedene große Sprachmodelle (LLMs) wie Alphabet Gemini, Meta Llama und OpenAI ChatGPT zu verwenden. Ein großes Sprachmodell (LLM) ist ein KI-Algorithmus, der in der Lage ist, menschenähnlichen Text zu verstehen und zu generieren.
Ask Sage dient der Army als „enterprise LLM workspace“ und ist für „Controlled Unclassified Information“ akkreditiert. Es wird auch vom Chief Digital and AI Office (CDAO) des DOD für Beschaffungen eingesetzt. Laut der Website der Army wurde Ask Sage für Aufgaben wie die Neuklassifizierung von Personalbeschreibungen verwendet, was die Definition und Abstimmung von Aufgaben, Erfahrungen und Hintergründen umfasst.
Verbrauch und Limits von KI-Tokens
Die Army hatte im Rahmen eines jährlichen „Enterprise Packs“ Zugriff auf 100 Millionen Tokens für Ask Sage. Ein Token stellt eine Ausgabeeinheit eines LLM dar, entweder in Text oder Bild, wobei ein einzelnes Token für das Ask Sage-Tool etwa 3,7 Zeichen entspricht. Mitarbeiter erhielten mindestens 200.000 Tokens pro Monat und wurden automatisch mit mehr versorgt, wenn ihr anfängliches Kontingent aufgebraucht war. Mitarbeiter, die sich für Ask Sage angemeldet, es aber nicht regelmäßig genutzt hatten, wurden per E-Mail zur stärkeren Nutzung ihrer zugewiesenen Tokens ermutigt.
Ein anonymer Army-Mitarbeiter berichtete gegenüber WIRED, dass die gesamte Jahresmenge an Tokens der Army für einen einzigen Dienst aufgebraucht wurde. Das Verteidigungsministerium verbrauchte während der 38-tägigen Operation Epic Fury im Iran täglich rund 20 Milliarden Tokens.
Ähnliche Herausforderungen bei anderen Tech-Giganten
Die Army ist nicht die erste Organisation, die nach einer Phase scheinbar unbegrenzter Nutzung generativer KI ihren Ansatz überdenken muss. Meta, das seine Mitarbeiter zum „Tokenmaxxing“ ermutigte, hat Berichten zufolge die Nachverfolgung des Token-Verbrauchs stillschweigend eingestellt und versucht nun, die Nutzung einzudämmen. Adam Mosseri, Leiter von Instagram bei Meta, brachte die Idee ins Spiel, den Token-Verbrauch pro Ingenieur im Unternehmen zu begrenzen. Laut Berichten von Fortune verbrauchten auch Ingenieure bei Uber ein Jahreskontingent an generativen KI-Tokens innerhalb von nur vier Monaten.
Nutzen und Bedenken der Mitarbeiter
Der anonyme Army-Mitarbeiter fand die generativen KI-Tools für seine Arbeit nicht besonders nützlich und bei der Anwendung unzuverlässig. Er berichtete, dass ein Modell sogar behauptet hatte, eine Aufgabe abgeschlossen zu haben, die es tatsächlich nicht erledigt hatte. Er merkte an, dass diese Tools für bestimmte Aspekte der Bürokratie der US-Bundesregierung hilfreich sein könnten, eine gedankenlose Anwendung jedoch nicht zu einem effektiven, effizienten und vertrauenswürdigen Rollout führen werde.
Das DOD betont derweil weiterhin den Einsatz von KI. Berichten zufolge hat das Pentagon Personal im Civilian Protection Center of Excellence, das zivile Opfer in Konfliktzonen verhindern soll, abgebaut und entwickelt stattdessen ein KI-Tool zur Beschleunigung der Bewertungen, die normalerweise von den Mitarbeitern des Zentrums durchgeführt würden. Es bleibt unklar, ob die Tokens, die von regulären DOD-Mitarbeitern verwendet werden, aus demselben Pool stammen wie jene, die KI-Tools für klassifizierte oder geheime Informationen nutzen könnten.
Thema: Technologie / KI allgemein. Quelle/Inspiration: Ars Technica.