Der HR-Softwareanbieter Rippling hat diese Woche die AI Spend Console vorgestellt, ein neues Produkt zur Überwachung und Eindämmung von KI-Ausgaben. Dieses Tool ermöglicht es Unternehmen, die Ausgaben einzelner Mitarbeiter, Teams und Rollen für KI zu verfolgen und zu bewerten, ob die Nutzung tatsächlich zu höherer Produktivität führt oder lediglich „KI-Müll“ produziert.
Hohe KI-Ausgaben als Weckruf
Die Entwicklung des Tools erfolgte, nachdem Rippling selbst zu Beginn des Jahres massiv in die Nutzung von KI-Tokens investierte und dabei feststellte, dass Mitarbeiter erhebliche Summen verbrannten. Im März präsentierte der CFO Adam Swiecicki dem Führungsteam Zahlen, die alle überraschten: Rippling war auf dem besten Weg, 40 Prozent seines Budgets für F&E-Personal für KI-Tokens auszugeben. Dies entsprach Millionen von Dollar, und die Ausgaben stiegen monatlich um 80 Prozent. Bei Fortsetzung dieses Trends hätten die Token-Kosten im nächsten Jahr fast 90 Prozent des gesamten Personalbudgets der F&E-Abteilung erreicht.
Eine interne Analyse zeigte, dass etwa 10 bis 15 Prozent der Mitarbeiter für rund 60 Prozent der gesamten KI-Ausgaben verantwortlich waren. Ein einzelner Ingenieur gab beispielsweise monatlich 50.000 US-Dollar aus. Als Hauptproblem identifizierte Rippling, dass Mitarbeiter standardmäßig die neuesten und teuersten „Frontier-Modelle“ (leistungsstarke, aber kostspielige KI-Modelle) für alle Aufgaben nutzten. Zudem hätten Anbieter wie Anthropic und OpenAI kaum Anreize, Unternehmen bei der Kostenkontrolle zu unterstützen, da deren Geschäftsmodell auf hohe Nutzungsraten ausgelegt sei.
Die Lösung: KI-Kostenkontrolle und Modelloptimierung
Rippling wollte die KI-Nutzung nicht einstellen, sondern gezielt steuern. Das Unternehmen verhandelte zunächst maximale Ausgabenobergrenzen mit seinen genutzten Tools wie Cursor, OpenAI und Anthropic. Parallel dazu entwickelte es die AI Spend Console. Das Kernstück des neuen Ansatzes ist die Erkenntnis, dass Unternehmen mehrere KI-Modelle von verschiedenen Anbietern und zu unterschiedlichen Preispunkten benötigen, einschließlich offener Modelle.
Rippling stellte bei internen Benchmarks fest, dass beispielsweise GLM 5.2 von Z.ai bei nahezu identischer Leistung 85 Prozent günstiger war als die teuersten Frontier-Modelle. Ein weiterer wichtiger Bestandteil der Lösung ist ein KI-Gateway, das Prompts (Eingabeaufforderungen an die KI) automatisch an das am besten geeignete und kostengünstigste Modell weiterleitet. Rippling hat ein solches Gateway in die AI Spend Console integriert, welches auch als Standalone-Produkt erworben werden kann.
Die AI Spend Console bietet Dashboards, die Attribute wie Prompts pro Tag in Kombination mit der Arbeitsleistung (z.B. Codezeilen, Pull Requests) und den Ausgaben bewerten. Sie kann beispielsweise aufzeigen, welche Ingenieure hohe KI-Ausgaben haben, deren Kollegen sie jedoch häufig bitten, Arbeiten in Code-Reviews zu überarbeiten.
Deutliche Kostensenkung und Effizienzsteigerung
Durch den Einsatz des neuen Tools konnte Rippling seine Token-Ausgaben von 40 Prozent auf etwa 15 Prozent des Personalbudgets für F&E senken. Die KI-Nutzung wurde dabei nicht eingeschränkt: Im Monat, in dem der CFO die Warnung aussprach, erreichte Rippling einen Spitzenverbrauch von 605 Milliarden Tokens. Im Juli lag der interne Verbrauch erneut bei 600 Milliarden Tokens, doch die Kosten hierfür betrugen nur noch 37 Prozent der Kosten vom April. Diese Reduzierung wurde hauptsächlich durch die intelligente Weiterleitung an effektivere Modelle erreicht.
Zukünftige KI-Nutzung und Produktivitätsmessung
Rippling arbeitet auch daran, die KI-Nutzung über die Softwareentwicklung hinaus auf andere Bereiche wie das Kunden-Onboarding auszudehnen, um beispielsweise Datenabgleiche zu automatisieren. Hierbei soll die Produktivität anhand der Anzahl der onboarded Kunden gemessen werden. Matt MacInnis, Chief Product Officer von Rippling, betont die Notwendigkeit, den Token-Verbrauch in allgemeinen Verwaltungs- und kundennahen Funktionen mit messbarer Produktivität zu verknüpfen, um eine breitere Verfügbarkeit von KI-Tools für alle Mitarbeiter zu gewährleisten.
Die AI Spend Console ist für Rippling-HR-Abonnenten inklusive, wobei zusätzliche nutzungsbasierte Kosten anfallen können. Das Produkt kann auch als eigenständige Lösung erworben und in bestehende HR-Systeme integriert werden.
Thema: Technologie / KI allgemein. Quelle/Inspiration: TechCrunch.