Laut einer aktuellen VentureBeat Pulse Research Studie investieren Unternehmen massiv in Künstliche Intelligenz (KI)-Infrastruktur, können aber die damit verbundenen Kosten und die Auslastung ihrer bestehenden Systeme kaum überblicken. Weniger als die Hälfte (44 %) der befragten 107 Unternehmen verfolgt die Kosten ihrer KI-Rechenleistung rigoros, während 83 % eine GPU-Auslastung von 50 % oder weniger melden. Diese Diskrepanz zwischen aggressiven Investitionen und mangelnder Kostentransparenz bezeichnen die Autoren als „Compute Gap“.
Hohe Investitionen bei geringer Transparenz
Die Untersuchung, die im zweiten Quartal 2026 (Juni) durchgeführt wurde und sich auf Unternehmen mit über 100 Mitarbeitern konzentrierte, zeigt, dass die Ausgaben für KI-Infrastruktur schneller steigen als die Fähigkeit, deren Wirtschaftlichkeit zu messen oder zu steuern. Obwohl nur 21 % der Unternehmen KI bereits im großen Maßstab produktiv einsetzen, planen sie erhebliche Investitionen. Der größte geplante Evaluierungsbereich für das kommende Jahr sind spezialisierte KI-Cloud-Dienste (45 %), die heute von fast keinem dieser Unternehmen genutzt werden.
Die bereits vorhandene Rechenleistung wird oft ineffizient genutzt: 83 % der Unternehmen berichten von einer GPU-Auslastung von 50 % oder weniger. Grafikprozessoren (GPUs) sind für KI-Berechnungen entscheidend, und ihre Unterauslastung deutet auf erhebliche ungenutzte Kapazitäten und unnötige Kosten hin.
Aktuelle Nutzung und zukünftige Pläne
Derzeit betreiben die meisten Unternehmen ihre KI-Workloads auf bekannten Hyperscalern und über API-Schnittstellen von Modell-Anbietern. Unter Hyperscalern versteht man große Cloud-Dienstleister. Google Cloud ist mit 48 % die meistgenutzte Plattform, gefolgt von Microsoft Azure (29 %), AWS (22 %) und Oracle Cloud (22 %). Bei den Modell-APIs führen Google Gemini (41 %) und OpenAI (40 %). Spezialisierte KI-Cloud-Anbieter wie CoreWeave oder Lambda spielen mit jeweils unter 2 % derzeit kaum eine Rolle.
Trotz der aktuellen Anbieterlandschaft ist die Wechselbereitschaft hoch: Eine klare Mehrheit von 64 % der Unternehmen plant, innerhalb der nächsten zwölf Monate einen Infrastrukturanbieter zu wechseln oder einen zusätzlichen Anbieter zu nutzen. 38 % wollen dies sogar innerhalb des nächsten Quartals tun.
Wechselbereitschaft und Entscheidungskriterien
Bei der Wahl neuer Anbieter sind die Integration mit dem bestehenden Technologie-Stack (41 %) und die Gesamtkosten über den Lebenszyklus (Total Cost of Ownership, 35 %) die wichtigsten Entscheidungskriterien. Der Preis pro Million Tokens, ein gängiger Maßstab für KI-Rechenkosten, ist für lediglich 8 % der Unternehmen der entscheidende Faktor. Eine zukünftige Herausforderung, der Übergang von reiner GPU-Rechenleistung zu Speicherbandbreite bei der Skalierung von Inferenzprozessen, ist nur für etwa ein Fünftel der Unternehmen relevant oder überhaupt bekannt.
Reifegrad der KI-Implementierung
Die Studie zeigt, dass sich die meisten Unternehmen noch in frühen Phasen der KI-Implementierung befinden:
- 38 % experimentieren mit Proof-of-Concepts.
- 37 % haben einige Workloads in Produktion, aber nicht unternehmensweit.
- 21 % betreiben KI im großen Maßstab produktiv.
- 4 % führen noch keine KI-Workloads aus.
Diese Ergebnisse deuten darauf hin, dass die Infrastruktur-Entscheidungen größtenteils von Organisationen getroffen werden, die noch am Anfang ihrer KI-Implementierung stehen und deren Rechenbedarf sowie Kosten voraussichtlich noch stark wachsen werden.
Methodik der Studie
Die VentureBeat Pulse Research Umfrage umfasste 107 Unternehmen mit mehr als 100 Mitarbeitern und wurde im zweiten Quartal 2026 durchgeführt. Die Stichprobe konzentrierte sich auf den Mittelstand (36 % mit 101–250 Mitarbeitern, 27 % mit 251–1.000 Mitarbeitern) und umfasste verschiedene Rollen, von Managern bis zur C-Suite. Die Ergebnisse sind als richtungsweisend zu verstehen und spiegeln die Perspektive von Unternehmen wider, die aktiv KI-Infrastruktur aufbauen.
Thema: OpenAI. Quelle/Inspiration: VentureBeat.