Während Führungskräfte bei den Kosten für Künstliche Intelligenz (KI) primär an Grafikprozessoren (GPUs) und deren Rechenleistung denken, bleiben die Ausgaben für Datenspeicherung häufig unberücksichtigt. Eine interne Messung von WD zeigt, dass ein achtsekündiger KI-generierter Videoclip, der dem Nutzer als 3,97 MB große Datei in 720p ausgegeben wird, im Backend über 500 MB an zugehörigen Daten – wie Protokolle, zwischengespeicherte Kontexte, Zwischen-Renderings, Backups und Sicherheitsaufzeichnungen – hinterlässt. Dies entspricht einer 130-fachen Steigerung gegenüber der Größe der tatsächlich ausgelieferten Datei.
Die unterschätzte Rolle der Datenspeicherung
Die traditionelle Diskussion um KI-Infrastruktur konzentrierte sich auf das rechenintensive Training von Modellen. Das Training ist ein begrenzter Prozess mit klarem Anfang und Ende. Im Gegensatz dazu läuft die Inferenz – der Prozess, bei dem ein trainiertes KI-Modell neue Daten verarbeitet, um Vorhersagen zu treffen oder Inhalte zu generieren – kontinuierlich ab, jedes Mal, wenn ein Modell eine Anfrage beantwortet. Jede Inferenz-Anfrage hinterlässt dabei Daten. Für Unternehmen, die längere und höherauflösende Videos generieren, kann der Speicherbedarf im Backend schnell auf Hunderte von Gigabytes pro Clip anwachsen.
Rasantes Wachstum und verborgene Kostenfallen
Die Nachfrage nach KI-Inferenz wird laut McKinsey bis 2030 mit einer durchschnittlichen jährlichen Wachstumsrate (CAGR) von 35 Prozent zunehmen, verglichen mit 22 Prozent für das Training. Bis zum Ende des Jahrzehnts soll die Inferenz mehr als 40 Prozent des gesamten Bedarfs an Rechenzentren ausmachen. Eine von WD gesponserte, globale IDC-Studie unter 763 IT- und Geschäftsentscheidern ergab, dass fast 95 Prozent der Befragten in den letzten zwölf Monaten einen Anstieg des Datenvolumens durch generative KI verzeichneten, wobei rund 61 Prozent ein Wachstum von 25 Prozent oder mehr angaben.
Ein leitender Produktmanager eines Hyperscale-Cloud-Dienstanbieters merkte in der Studie an: „Mehr Speicher kann als Optimierung dienen, um die GPUs auszulasten.“ Stundenlange Leerlaufzeiten von GPUs sind sehr kostspielig. Wenn die Speicherausgaben jährlich um 25 Prozent steigen, während das Budget für Rechenleistung (Compute) eher zyklisch wächst, können die Speicherkosten schnell die Budgets übertreffen, die die meiste Aufmerksamkeit erhalten. Daten wie Modellprotokolle, synthetische Ausgaben und Inferenz-Ergebnisse akkumulieren sich kontinuierlich, und Unternehmen speichern diese länger.
Strategien für eine zukunftsfähige Speicherinfrastruktur
Die zunehmende Speicherung und Wiederverwendung von Daten bedeutet, dass Speicherlösungen nicht nur wachsende Kapazitäten unterstützen müssen, sondern auch einen dynamischeren Zugriff darauf ermöglichen. Die WD-IDC-Umfrage zeigte, dass 96 Prozent der Befragten eine schnellere Archivabfrage zur Unterstützung von Inferenz oder Retrieval-Augmented Generation (RAG) erwarten. RAG ist eine Technik, die KI-Modelle durch den Abruf relevanter Informationen aus externen Datenquellen verbessert.
Dies erfordert einen architektonischen Ansatz für den gesamten KI-Datenlebenszyklus, der Leistung, Kapazität, Energieverbrauch, Zuverlässigkeit und die Gesamtbetriebskosten (TCO – Total Cost of Ownership) ausgleicht. Datenarchive, die einst unberührt blieben, müssen als aktive Assets für RAG und Inferenz betrachtet werden. Aufbewahrungsrichtlinien sollten sich am strategischen Wert der Daten orientieren, nicht an den ursprünglichen Speicherkosten. Ökonomisch skalierbare Kapazität und Speicher-Tiering, bei dem verschiedene Technologien für unterschiedliche Anforderungen über den Datenlebenszyklus hinweg eingesetzt werden, sind dabei entscheidend, um die Kosten im Griff zu behalten.
Für Finanz- und IT-Verantwortliche (CFOs und CIOs) bedeutet dies, dass die Ausgaben für KI-Infrastruktur möglicherweise zu eng auf die Rechenleistung fokussiert sind. Ein Engpass bei der Datenspeicherung kann sich in den Betriebskosten und Abrufverzögerungen bemerkbar machen, anstatt in den Investitionsausgaben (CapEx) für Beschleuniger. Eine KI-Budgetierung, die Speicher als „Rundungsfehler“ abtut, könnte innerhalb von 12 bis 18 Monaten feststellen, dass dieser „Fehler“ einen erheblichen Teil der Gesamtkosten des Programms ausmacht.
Thema: Technologie / KI allgemein. Quelle/Inspiration: MIT Technology Review.