Google entwickelt einen neuen Server-Chip mit dem internen Namen „Frozen v2“, der ab dem Jahr 2028 zum Einsatz kommen soll. Dieser Chip ist darauf ausgelegt, die Architektur des Gemini-KI-Modells direkt in seine Hardware zu integrieren. Laut internen Quellen könnte „Frozen v2“ beim Bereitstellen von KI-Antworten, auch Inferenz genannt, eine 6- bis 10-fach höhere Effizienz als Googles aktuelle TPU-Chips erreichen.
Die Einführung dieses Chips könnte Googles Kosten für KI-Inferenz drastisch senken und dem Unternehmen einen Preisvorteil gegenüber Wettbewerbern wie OpenAI und Anthropic verschaffen. „Frozen v2“ ist als Testlauf für spezialisierte Chips mit kleinerem Produktionsvolumen als die TPU-Linie geplant.
Architektur statt Gewichte direkt im Chip
Im Gegensatz zu Googles Tensor Processing Units (TPUs), die mit einer Vielzahl von KI-Modellen kompatibel sind, integriert „Frozen v2“ Teile der Modellstruktur von Gemini direkt in das Silizium. Der Name „Frozen“ leitet sich vom Konzept des „Einfrierens“ von Parametern in KI-Modellen ab, bei dem bestimmte Werte fixiert werden, damit sie sich nicht ändern. Bei „Frozen v2“ wird ein Teil der Modellarchitektur dauerhaft in den Chip integriert. Dies reduziert die notwendigen Rechenschritte und beschleunigt die Antwortzeiten.
Die ursprüngliche Idee für dieses Design stammt Berichten zufolge von Jeff Dean, dem Chefwissenschaftler von Google Deepmind. Sein erster „Frozen“-Entwurf sah vor, die Modellgewichte – also die spezifischen Einstellungen, die die Reaktion eines KI-Modells auf Anfragen bestimmen – direkt in den Chip einzubetten. Dieser Ansatz wurde jedoch verworfen, da der Chip dann nur mit einer einzigen Gemini-Version funktioniert hätte und zu schnell veraltet wäre.
„Frozen v2“ verfolgt einen flexibleren Ansatz, indem es die Modellarchitektur – den zugrundeliegenden Bauplan – anstelle der Modellgewichte in den Chip einbettet. Neue Gewichte können weiterhin auf den Chip geladen werden. Wie viel der Architektur tatsächlich fest im Chip verankert wird, ist laut Informationen noch nicht endgültig entschieden.
Interner Einsatz und strategischer Vorteil
Da der Chip nur so lange funktioniert, wie Google an derselben Modellarchitektur festhält, wird er voraussichtlich nicht als Produkt für externe Kunden angeboten. Google vermietet seine TPUs bereits an Unternehmen wie Meta und bietet sie externen Cloud-Kunden an, auch mit dem Programm „TPU@Premises“ als Alternative zu Nvidia. „Frozen v2“ hingegen ist primär dazu gedacht, Googles internen Bedarf an KI-Rechenkapazität zu entlasten.
Sollte der Chip seine Versprechen erfüllen, könnte er dennoch einen erheblichen Wettbewerbsvorteil darstellen. Im KI-Geschäft hängt die Gewinnmarge zunehmend davon ab, wie gut Unternehmen ihre Inferenzkosten optimieren. Mit „Frozen v2“ könnte Google leistungsstarke Modelle zu niedrigeren Preisen betreiben und Marktanteile von Konkurrenten wie OpenAI und Anthropic gewinnen.
Thema: OpenAI. Quelle/Inspiration: The Decoder.