Nvidia hat mit Nemotron 3.5 Lightning das erste Modell seiner neuen Nemotron 3.5 Reihe veröffentlicht. Dieses kompakte Open-Weights-Modell, dessen Gewichte öffentlich zugänglich sind, verfügt über 3,6 Milliarden aktive Parameter und erreicht auf dem Intelligence Index der unabhängigen Bewertungsplattform Artificial Analysis einen Wert von 24. Damit zieht es mit OpenAIs gpt-oss-120b gleich, obwohl es nur ein Viertel der Parameter besitzt. Gleichzeitig liefert es mit nahezu 670 Tokens pro Sekunde die schnellsten Inferenzgeschwindigkeiten – also die Geschwindigkeit, mit der das Modell Eingaben verarbeitet und Ausgaben generiert – in seiner Klasse.
Architektur und Leistung
Nemotron 3.5 Lightning ist der direkte Nachfolger des Nemotron 3 Nano 30B A3B und behält dessen hybride Mamba-Transformer-Architektur bei. Es umfasst insgesamt 31,6 Milliarden Parameter, wovon jedoch nur 3,6 Milliarden zu einem bestimmten Zeitpunkt aktiv sind. Auf dem Intelligence Index stellt der Wert von 24 einen Sprung von neun Punkten gegenüber seinem Vorgänger (15) dar. Damit liegt Lightning auf Augenhöhe mit OpenAIs gpt-oss-120b (24) und nur knapp hinter Nvidias eigenem Nemotron 3 Super (26), das etwa viermal größer ist. Die intelligentesten kleinen Modelle in dieser Größenklasse, wie Qwen3.6 35B A3B (32) und Metas neues Muse Glimmer (35), behalten jedoch einen deutlichen Vorsprung.
Fokus auf Geschwindigkeit und Effizienz
Nvidia zielt mit Lightning auf einen anderen Bereich der Effizienz ab. In Vorabtests mit den finalen NVFP4-Gewichten erreichte das Modell fast 670 Tokens pro Sekunde, den höchsten gemessenen Durchsatz unter allen verglichenen Modellen und fast doppelt so schnell wie Googles Gemini 3.5 Flash-Lite (386 Tokens/s). Eine Aufgabe aus dem Intelligence Index benötigt etwa 0,5 Minuten zur Fertigstellung, während Qwen3.6 35B A3B rund 3,5 Minuten und Gemma 4 31B etwa 5,8 Minuten benötigen. Proprietäre Modelle dominieren jedoch weiterhin die gesamte Effizienzgrenze; Gemini 3.5 Flash-Lite erzielt 37 Punkte auf dem Intelligence Index bei ähnlicher Aufgabenzeit, und GPT-5.6 Luna (max) erreicht 52 Punkte in weniger als zwei Minuten.
Stärke in Agenten-basierten Anwendungen
Laut Artificial Analysis zeigen sich die größten Verbesserungen in Agenten-Benchmarks. Auf GDPval-AA v2 erreicht Lightning eine Elo-Bewertung von 824, ein Zuwachs von 334 Punkten gegenüber Nemotron 3 Nano. Damit übertrifft es sowohl gpt-oss-120b (800) als auch das größere Nemotron 3 Super (698). Bei Terminal-Bench v2.1 steigt der Wert von 7 auf 24,3 Prozent und kommt damit gpt-oss-120b (26,2 Prozent) sehr nahe.
Nvidia liefert das Modell unter der permissiven OpenMDW-1.1-Lizenz aus und positioniert es als leistungsstarkes Arbeitstier für agentenbasierte Pipelines. Artificial Analysis berichtet, dass Nvidia mit Partnern wie CodeRabbit und Harvey bei der Nachschulung zusammengearbeitet hat, um die Leistung in spezifischen Bereichen zu steigern.
Verfügbarkeit und technische Details
Nvidia bietet das Modell sowohl in BF16- als auch in NVFP4-Gewichten an. Die NVFP4-Variante erzielt laut Artificial Analysis ebenfalls 24 Punkte auf dem Intelligence Index mit minimalem Qualitätsverlust im Vergleich zur höherpräzisen Version. Das Inferenzmodell verarbeitet ausschließlich Text und unterstützt ein Kontextfenster von einer Million Tokens. Die Gewichte sind ab sofort verfügbar, und die serverlose Inferenz wird unter anderem von DeepInfra, Fireworks, FriendliAI, CoreWeave, GMI Cloud, Nebius und Crusoe angeboten.
Nvidias Bestreben nach Effizienz statt reiner Größe ist nicht neu. Bereits im letzten Jahr argumentierten Forscher des Unternehmens in einer viel diskutierten Studie, dass Modelle unter 10 Milliarden Parametern die meisten Agenten-Workloads ebenso gut bewältigen können wie Modelle mit 70 bis 175 Milliarden Parametern, jedoch zu einem Zehntel bis Dreißigstel der Kosten. Nemotron 3.5 Lightning mit seinen 3,6 Milliarden aktiven Parametern fällt in diese leichte Klasse und stellt mit seinen Leistungen in Agenten-Benchmarks und einer Geschwindigkeit von fast 670 Tokens pro Sekunde den bisher deutlichsten Beweis für diese These auf Produktebene dar.
Thema: OpenAI. Quelle/Inspiration: The Decoder.