Nvidia hat neue offene KI-Modelle eingeführt, die sowohl für Unternehmenseinsätze in eigenen Rechenzentren als auch für lokale Anwendungen auf PCs konzipiert sind. Zu den Neuvorstellungen gehören das 120-Milliarden-Parameter-Modell Nemotron 3.5 Super VL für Unternehmen und zwei schlankere Bolt-Modelle für den Einsatz auf lokalen KI-PCs.
Nemotron 3.5 Super VL für Unternehmenskunden
Das Modell Nemotron 3.5 Super VL ist speziell für den Einsatz von KI-Agenten in Unternehmen ausgelegt. Als „offene KI-Modelle“ werden hierbei Modelle bezeichnet, deren Gewichte (Parameter) veröffentlicht werden, was eine flexible Nutzung und Anpassung ermöglicht. Obwohl es mit 120 Milliarden Parametern weniger Parameter als das Nemotron 3 Ultra-Modell verwendet, soll es laut Nvidia eine vergleichbare Genauigkeit bei der Befolgung von Anweisungen und der Nutzung von Werkzeugen bieten.
Nvidia gibt an, dass Super VL Aufgaben schneller erledigt als konkurrierende Modelle wie Anthropic Opus 5 oder OpenAI GPT 6.1 Sol, insbesondere nach einem spezifischen Training für sogenannte „agentische Aufgaben“. Dies sind Aufgaben, bei denen eine KI eigenständig agiert und Entscheidungen trifft, um ein Ziel zu erreichen. Dazu gehören die Verarbeitung von Dokumenten, Finanzbuchhaltung, wissenschaftliche Experimente, die Bearbeitung von Krankenversicherungsansprüchen und die Abwehr von Sicherheitsangriffen. Unternehmen wie Skydance, EY, Ramp, Crowdstrike, Perplexity und Salesforce setzen das Modell bereits ein.
Kari Briski, Nvidias Vizepräsidentin für Open Models und Software, betonte, dass Unternehmen mit Super VL die Möglichkeit haben, das Modell mit eigenen Daten nachzutrainieren, auf ihrer eigenen Infrastruktur zu implementieren und die Kontrolle über ihre Entwicklungen zu behalten. Das Modell ist ab sofort verfügbar.
Bolt-Modelle für lokale KI-Anwendungen auf PCs
Für den Einsatz auf Endgeräten hat Nvidia zwei schlanke Bolt-Modelle vorgestellt. Diese sind darauf ausgelegt, direkt auf sogenannten KI-PCs, die mit Nvidias RTX Spark Chip ausgestattet sind, oder auf Workstations mit DGX Spark zu laufen. Solche PCs, die sich an Verbraucher, Programmierer und Wissensarbeiter richten, werden derzeit von Partnern wie Microsoft und Dell auf den Markt gebracht.
Eines der Modelle, Nemotron 3.5 Bolt 74B-A9B 24GB, verfügt über 74 Milliarden Parameter und ist für lokale, agentische Aufgaben konzipiert. Es soll ein Gleichgewicht zwischen Geschwindigkeit und Denkfähigkeit bieten, um mehrstufige Überlegungen, Werkzeugaufrufe und Web-Browsing zu bewältigen. Das kleinere Modell, Bolt E4B, ist speziell für konversationelle Agenten gedacht. Dieses Modell wird im Laufe des Monats verfügbar sein, während Bolt 74B-A9B bereits erhältlich ist.
Dieser Ansatz ermöglicht es PC-Nutzern, alltägliche Projekte zu delegieren, ohne die Arbeitslasten in die Cloud senden zu müssen, was Bedenken hinsichtlich des Datenschutzes adressiert.
Thema: Nvidia. Quelle/Inspiration: TechCrunch.