NVIDIA hat Nemotron 3.5 Super VL veröffentlicht, ein offenes Modell mit 120 Milliarden Parametern für spezialisierte, dauerhaft laufende KI-Agenten. Nach Unternehmensangaben verbindet es die Verarbeitung von Text und visuellen Dokumenten in einem System. Zugleich stellte NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB und Nemotron 3.5 Bolt E4B 4GB für den lokalen Agentenbetrieb vor.
Super VL verbindet Dokumentenverständnis mit Agentenaufgaben
NVIDIA richtet die multimodalen Fähigkeiten von Super VL auf Inhalte aus, denen Agenten bei ihrer Arbeit begegnen: Bilder, Webseiten und PDFs. Laut dem Unternehmen erkennt das Modell Text, liest Tabellen und Diagramme und verarbeitet strukturierte Informationen in visuellen Dokumenten. Aus einer Webseite kann es sowohl Text als auch Informationen aus Diagrammen gewinnen.
Die Verbindung von Text- und Bildverständnis soll laut NVIDIA die Übergabe von Aufgaben zwischen getrennten Systemen reduzieren. Dadurch soll ein Agent den Kontext bewahren, wenn er vom Dokument über die extrahierten Daten zu einer Entscheidung gelangt.
Bei der Befolgung von Anweisungen, der Werkzeugnutzung, mehrstufigen Geschäftsabläufen und dem visuellen Verständnis erreicht Super VL nach Unternehmensangaben eine Genauigkeit, die mit NVIDIAs größtem Reasoning-Modell vergleichbar ist. Dabei hat es ungefähr ein Fünftel von dessen Parameterzahl.
Offene Modellgewichte und Training mit eigenen Daten
Mit Super VL stellt NVIDIA offene Modellgewichte, Datensätze und Trainingsverfahren bereit. Organisationen können das Modell mit eigenen Daten weitertrainieren und auf ihrer eigenen Infrastruktur betreiben, entsprechend ihren Anforderungen an Sicherheit und Datenstandort. Anpassungen unterstützt NVIDIA nach eigenen Angaben über NVIDIA NeMo, Python-basierte Pipelines und offene Datensätze.
Laut NVIDIA umfassten das Vortraining und das fortgesetzte Vortraining ungefähr 26 Billionen Token. Anschließend folgten ein Nachtraining mit rund 3,8 Millionen Beispielen und verstärkendes Lernen in Dutzenden von Umgebungen.
Auf Hugging Face veröffentlicht das Unternehmen zudem offene Datensätze für die Werkzeugnutzung durch Agenten und für Finanzaufgaben. Weitere Datensätze decken die Befolgung von Anweisungen, lange Kontexte, Fairness und das gemeinsame Verständnis von Bildern und Sprache ab. Umgebungen für verstärkendes Lernen stellt NVIDIA in NeMo Gym bereit.
Anpassungen für Finanzen und die Suche in Unternehmensanwendungen
Als konkrete Beispiele für Anpassungen nennt NVIDIA die Arbeit von Scale AI. Das Unternehmen hat Super VL für einen Skydance-Agenten zur Finanzierung von Lieferantenkrediten sowie für einen EY-Agenten zur Due-Diligence-Prüfung bei Fusionen und Übernahmen nachtrainiert. AfterQuery hat das Modell laut NVIDIA für die Analyse von Kreditverträgen in Hebbia angepasst.
Auch Atlassian und Perplexity integrieren das Modell nach Angaben von NVIDIA in ihre Plattformen. Bei Atlassian geht es um die agentengestützte Suche über Anwendungen wie Jira und Confluence hinweg. Perplexity integriert es für Such- und Agentenaufgaben in Perplexity Search und Computer.
Bolt 74B-A9B zielt auf lokale Recherche und Programmierung
Das größere Bolt-Modell ist laut NVIDIA für alltägliche lokale Agentenaufgaben auf NVIDIA RTX/DGX Spark ausgelegt. Bolt 74B-A9B 24GB nutzt eine native 2-Bit-Quantisierung, dank der es mit 24 GB Speicher auskommen und neben anderen Anwendungen laufen soll.
Über lokale Agentenwerkzeuge können Nutzer laut dem Unternehmen Webrecherchen sowie das Schreiben und Debuggen von Code delegieren, ohne diese Aufgaben in die Cloud zu senden. NVIDIA führt das Modell in PinchBench auf Platz eins unter den offenen Modellen seiner Klasse und in BrowseComp auf Platz zwei unter den offenen Modellen.
Bolt 74B-A9B 24GB ist bereits auf Hugging Face verfügbar. Unterstützt wird es von llama.cpp und Ollama sowie von LM Studio, Unsloth und vLLM. Es läuft auf GeForce-RTX-PCs, DGX Spark, DGX Station und RTX-PRO-Workstations; vorgesehen ist es außerdem für die am 16. Oktober erscheinenden NVIDIA-RTX-Spark-Notebooks.
Kleineres Bolt-Modell soll am 23. Oktober folgen, Super VL auch als NIM verfügbar
Bolt E4B 4GB soll am 23. Oktober verfügbar werden. NVIDIA sieht es für physische und dialogorientierte Agenten auf GeForce RTX, Jetson und RTX/DGX Spark vor. Zu den vorgesehenen Anwendungen gehören lokale Sprachassistenten, interaktive Figuren und eingebettete Schnittstellen für Dialoge über mehrere Runden.
Super VL ist bereits auf Hugging Face, in der ModelScope-Community und als NVIDIA NIM verfügbar. Bei der letzten Variante wird das Modell als Microservice für den Produktivbetrieb mit optimierten und validierten Konfigurationen sowie Unternehmenssupport bereitgestellt. Laut NVIDIA erscheinen Updates mit Sicherheitskorrekturen und Leistungsverbesserungen alle zwei Wochen.
