Nvidia hat seine neuesten Serversysteme für künstliche Intelligenz (KI) unter dem Namen Vera Rubin vorgestellt. Dieses System kommt in der zweiten Hälfte dieses Jahres auf den Markt und damit früher als ursprünglich erwartet. Nvidia-CEO Jensen Huang gab dies auf der Consumer Electronics Show in Las Vegas bekannt. Seinen Worten zufolge wächst der Bedarf an Rechenleistung für KI rasant, da die Modelle enorme Datenmengen verarbeiten müssen. Das Unternehmen testete das neue System unter der Annahme, dass Entwickler schon bald bis zu 10 Billionen Datenparameter für das Training von KI-Modellen verwenden werden.
Die Vera-Rubin-Systeme sind für die Verarbeitung enormer Rechenlasten ausgelegt, die es ermöglichen, Simulationen der Realität für das KI-Training zu erstellen. So können beispielsweise autonome Fahrzeuge ihre Modelle mithilfe von Simulationen verschiedener Fahrsituationen schneller verbessern, anstatt Tausende Stunden realer Tests durchzuführen. Nvidia hat eine Reihe von Produkten für Konnektivität und Speicherlösungen in das System integriert, wodurch sich die Rechengeschwindigkeit erhöht. Damit hat das Unternehmen seine Position als größter Hersteller von Netzwerkhardware und Rechenhalbleitern gestärkt.
Rubin GPU: Das Herzstück für KI-Berechnungen
Die Rubin GPU (Grafikprozessor) dient in erster Linie dazu, die Millionen von Berechnungen zu beschleunigen, die für das Training und den Betrieb von KI-Modellen erforderlich sind. Dieser Chip ist Teil der Vera-Rubin-NVL72-Plattform, die 72 solcher GPUs in einem Rack enthält. Die Rubin GPU wird im 3-Nanometer-Verfahren von Taiwan Semiconductor Manufacturing Company gefertigt und nutzt die modernste HBM4-Hochgeschwindigkeitsspeichertechnologie (Speicher mit hoher Bandbreite).
Jede Rubin GPU verfügt über 288 GB HBM4-Speicher mit einer Bandbreite von 22 TB/s (Terabyte pro Sekunde) und eine NVLink-Bandbreite von 3,6 TB/s. Diese Werte ermöglichen das Training von Mixture-of-Experts-Modellen (MoE) mit nur einem Viertel der Anzahl an GPUs im Vergleich zur vorherigen Blackwell-Generation.
Die Rubin GPU ist für die neue Generation der KI optimiert, einschließlich agentischer Modelle, die komplexe Aufgaben wie Denken und Entscheidungsfindung bewältigen. Nvidia gibt an, dass sie die Inferenzkosten (Antworten auf Benutzeranfragen) im Vergleich zu Blackwell auf ein Zehntel senkt, wodurch fortschrittliche KI-Systeme erschwinglicher werden.
Vera CPU: Prozessor für Daten und Entscheidungsfindung
Die Vera CPU (Zentralprozessor) wurde speziell für die Datenübertragung und zur Unterstützung agentischen Schlussfolgerns in der KI entwickelt, bei dem Modelle Denkprozesse simulieren. Dieser Prozessor ermöglicht schnelle, energieeffiziente Berechnungen mit vorhersehbarer Leistung. Die Vera-Rubin-NVL72-Plattform umfasst 36 solcher CPUs mit jeweils 88 benutzerdefinierten NVIDIA-Olympus-Kernen (Arm-kompatibel).
Zu den Parametern der Vera CPU gehören: In Kombination mit den GPUs erreicht das System 3 168 benutzerdefinierte NVIDIA-Olympus-Kerne, 54 TB LPDDR5X-Speicher (energieeffizienter Speicher mit doppelter Datenrate) und eine NVLink-C2C-Bandbreite von 65 TB/s. Insgesamt enthält die Plattform 1 296 NVIDIA-Chips sowie HBM4. Die Vera CPU arbeitet mit der Rubin GPU zusammen, um die Intelligenz in einem Rack-System zu skalieren, wobei ein NVLink-6-Switch für eine All-to-All-Kommunikation zwischen den GPUs mit 3,6 TB/s sorgt.
Dieser Prozessor beschleunigt die Datenverarbeitung über Speicher, Netzwerke, Cybersicherheit und elastische Skalierung in KI-Fabriken hinweg. Nvidia betont, dass die Vera CPU massive Effizienzgewinne ermöglicht. So können etwa beim Training von Modellen mit 10 Billionen Parametern innerhalb eines Monats Ergebnisse mit weniger Komponenten erzielt werden.
Produktion und Partner
Nvidia bestätigte, dass Vera Rubin bereits in voller Produktion ist und die Auslieferung an Kunden in der zweiten Jahreshälfte beginnen wird. Zu den ersten Partnern gehören Microsoft und CoreWeave, die Dienste auf Basis dieser Chips anbieten werden. Microsoft plant, Tausende Rubin-Chips in seine Rechenzentren in Georgia und Wisconsin zu integrieren. Das Unternehmen arbeitet außerdem mit Red Hat an Produkten für Banken, Automobilhersteller und Fluggesellschaften.
Die Vera-Rubin-NVL72-Plattform basiert auf der dritten Generation des NVIDIA-MGX-Rack-Designs, was einen einfachen Umstieg von früheren Generationen ermöglicht. Sie umfasst außerdem eine ConnectX-9 SuperNIC mit einer Bandbreite von 1,6 Tb/s (Terabit pro Sekunde) pro GPU für Netzwerke mit niedriger Latenz, eine BlueField-4 DPU zur Beschleunigung der Datenverarbeitung sowie Spectrum-X Ethernet mit integrierter Siliziumphotonik für eine 5-mal höhere Energieeffizienz und eine 10-mal höhere Netzwerkstabilität.
