Auf dem OCP Global Summit in San Jose konzentrierte sich NVIDIA auf die Zusammenarbeit mit mehr als 70 Partnern bei der Entwicklung effizienter Gigawatt-KI-Fabriken, die die nächste Generation von Modellen künstlicher Intelligenz unterstützen sollen. Diese Fabriken werden die Architektur Vera Rubin NVL144 nutzen, eine offene Rackserver-Architektur mit vollständiger Flüssigkeitskühlung. Dieses Design ist für Vera-Rubin-Prozessoren vorgesehen, die 2027 auf den Markt kommen sollen. NVIDIA stellt diese Architektur dem Open Compute Project als offenen Standard zur Verfügung, damit verschiedene Unternehmen sie in ihren Rechenzentren implementieren können.
Vera Rubin NVL144 führt Innovationen in Form einer zentralen Leiterplatte ein, die herkömmliche Kabelverbindungen ersetzt. Dies ermöglicht eine schnellere Montage sowie eine einfachere Wartung und Erweiterung. Modulare Erweiterungssteckplätze ermöglichen das Hinzufügen von NVIDIA-ConnectX-9-Netzwerktechnik mit einer Geschwindigkeit von 800 GB/s und Vera-Rubin-Prozessoren für Inferenz mit sehr großen Kontexten. Die Architektur unterstützt Rechenzentren mit einer 800-Volt-Gleichstromversorgung, was die Skalierbarkeit erhöht, die Energieeffizienz verbessert und den Materialverbrauch reduziert. Der Umstieg von einem herkömmlichen dreiphasigen 415- oder 480-Volt-System auf 800 VDC ermöglicht es, über dieselben Kupferleiter 150 % mehr Energie zu übertragen.
NVIDIA betonte, dass Vera Rubin NVL144 zukunftssicher ist und über ein flexibles Design für fortschrittliche Inferenz-Engines und die Anforderungen autonomer KI-Agenten verfügt. Sie basiert auf der bestehenden modularen MGX-Architektur, die mit Komponenten von mehr als 50 Partnern kompatibel ist. Dadurch können Betreiber von Rechenzentren verschiedene Komponenten modular kombinieren und ihre KI-Fabriken individuell anpassen. Auf dem Summit kündigten mehr als 50 Partner ihre Unterstützung für Vera Rubin NVL144 an, darunter Foxconn, das sein für 800 VDC ausgelegtes 40-Megawatt-Rechenzentrum Kaohsiung-1 in Taiwan ausführlich vorstellte. Zu den weiteren Vorreitern gehören CoreWeave, Lambda, Nebius, Oracle Cloud Infrastructure und Together AI.
Die Unterstützung für NVIDIA Kyber wächst und ermöglicht eine höhere GPU-Dichte
NVIDIA stellte außerdem die wachsende Unterstützung für die NVIDIA-Kyber-Rackserver-Architektur vor, die bis 2027 eine Infrastruktur zur Verbindung von 576 Rubin-Ultra-Prozessoren unterstützen soll. Wie Vera Rubin NVL144 bringt auch Kyber Innovationen bei der 800-VDC-Stromversorgung, der Flüssigkeitskühlung und dem mechanischen Design mit sich. Dieses System erhöht die GPU-Dichte im Rack und maximiert damit die Leistung der KI-Infrastruktur. Durch die vertikale Anordnung der Compute-Blades, ähnlich wie Bücher in einem Regal, kann Kyber bis zu 18 Compute-Blades in einem einzigen Chassis unterbringen. Speziell entwickelte NVIDIA-NVLink-Switch-Blades sind auf der Rückseite über eine kabellose zentrale Leiterplatte integriert, um eine nahtlose Skalierung des Netzwerks zu ermöglichen.
Kyber wird zu einem grundlegenden Element hyperskalierter Rechenzentren und bietet höhere Leistung, Zuverlässigkeit und Energieeffizienz. NVIDIA Kyber ermöglicht es Kunden, die verwendete Kupfermenge um mehrere Tonnen zu reduzieren, was zu Einsparungen in Millionenhöhe führt. Partner wie Vertiv stellten ihre platz-, kosten- und energieeffiziente 800-VDC-MGX-Referenzarchitektur vor, die eine vollständige Stromversorgungs- und Kühlungsinfrastruktur umfasst. HPE kündigte Unterstützung sowohl für NVIDIA Kyber als auch für NVIDIA Spectrum-XGS Ethernet an, eine Technologie zur Skalierung über mehrere Rechenzentren hinweg als Bestandteil der Spectrum-X-Ethernet-Plattform.
Meta und Oracle setzen auf Spectrum-X Ethernet
Meta Platforms Inc. und Oracle Corp. kündigten Pläne an, ihre Rechenzentren auf NVIDIA-Spectrum-X-Ethernet-Netzwerk-Switches zu standardisieren. Diese fortschrittlichen Switches bieten höhere Verbindungsgeschwindigkeiten und einen besseren Datendurchsatz für KI-Workloads. Sie nutzen adaptives Routing, um den Datenfluss im Netzwerk zu optimieren, was ideal für die spezifischen Datenverkehrsmuster von KI-Anwendungen ist. Bei einer früheren Demonstration erzielte der größte KI-Supercomputer der Welt dank Spectrum-X einen um 95 % höheren Datendurchsatz.
Meta plant, Spectrum-X Ethernet in das Facebook Open Switching System zu integrieren, das Netzwerk-Switches in sehr großem Maßstab verwaltet und steuert. Gaya Nagarajan, Vice President für Netzwerktechnik bei Meta, erklärte, dass das Unternehmen sofortige Effizienzgewinne beim KI-Training erwarte. „Die nächste Generation der KI-Infrastruktur von Meta erfordert offene und effiziente Netzwerktechnik in einem Maßstab, wie ihn die Branche noch nie gesehen hat“, sagte sie. Durch die Integration von Spectrum-X in den Minipack3N-Switch und FBOSS wird Meta seinen offenen Netzwerkansatz erweitern und die erforderliche Effizienz für das Training größerer Modelle sowie die Bereitstellung generativer KI-Anwendungen für Milliarden von Menschen erreichen.
Oracle geht noch einen Schritt weiter. Das Unternehmen integriert Spectrum-X Ethernet nicht nur in seine bestehenden Rechenzentren, sondern auch in künftige Gigawatt-KI-Fabriken, die von Vera-Rubin-Prozessoren angetrieben werden. Mahesh Thiagarajan, Executive Vice President von Oracle Cloud Infrastructure, sagte: „Durch den Einsatz von Spectrum-X Ethernet können wir Millionen von GPUs mit bahnbrechender Effizienz verbinden, damit unsere Kunden schneller trainieren, bereitstellen und von der nächsten Welle generativer und inferenzbasierter KI profitieren können.“
Das wachsende NVIDIA-NVLink-Fusion-Ökosystem
Neben der Hardware gewinnt auch NVIDIA NVLink Fusion an Dynamik und ermöglicht es Unternehmen, ihre teilkundenspezifischen Halbleiter in optimierte Rechenzentren zu integrieren. Intel und Samsung Foundry schließen sich dem Ökosystem an, das Entwickler kundenspezifischer Halbleiter sowie CPU- und IP-Partner umfasst. Dies beschleunigt die Skalierung von KI-Fabriken für anspruchsvolle Aufgaben beim Modelltraining und bei der Inferenz agentischer KI. Im Rahmen der Zusammenarbeit zwischen NVIDIA und Intel wird Intel x86-CPUs herstellen, die mithilfe von NVLink Fusion in die NVIDIA-Infrastruktur integriert werden. Samsung Foundry arbeitet mit NVIDIA zusammen, um die wachsende Nachfrage nach kundenspezifischen CPUs zu decken, und bietet Design-to-Manufacturing-Kompetenz für kundenspezifische Halbleiter.
NVIDIA leistet über mehrere Hardwaregenerationen hinweg einen wesentlichen Beitrag zu den OCP-Standards, einschließlich zentraler Bestandteile des elektromechanischen Designs des NVIDIA-GB200-NVL72-Systems. Dieselbe MGX-Rack-Grundfläche unterstützt GB300 NVL72 und wird Vera Rubin NVL144, Vera Rubin NVL144 CPX und Vera Rubin CPX für höhere Leistung und schnelle Bereitstellung unterstützen. Standards für Compute-Trays und Racks ermöglichen es Partnern, Elemente modular zu kombinieren und schneller zu skalieren.
Das Ökosystem aus Anbietern von Gleichstrominfrastruktur, Stromversorgungs- und Kühlungspartnern sowie Halbleiterherstellern einigt sich auf offene Standards für die MGX-Rackserver-Referenzarchitektur. Die Elektrofahrzeug- und Solarindustrie haben die 800-VDC-Infrastruktur aufgrund ähnlicher Vorteile bereits übernommen. NVIDIA Vera Rubin NVL144 bietet einen großen Fortschritt bei der Architektur beschleunigter Berechnungen und der KI-Leistung und verfügt über ein energieeffizientes, zu 100 % flüssigkeitsgekühltes, modulares Design. Die zentrale Leiterplatte beschleunigt Montage und Wartung und bietet modulare Erweiterungssteckplätze für Netzwerktechnik und Inferenz.
