Na OCP Global Summit v San Jose se NVIDIA zaměřila na spolupráci s více než 70 partnery při navrhování efektivních gigawattových AI továren, které mají podporovat novou generaci modelů umělé inteligence. Tyto továrny budou využívat architekturu Vera Rubin NVL144, což je otevřená architektura rackových serverů s plně kapalinovým chlazením. Tento design je určen pro procesory Vera Rubin, které mají přijít v roce 2027. NVIDIA daruje tuto architekturu projektu Open Compute Project jako otevřený standard, aby ji mohly implementovat různé firmy ve svých datových centrech.
Vera Rubin NVL144 přináší inovace v podobě centrální desky s tištěnými spoji, která nahrazuje tradiční kabelové spoje. To umožňuje rychlejší montáž, snadnější údržbu a rozšiřování. Modulární expanzní sloty dovolují přidávat síťování NVIDIA ConnectX-9 s rychlostí 800 GB/s a procesory Vera Rubin pro masivní kontextové odvozování. Architektura podporuje datová centra s 800-voltovým stejnosměrným napájením, což zvyšuje škálovatelnost, zlepšuje energetickou efektivitu a snižuje spotřebu materiálů. Přechod z tradičního 415 nebo 480 voltového třífázového systému na 800 VDC umožňuje přenášet o 150 % více energie stejnými měděnými vodiči.
NVIDIA zdůraznila, že Vera Rubin NVL144 je připravena na budoucnost, s flexibilním designem pro pokročilé motory odvozování a požadavky autonomních AI agentů. Je založena na existující modulární architektuře MGX, která je kompatibilní s komponenty od více než 50 partnerů. To umožňuje operátorům datových center kombinovat různé součásti modulárně a přizpůsobovat si své AI továrny. Na summitu oznámilo podporu pro Vera Rubin NVL144 více než 50 partnerů, včetně Foxconn, který detailně popsal své 40-megawattové datové centrum Kaohsiung-1 v Tchaj-wanu, navržené pro 800 VDC. Mezi další průkopníky patří CoreWeave, Lambda, Nebius, Oracle Cloud Infrastructure a Together AI.
Podpora pro NVIDIA Kyber roste a přináší vyšší hustotu GPU
NVIDIA také odhalila rostoucí podporu pro architekturu rackových serverů NVIDIA Kyber, která má podporovat infrastrukturu spojující 576 procesorů Rubin Ultra do roku 2027. Stejně jako Vera Rubin NVL144 přináší Kyber inovace v 800 VDC napájení, kapalinovém chlazení a mechanickém designu. Tento systém zvyšuje hustotu GPU v racku, což maximalizuje výkon AI infrastruktury. Otáčením výpočetních bladeů vertikálně, podobně jako knihy na polici, umožňuje Kyber umístit až 18 výpočetních bladeů do jednoho šasi. Speciálně navržené NVIDIA NVLink switch blade jsou integrovány vzadu přes bezkabelovou centrální desku pro bezproblémové škálování sítě.
Kyber se stane základním prvkem hyperskalárních datových center, s vyšším výkonem, spolehlivostí a energetickou efektivitou. NVIDIA Kyber umožňuje zákazníkům snížit množství použité mědi o tuny, což vede k úsporám v milionech dolarů. Partneři jako Vertiv představili svou prostorově, nákladově a energeticky efektivní 800 VDC MGX referenční architekturu, která zahrnuje kompletní infrastrukturu napájení a chlazení. HPE oznámila podporu pro NVIDIA Kyber i pro NVIDIA Spectrum-XGS Ethernet, což je technologie pro škálování přes datová centra jako součást platformy Spectrum-X Ethernet.
Meta a Oracle přijímají Spectrum-X Ethernet
Meta Platforms Inc. a Oracle Corp. oznámily plány standardizovat svá datová centra na síťových přepínačích NVIDIA Spectrum-X Ethernet. Tyto pokročilé přepínače poskytují vyšší rychlost připojení a lepší propustnost dat pro AI úlohy. Využívají adaptivní směrování k optimalizaci toku dat v síti, což je ideální pro specifické vzory provozu v AI aplikacích. V dřívější demonstraci dosáhl největší AI superpočítač světa o 95 % rychlejší propustnosti dat díky Spectrum-X.
Meta plánuje integrovat Spectrum-X Ethernet do systému Facebook Open Switching System, který spravuje a ovládá síťové přepínače v masivním měřítku. Gaya Nagarajan, viceprezidentka pro síťové inženýrství v Metě, uvedla, že očekávají okamžité zisky v efektivitě trénování AI. "Další generace AI infrastruktury Mety vyžaduje otevřené a efektivní síťování v měřítku, jaké průmysl ještě neviděl," řekl. Integrací Spectrum-X do Minipack3N přepínače a FBOSS rozšíří Meta svůj otevřený síťový přístup a dosáhne potřebné efektivity pro trénování větších modelů a nasazení generativních AI aplikací pro miliardy lidí.
Oracle jde ještě dál. Nejenže integruje Spectrum-X Ethernet do svých existujících datových center, ale také do budoucích gigawattových AI továren poháněných procesory Vera Rubin. Mahesh Thiagarajan, výkonný viceprezident Oracle Cloud Infrastructure, řekl: "Přijetím Spectrum-X Ethernet můžeme propojit miliony GPU s průlomovou efektivitou, aby naši zákazníci rychleji trénovali, nasazovali a těžili z další vlny generativního a odvozovacího AI."
Rozšiřující se ekosystém NVIDIA NVLink Fusion
Kromě hardwaru získává NVIDIA NVLink Fusion dynamiku, což umožňuje firmám integrovat svůj polovlastní křemík do optimalizovaných datových center. Intel a Samsung Foundry se připojují k ekosystému, který zahrnuje designéry vlastního křemíku, CPU a IP partnery. To urychluje škálování AI továren pro náročné úlohy trénování modelů a agentického AI odvozování. V rámci spolupráce NVIDIA a Intel bude Intel vyrábět x86 CPU, které se integrují do NVIDIA infrastruktury pomocí NVLink Fusion. Samsung Foundry spolupracuje s NVIDIA na splnění rostoucí poptávky po vlastních CPU, nabízejíc design-to-manufacturing zkušenosti pro vlastní křemík.
NVIDIA je hlavním přispěvatelem do standardů OCP přes několik generací hardwaru, včetně klíčových částí elektromechanického designu systému NVIDIA GB200 NVL72. Stejný MGX rackový footprint podporuje GB300 NVL72 a bude podporovat Vera Rubin NVL144, Vera Rubin NVL144 CPX a Vera Rubin CPX pro vyšší výkon a rychlé nasazení. Standardy pro výpočetní traye a racky umožňují partnerům kombinovat prvky modulárně a škálovat rychleji.
Ekosystém přímých stejnosměrných infrastrukturových poskytovatelů, partnerů v napájení a chlazení i výrobců křemíku se shoduje na otevřených standardech pro MGX referenční architekturu rackových serverů. Elektrické vozidlo a solární průmysl již přijaly 800 VDC infrastrukturu pro podobné výhody. NVIDIA Vera Rubin NVL144 nabízí velký skok v architektuře akcelerovaného výpočtu a výkonu AI, s energeticky efektivním, 100% kapalinově chlazeným, modulárním designem. Jeho centrální deska s tištěnými spoji zrychluje montáž a servis, s modulárními expanzními sloty pro síťování a odvozování.
