Meta začne v první polovině příštího roku zapojovat do svých datových center vlastní čip pro umělou inteligenci. Jmenuje se MTIA 450, uvnitř firmy mu říkají Arke a podle Mety zvládne na každý watt elektřiny i na každý utracený dolar více práce než čipy, které dnes nabízí Nvidia. Firma zároveň poprvé popsala další generaci s krycím jménem Astrid a přiznala, že jeden dříve plánovaný čip zrušila.
První kusy z Tchaj-wanu
Meta oznámila už v roce 2023, že si bude navrhovat vlastní čipy. Návrhy dělá společně s Broadcomem a vyrábí je tchajwanská TSMC. V září dorazilo do Mety prvních dvanáct kusů Arke z výroby a inženýři je hned začali testovat.
Výsledky se od počítačových simulací lišily jen o dvě až tři procenta. To je u zbrusu nového čipu velmi dobrá zpráva. Hned první den na něm technici spustili nejen vlastní modely Mety, ale i modely od čínských firem DeepSeek a Alibaba.
Šéf programu vlastních čipů a viceprezident pro vývoj Yee Jiun Song k novým generacím řekl, že každá další nese o něco větší technologické riziko a zároveň nabízí lepší výkon. Myslí tím lepší poměr výkonu ke spotřebované energii i k ceně.
K čemu je Arke určený
Arke není čip, který by měl konkurovat nejsilnějším procesorům od Nvidie při trénování velkých modelů. Trénování je ta drahá a náročná fáze, kdy se model teprve učí. Arke má na starosti to, co přijde potom, tedy běžný provoz. Když uživatel něco napíše do chatu nebo když se mu v aplikaci sestavuje obsah, hotový model musí odpovědět. Tomuto procesu se říká inference a Meta ji provádí miliardykrát denně.
Všechny generace řady MTIA stojí na rychlé paměti s velkou propustností, která čipu dokáže dodávat data dostatečně svižně na to, aby neměl prostoje. Žádná z nich přitom necílí na nejrychlejší formy inference, kde rozhodují zlomky sekundy. Meta míří na běžný, každodenní provoz ve velkém objemu. Tyto čipy se mají stát hlavním nástrojem firmy pro obecnou inferenci.
Čtvrtá generace v přípravě
Čtvrtá generace nese označení MTIA 500 a krycí jméno Astrid. Návrhářské práce na ní mají skončit zhruba za měsíc a do datových center by měla dorazit ke konci roku 2027. Meta počítá s tím, že Astrid nasadí v mnohem větším počtu než Arke, takže právě tento čip má nést hlavní tíhu provozu.
Při ladění pomáhá i tým z Meta Superintelligence Labs. Dodává odhady, jaké nároky budou mít modely, které firma teprve chystá, aby se hardware dal přizpůsobit softwaru dříve, než vůbec vznikne.
Zrušení čipu Olympus
Meta původně pracovala na čipu s krycím jménem Olympus, který měl umět obojí, tedy trénování i inferenci. Měl dorazit někdy v letech 2028 nebo 2029. Firma projekt zastavila a vsadila všechno na čipy určené jen pro inferenci. Rozhodly peníze.
Čip, který zvládne obě věci, by podle Songa vyšel zhruba o 30 procent dráž. Při běžném objemu by se to dalo tolerovat, ale Meta staví kapacity v řádu gigawattů. Když začnete stavět gigawatty a gigawatty kapacity, na nákladech vám opravdu záleží, řekl Song. Třicetiprocentní příplatek je v takovém měřítku podle něj naprosto nepřijatelný.
Co si Meta od vlastního křemíku slibuje
Čip navržený přesně pro vlastní modely a vlastní servery nemusí umět nic navíc, a proto může být levnější i úspornější. Meta se zavázala, že během každého dvanáctiměsíčního období nasadí vlastní čipy v objemu přesahujícím jeden gigawatt spotřeby, a Song naznačil, že tempo potom ještě zrychlí.
Druhá výhoda je kontrola. Firma si může načasovat vývoj hardwaru podle toho, jaké modely chystá, a nemusí čekat, co a kdy jí dodá někdo jiný. Zároveň se tím zmenšuje závislost na jediném dodavateli.
Nvidii to ale z trhu nevyřazuje. Meta bude její procesory nakupovat dál, protože je stále potřebuje na trénování nejnovějších modelů a na nejnáročnější úlohy. Smysl této strategie spočívá v tom, že drahé univerzální grafické čipy si firma chce nechat na práci, kde se opravdu vyplatí, a předvídatelný běžný provoz převést na vlastní hardware.
Zdroj: bloomberg.com
