Blog /
AI /
Inferenční čipy místo GPU: Věřitelé v AI poprvé vsadili na jiný druh čipů

Inferenční čipy místo GPU: Věřitelé v AI poprvé vsadili na jiný druh čipů

Ondřej Barták
Ondřej Barták
podnikatel a programátor
21. 7. 2026
5 minut čtení
Poslechněte si článek
Audio verze článku
Inferenční čipy místo GPU: Věřitelé v AI poprvé vsadili na jiný druh čipů

Startup General Compute si půjčil až 400 milionů dolarů. Na tom by nebylo nic zvláštního, nebýt jedné věci. Zástavou nejsou grafické čipy od Nvidie, na kterých dosud stály všechny velké úvěry v oboru umělé inteligence. Místo nich ručí firma inferenčními čipy SambaNova SN50. Podle dostupných informací jde o první případ, kdy věřitel přijal jako hlavní zajištění velkého AI úvěru čipy postavené výhradně pro spouštění hotových modelů, nikoli pro jejich trénování.

Půjčku poskytla investiční firma Upper90 Capital Management. Startují na sto milionech a suma poroste podle toho, jak přibývají platící zákazníci, se stropem na čtyřech stech milionech.

Z čipů se stala zástava pro Wall Street

Abychom pochopili, proč je tenhle obchod jiný, musíme se vrátit o pár let zpět. V roce 2021 spoluzakladatel Upper90 a bývalý obchodník z Goldman Sachs Billy Libby financoval nákup grafických čipů pro firmu Crusoe. Sám tuto půjčku popsal jako vůbec první, která je krytá hodnotou pokročilých AI čipů. Tradiční banky se tehdy takovým obchodům vyhýbaly. Nikdo pořádně nevěděl, jak rychle grafické čipy ztrácejí na ceně.

Nedůvěra rychle opadla. V srpnu 2023 si firma CoreWeave půjčila 2,3 miliardy dolarů proti čipům Nvidia H100. Půjčky kryté čipy se staly pohonem jejího růstu a její celkový dluh dnes přesahuje 21 miliard dolarů. Model, který vybudovala, převzal celý obor takzvaných neocloudů, tedy provozovatelů výpočetních center šitých na míru umělé inteligenci. Vše přitom dosud stálo na křemíku od Nvidie. Až doteď.

V čem jsou čipy SambaNova architektonicky jiné?

Proč tedy General Compute sáhl po SN50 místo grafických čipů Nvidie? Nejde primárně o cenu. Rozhoduje architektura a to, co se odehrává přímo na čipu během inference. Inference je fáze, kdy hotový, už natrénovaný model odpovídá na dotazy uživatelů, tedy generuje text nebo jiné výstupy v reálném provozu.

Spuštění velkého jazykového modelu se dělí na dvě fáze. První je prefill. Model přečte a zpracuje celý vstupní dotaz. Tohle je paralelní úloha a dobře sedne na architekturu SIMT, kolem které Nvidia své grafické čipy postavila. Druhá fáze je dekódování. Model generuje odpověď token po tokenu, a každý další závisí na všech předchozích. Problémem tu není výpočetní výkon, ale rychlost, s jakou čip přesouvá data mezi pamětí a výpočetními jednotkami.

SN50 od SambaNova je postavený přesně na tohle druhé omezení. Umisťuje paměť a výpočetní obvody těsně vedle sebe, takže data putují na kratší vzdálenost. Nezávislé měření od Artificial Analysis z července 2026 na smíšené sestavě čtyř grafických čipů Nvidia H200 a šestnácti jednotek SN50 dosáhlo 763 tokenů za sekundu na modelu MiniMax M2.7, tedy několikanásobně rychleji než poskytovatelé stavějící jen na grafických čipech.

Druhá výhoda míří přímo do finanční konstrukce obchodu. SN50 nepotřebuje vodní chlazení. Běží na 20 kilowattech na rack, což zvládne běžná vzduchem chlazená hala. General Compute už má nasmlouvaných 15 megawattů takové kapacity. Kapalinové chlazení vyžaduje specializované haly, jejichž stavba trvá roky, zatímco vzduchem chlazené sestavy se dají nainstalovat během pár týdnů.

Věřitelé jdou za příjmy

Hlubší logika obchodu se točí kolem rozdílu mezi výpočty pro trénink a pro inferenci. A právě tady se pozornost investorů přesouvá.

Trénink velkého modelu je jednorázová záležitost. Laboratoř model trénuje během náporu výpočtů, který trvá dny nebo týdny, a pak cluster jen částečně vytížený čeká. Inference funguje jinak. Servírování hotového modelu uživatelům, vývojářům a autonomním agentům běží pořád, protože každé volání API i každá odpověď chatbota je inferenční úloha. Inference se tak blíží něčemu jako veřejná služba, tedy trvalému toku příjmů z každého vyprodukovaného tokenu.

A tady je jádro věci. Grafický čip je univerzální. Zvládne trénink, inferenci i grafiku a hlavně pro něj existuje dostatečně velký trh s použitým hardwarem, aby věřitel odhadl jeho zůstatkovou cenu. Inferenční ASIC jako SN50 je naopak vyladěný na specifickou sadu operací. To ho dělá rychlejším a levnějším na token, ale zároveň má mimo tuhle úlohu jen malé využití. Věřitel, který přijme inferenční čipy jako zástavu, sází na to, že úloha, pro kterou byl čip stvořen, zůstane ekonomicky významná po celou dobu splácení.

Superpočítač nepotřebuje každý, ale inferenci a umělou inteligenci ano. Firma, která servíruje inferenci nejlevněji a nejrychleji, ty příjmy získá, a hardware za takovou ekonomikou je spolehlivější zástavou než hardware, jehož vytížení visí na nárazovém tréninkovém rozvrhu. Každá další část ze čtyř set milionů je proto vázaná na zákaznickou poptávku. Úvěrové riziko tak roste v souladu se skutečnými příjmy, nikoli před nimi.

Co věřitelé ocení a co zatím ne

Bezrizikový obchod to ovšem není. Pro čipy Nvidia existuje sekundární trh a je stále likvidnější, ostatně burza Compute Exchange spustila trh s použitými čipy H100 a A100 před pár dny. Pro čipy SambaNova SN50 žádný takový trh neexistuje. Upper90 je přijala jako zástavu dřív, než vznikla jakákoli historie jejich prodeje.

Zatímco použitou Nvidii zvládne skoro jakákoli AI úloha, použitý inferenční ASIC vyladěný na dekódování u modelů typu transformer může ztratit hodnotu, pokud se převažující architektura modelů posune jinam. Špičkový grafický čip Nvidia ztratí podle analytiků S&P Global Ratings zhruba polovinu prodejní hodnoty během tří let. Křivky ztráty hodnoty u inferenčních čipů ovšem zatím nikdo nezná. Varovným příkladem jsou ASIC čipy na těžbu bitcoinu, které málem přišly o veškerou hodnotu ve chvíli, kdy jejich algoritmus něco nahradilo.

Zdroje: techcrunch.com a techtimes.com

Kategorie: AI

Komentáře

0

Chcete se zapojit do diskuze?

Buďte ve spojení s komunitou a získejte přístup k exkluzivnímu obsahu.

Zatím žádné komentáře. Buďte první!

Líbil se vám tento článek?
Objevte další zajímavé příspěvky na blogu
Zpět na blog
Editee Dashboard

Tvořte 10x rychleji na pár kliknutí s editee AI

Umělá inteligence za vás vytvoří kvalitní textový a vizuální obsah pro vaše sociální sítě, blog, reklamy, web a spoustu dalšího během pár sekund!

Související příspěvky

Nezisková organizace buduje „internet umělé inteligence“ dostupný pro všechny jazyky Nezisková organizace buduje „internet umělé inteligence“ dostupný pro všechny jazyky
Farmářka na venkově vyfotí uvadající rostlinu. Chce zjistit, co jí je, jenže neumí anglicky a nejbližší datové připojení je bůhvíkde. Přesně pro takov...
4 min čtení
21. 7. 2026
Hugging Face čelil útoku AI agentů, sám narazil na problémy s obranou Hugging Face čelil útoku AI agentů, sám narazil na problémy s obranou
Společnost Hugging Face, největší úložiště modelů a datových sad pro umělou inteligenci, oznámila průnik do své interní infrastruktury. Na tom by neby...
5 min čtení
21. 7. 2026
Meta čelí první žalobě za propouštění řízené umělou inteligencí Meta čelí první žalobě za propouštění řízené umělou inteligencí
Šestadvacet bývalých zaměstnanců Mety zažalovalo firmu Marka Zuckerberga. Tvrdí, že při jarním propouštění nechala počítačové systémy sestavit seznam...
5 min čtení
21. 7. 2026
Cestování

USA

Texas
Podnikání Podnikání v USA
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.