AI průmysl prochází obdobím oprav. Minulý týden Nvidia oznámila své hospodářské výsledky a celý svět zatajil dech. Pokud by selhala očekávání, bylo by po všem. Pokud by je překonala, vracíme se zpět. Nakonec výsledky překonaly odhady, ale akcie stejně klesly po počátečním nárůstu. Mnoho věcí v boomu umělé inteligence působí podezřele. Způsob, jakým peníze pohánějí investiční šílenství, je dost sporný a stal se z toho meme, kde stejný šek na 1,4 bilionu dolarů (přibližně 32,2 bilionu Kč) koluje mezi malou skupinou účastníků. Můžeme to nazvat financováním dodavateli, ale nevypadá to dobře.
Rizika pro velké hráče
Největší riziko podle nesou hyperscalers jako Microsoft, Amazon a Oracle, plus noví cloudoví hráči jako Nebius a CoreWeave. Jsou uprostřed mezi dodavateli čipů jako Nvidia a kupujícími výpočetní kapacity jako OpenAI. Nemají jinou možnost než kupovat skutečné čipy od Nvidie a doufat, že bude trvalý dopyt (tedy příjmy vyšší než náklady) od těch, kdo kupují výpočetní sílu, aby mohli splnit své závazky. Pokud ne, kupující odejdou, sníží své závazky (nebo zkrachují), Nvidia už ty GPU prodala a hyperscalers zůstanou s miliardami a gigawatty nevyužité kapacity, která rychle ztrácí hodnotu kvůli krátké životnosti GPU.
Rostoucí pochybnosti o udržitelnosti
Nálada ohledně (ne)udržitelnosti AI průmyslu roste. Sam Altman ztratil nervy v podcastu, když se ho moderátor zeptal, jak OpenAI s příjmy 13 miliard dolarů (přibližně 299 miliard Kč) může uzavírat závazky na 1,4 bilionu dolarů (přibližně 32,2 bilionu Kč) s firmami jako AMD, Nvidia nebo Microsoft. Nervózní a podrážděná odpověď nezůstala bez povšimnutí a byla interpretována jako signál, že příjmy nestačí na podporu takových investic. O pár dní později finanční ředitelka OpenAI Sarah Friar prohlásila, že by podpořila federální záruku pro investice do čipů, aby se usnadnilo financování velkých investic do AI výpočetní kapacity s použitím slov jako „záruka“ a „podpora“. Tento komentář později Friar a Altman stáhli a upřesnili, ale nebyl to pro OpenAI dobrý týden.
Problém není jen v příjmech, jestli 13 miliard dolarů (přibližně 299 miliard Kč) stačí na závazky 1,4 bilionu dolarů (přibližně 32,2 bilionu Kč)... jde taky o marže. AI je úžasná, ale možná příliš levná, než aby to byla pravda. Zdá se, že jsme v raných dnech Uberu, kdy volání Uberu bylo mnohem levnější než taxi, až jste přemýšleli, jestli má smysl vlastnit auto.
Příklad z praxe: GitHub Copilot
Vezměte si GitHub Copilot. Verze Pro stojí 10 dolarů (přibližně 230 Kč) měsíčně a přichází s limitem 300 požadavků. Další požadavky stojí 0,04 dolaru (přibližně 0,92 Kč) každý, takže 300 × 0,04 dolaru = 12 dolarů (přibližně 276 Kč). GitHub prodává hodnotu 12 dolarů (přibližně 276 Kč) za 10 dolarů (přibližně 230 Kč). Nevíme marže na těch 0,04 dolaru (přibližně 0,92 Kč), ale není vyloučeno, že jsou záporné, což by skutečnou hodnotu posunulo ještě výš pro stejných 10 dolarů (přibližně 230 Kč).
Celkově se zdá, že všichni vyzyvatelé jako OpenAI, Anthropic nebo Cursor dotují dopyt zápornými maržemi. Google byl překvapen boomem AI a trvalo mu, než se vzpamatoval, ale teď se vrací v plné síle, spouští Gemini 3 a taky IDE. Na rozdíl od vyzyvatelů má Google plné kapsy díky jiným vysoce ziskovým příjmům (vyhledávání, YouTube, GCP) a je lépe připraven hrát hru se zápornými maržemi.
AI jako SaaS a PaaS
Pokud vyzyvatelé nechtějí přestat v lavině nákladů, musí se něco změnit. AI je zároveň SaaS (software jako služba) a PaaS (platforma jako služba), pro spotřebitelský trh i pro podniky. Vývojáři nabízejí SaaS aplikace jako ChatGPT, Sora, Codex nebo Cloud Code, ale taky PaaS v podobě API pro velké jazykové modely (LLM) a tradiční úložiště a výpočty.
Standardní cenový model pro SaaS je předplatné, jak u spotřebitelů, tak u podniků. Předplatné je v podstatě nárok na spotřebu určitého množství zdrojů. U spotřebitelského SaaS jako Netflix je nárok na celý katalog filmů. U nástrojů jako ChatGPT se nárok liší podle použitého modelu. Pokud je velmi levný a o několik generací zpátky, nárok může být i neomezený (tedy příliš levný na měření). Pokud je model dražší (například uvažovací modely) nebo na hraně, nárok je omezen na určitý počet požadavků. Zacházení s požadavky uživatelů bez ohledu na model může být katastrofa, jak zažila firma Augment Code:
„Model založený na zprávách uživatelů není pro Augment Code jako podnik udržitelný. Například za posledních 30 dní uživatel na našem plánu Max za 250 dolarů (přibližně 5750 Kč) vydal 335 požadavků za hodinu, každou hodinu, po 30 dní, a blíží se k 15 000 dolarům (přibližně 345 000 Kč) měsíčně v nákladech pro Augment Code. Takové použití není samo o sobě špatné, ale jako podnik musíme cenit naši službu podle našich nákladů.“
Náklady v AI: Tokeny jako klíč
Model předplatného/nároku funguje nejlépe, pokud náklady (COGS) rostou pomaleji než uživatelská základna. Netflix je nejlepší příklad. Jejich náklady jsou katalog filmů a seriálů. Čím víc uživatelů získají, tím víc obsahu potřebují, aby uspokojili rozmanitost preferencí rostoucí základny. Stejný film ale může sledovat víc uživatelů, takže náklady rostou pomaleji než uživatelská základna.
V AI produktech jsou ale náklady tokeny. Každý požadavek uživatele spotřebuje zbrusu nové a jedinečné tokeny potřebné pro LLM. Tady není žádný podlineární růst. Čím víc uživatelů, tím víc nákladů. Proto tohle AI SaaS řeší cenami založenými na použití, které se stávají čím dál běžnějšími.
Prozatím to není čistě na základě použití. Je to stále kombinace měsíční platby předem s určitým nárokem plus mechanismus pro překročení, pokud je potřeba. To je typický model pro podnikové SaaS, kde firmy kupují „místa“ pro své uživatele a platí „překročení“ za cokoli navíc.
Čistě na základě použití je spíš PaaS pro podniky, tedy cloudové účty, kde platíte jen za úložiště a výpočty, nic víc, nic míň. To by vyžadovalo velkou změnu myšlení u spotřebitelů, kteří jsou zvyklí platit za digitální služby fixní měsíční platbou jako u Netflixu (s častými zvyšováními cen, to musím říct), ne jako za účet za energie.
Čistě na základě použití by umožnilo AI SaaS přenést náklady plus marži na uživatele bez riskantní hry s nároky a zdá se to jako nejjednodušší cesta ven. Koncoví uživatelé pravděpodobně uvidí vyšší ceny nebo budou muset snížit spotřebu AI produktů, což bude těžké, protože jsme na tom závislí.
Možnosti snížení nákladů
Nevím, jestli má AI SaaS mnoho jiných možností, jak snížit náklady. Vidím snahy o optimalizaci tokenů, například zavedení „auto-módu“, kde uživatel nevybírá model, ale SaaS to udělá sám a snaží se použít levnější modely, když je to možné. Taky se ptám, jestli je možné opětovné použití tokenů. AI produkty působí velmi personalizovaně a přizpůsobeně na požadavek uživatele, ale myslím, že je slušný překryv v tom, co uživatelé zadávají (alespoň v prostoru AI chatbotů), takže možná je prostor pro „cachování“ požadavků jako u vyhledávání a opětovné použití předchozích odpovědí.
AI průmysl je v kritickém bodě. Buď budou dál pálit peníze, aby poskytovali úžasné produkty, které jsou příliš levné, než aby to byla pravda nebo najdou způsob, jak ty náklady přenést na koncové uživatele a přitom je udržet.
Zdroj: betterthanrandom.substack.com
