Google údajně pracuje na vývoji vlastního čipu, který v sobě má mít vypálenou část architektury jeho AI modelu Gemini. Interně je pojmenovaný Frozen v2 a podle dosud uniklých informací by měl běžet několikanásobně efektivněji a úsporněji. A co dalšího víme?
Frozen v2 jako odpověď na problémy
Zprávu o novém čipu Frozen v2 přinesl jako první server The Information, který se odvolává na lidi přímo z tohoto projektu. Podle webů Tom's Hardware i TechCrunch, které informace převzaly, by měl nový čip vygenerovat na jednotku spotřebované energie šestinásobek až desetinásobek počtu tokenů oproti současným čipům Googlu (tzv. TPU). Jeho uvedení se plánuje na rok 2028.
A proč zrovna teď? Spěch Googlu není náhodný. Tom's Hardware uvádí, že jde totiž možná také o reakci na aktuální nedostatek výpočetního výkonu pro AI. Ten měl být údajně tak vážný, že Google Cloud musel nějakou dobu dokonce odmítat zakázky od externích zákazníků.
Gemini zamražený v křemíku
Běžné čipy TPU nebo GPU spustí jakýkoliv model, který se do nich nahraje. Během spouštění však musí dělat celou řadu rozhodnutí a pracovat s obrovským objemem dat. To znamená velkou energetickou náročnost.
Frozen v2 to však obchází. Část architektury Gemini, která tato rozhodnutí řídí, se přímo „zamrazí“ do jeho tranzistorů. Díky tomu čip provede méně kroků a při zpracování každého dotazu přenese menší objem dat. A právě to může výrazně zkrátit dobu odezvy a snížit spotřebu energie. Možná i natolik, že mu to otevře cestu k úplně novým aplikacím.
Od konkrétních dat k obecné architektuře
Původní verze Frozen, jejíž vývoj podle Tom's Hardware vedl hlavní vědec společnosti Google DeepMind Jeff Dean, měla jít ještě dál a do čipu vypálit přímo data konkrétního modelu Gemini. Z toho ale nakonec Google ustoupil a rozhodl se do čipu vměstnat pouze jeho obecnou architekturu. Důvodem je, že křemík svázaný s konkrétní verzí modelu by byl sice ještě rychlejší a efektivnější, nicméně by měl velmi krátkou životnost.
Frozen v2 proto „zamrazuje“ jen architekturu, tedy jakousi kostru modelu. Čip tak zůstane použitelný napříč více verzemi Gemini. Ovšem i to platí jen do chvíle, kdy Google změní základní architekturu.
Google mlčí, investoři jsou spokojení
Google zatím svůj projekt oficiálně nepotvrdil ani nevyvrátil. Podle webu TechCrunch jen uvedl, že firma neustále zkoumá nové inovace. Trh na to ale reaguje po svém. Po zveřejnění reportáže vzrostly akcie Alphabetu v pondělí o zhruba 3 %. Google plánuje letos utratit za rozvoj AI utratit 180 až 190 miliard dolarů a potřebuje ukázat, že se investice vyplatí.
Google není sám
Nápad natvrdo „vypálit“ model do čipu není novinkou. Server Tom's Hardware připomíná kanadský startup Taalas, který už v únoru představil čip HC1 s natrvalo zabudovaným modelem Llama 3.1 8B.
Vlastní cestou jdou i další AI společnosti. OpenAI podle TechCrunch v červnu odhalila svůj první personalizovaný čip Jalapeño a Anthropic jedná o výrobě čipů se Samsungem. Všechny spojuje stejná motivace, a to běžet úsporněji a získat nezávislost na čipech společnosti Nvidia, která aktuálně dominuje celému trhu.
Zdroj: Tom's Hardware, TechCrunch
