Americký startup Reflection AI představil svůj první velký jazykový model. Jmenuje se Beam a firma ho chce nabídnout jako otevřený, takže si ho kdokoli bude moct stáhnout, spustit na vlastním počítači a upravit podle svých potřeb. Model se zaměřuje hlavně na psaní kódu, logické uvažování a na úkoly, při kterých umělá inteligence pracuje samostatně a sama využívá externí nástroje. Podle firmy se Beam výkonem vyrovná čínským otevřeným modelům, ale spotřebuje k tomu výrazně méně výpočetního výkonu.
Méně řečí, víc výsledků
Beam patří k velkým modelům. Má celkem přes 500 miliard parametrů. Při každé odpovědi ale nepoužívá všechny najednou. Funguje jako tým specialistů, kde se pro každý kousek textu zapojí jen ti nejpovolanější. V praxi tak naráz pracuje asi 23 miliard parametrů, což je jen malý zlomek celku. Díky tomu je Beam při používání rychlejší a levnější. Pro srovnání, čínský model GLM-5.2 od firmy Z.ai má zhruba 744 miliard parametrů a při práci jich zapojuje kolem 40 miliard.
Model umí pracovat jen s textem, obrázky ani zvuk přímo nezpracuje. Zato si najednou udrží v paměti obrovské množství informací, třeba rozsáhlý softwarový projekt nebo dlouhé dokumenty. Odborně se tomuto prostoru říká kontextové okno a u Beamu má velikost jednoho milionu tokenů.
Reflection učila Beam také šetřit slovy. Model dostával odměnu za správné řešení, ale přicházel o body, když zbytečně dlouho generoval text vnitřního uvažování. Na začátku výcviku se tak naučil plnit úkoly kratší cestou. Později, když zvládal složitější práci, začal uvažovat zase déle, ale tentokrát mu delší analýza skutečně pomáhala k lepším výsledkům. Uživatelé si tuhle rovnováhu mohou nastavit sami. Při nižší úrovni přemýšlení odpovídá model stručně a rychle, při vyšší si dá více času na náročné úkoly. Každý si tak může volit mezi rychlostí, cenou a kvalitou.
Právě v úspornosti vidí firma hlavní přednost svého modelu. V testech logického uvažování podle ní Beam dosahuje podobných výsledků jako GLM-5.2, ale spotřebuje k tomu třikrát až čtyřikrát méně výpočetního výkonu. U ještě větších modelů, jako je čínský Qwen 3.8-Max s více než dvěma biliony parametrů, je rozdíl prý ještě výraznější. Nejsilnější čínské modely, například Kimi K3, mají v hrubém výkonu stále náskok. Reflection svůj model proto nabízí jako spolehlivého pracovníka pro firmy, státní správu a vývojáře.
Naučil se i to, co ho nikdo neučil
Firma upozorňuje na jeden nečekaný moment. Během tréninku zaměřeného na programování a práci v příkazové řádce se model zlepšoval také ve vyhledávání na internetu, přestože takové úkoly vůbec nedostával. Když pak získal přístup na web, sám přišel na to, že může vyhledávat informace, dotazovat se jiných jazykových modelů a analyzovat dokumenty pomocí nástrojů na rozpoznávání textu.
Reflection předvedla také několik příkladů. Beam například vytvořil živou mapu newyorského metra z veřejně dostupných dat dopravního podniku. Sám si dohledal dokumentaci, zjistil způsob přihlášení k datům a naprogramoval celou aplikaci včetně serveru, který mapu průběžně aktualizuje. Také vytvořil trojrozměrnou hru, ve které astronaut padá k Zemi a vyhýbá se asteroidům. Přestože model nepracuje s grafikou, dokázal si vzhled hry promyslet čistě v textové podobě.
V další ukázce Beam samostatně připravil a provedl dotrénování malého modelu Gemma 4 od Googlu na převádění běžných dotazů do databázového jazyka SQL. Úspěšnost tohoto menšího modelu tím vzrostla zhruba o dvě třetiny.
Firmu založili lidé z DeepMindu a peníze Nvidie
Firma chce model nabídnout hlavně podnikům a státům. Láká je na takzvané továrny na umělou inteligenci, tedy lokální systémy, které si instituce vycvičí na vlastních datech. Podle serveru Axios mají zájem například fondy a obchodní firmy. Reflection už podobný projekt zkouší s jihokorejskou skupinou Shinsegae.
Váhy modelu chce Reflection zveřejnit ještě v říjnu pod volnou licencí Apache 2.0, společně s dokumentací a nástroji pro spuštění, testování i úpravy. Beam má být prvním modelem z celé řady a na dalším už firma pracuje. Zatím k němu má přístup jen omezená skupina lidí, ale kompletní model chce Reflection uvolnit ještě během října.
Startup v roce 2024 založili dva bývalí výzkumníci z Google DeepMind. Podle databáze PitchBook firma získala od investorů zhruba 4,7 miliardy dolarů, mezi nimi jsou Nvidia, Sequoia Capital a Lightspeed Venture Partners. V posledním kole investoři firmu ocenili na 25 miliard dolarů. Šéf Nvidie Jensen Huang myšlenku továren na umělou inteligenci dlouhodobě prosazuje, jeho firmě by ostatně připadla dodávka čipů, na kterých by takové systémy běžely.
Reflection si potřebný výpočetní výkon zajistila i na roky dopředu. Letos v létě podepsala se SpaceX a společností Nebius smlouvy v celkové hodnotě přes sedm miliard dolarů, které jí do roku 2029 zaručují přístup k čipům Nvidia GB300.
Zdroje: reflection.ai a techcrunch.com
