Umělá inteligence, jak ji dnes většina lidí zná, píše, překládá, programuje a odpovídá na otázky. Dělá to tak dobře, že se snadno zapomíná na její limity. Velký jazykový model dokáže dokonale popsat, co se stane při shození skleničky ze stolu, samotný pád však nasimulovat nedokáže.
Právě proto se část oboru přesouvá k novému konceptu. Jde o takzvané world models neboli velké akční modely, přičemž cílem je zvládnout pro robotiku to, co ChatGPT dokázal pro psaní a programování, jak na konci srpna popsal Christopher Mims ve WSJ. Tyto modely se netrénují na literatuře a kódu, nýbrž na videohrách a simulacích. V některých situacích se již umí pohybovat v trojrozměrném prostoru a samostatně manipulovat s předměty podle jednoduchých pokynů.
Jak jazykový model funguje
Velký jazykový model (LLM) je neuronová síť vytrénovaná na předvídání dalšího tokenu v posloupnosti. Po zpracování dostatečného množství textu dokáže generovat souvislý a kontextově přiléhavý jazyk. Jádro mechaniky tvoří statistické porovnávání vzorců nad obrovským množstvím textů.
Modely jako GPT, Claude nebo Gemini stojí na architektuře transformer. Mechanismus pozornosti vyhodnocuje, jak moc každé slovo v posloupnosti souvisí se všemi ostatními. Výsledkem je systém, který umí psát, shrnovat, překládat i uvažovat nad jazykovými úlohami. Při každé jednotlivé odpovědi si ale nic neuchovává, takže je bez paměti, pokud mu historii výslovně nepředáte, a žádný stav prostředí si neudržuje.
Kde LLM zaostávají
Ve výzkumu se neustále vrací hlavní slabina, kterou je chybějící ukotvení v realitě. Jazykový model nemá vnitřní představu o fyzické příčině a následku. Dokáže popsat, co se stane, protože podobné texty viděl milionkrát, avšak fyzikální zákony nijak nepočítá.
Nejlépe to vystihuje jeden příklad z výzkumu. Jazykový model se o šachu baví plynule a věcně, jenže po chvíli navrhne tah figurou, která na šachovnici vůbec není. Nenaučil se sledovat pozici, ale pouze to, jak vypadá komentář k šachové partii. Analytici společnosti Forrester k tomu doplňují, že schopnost těchto modelů řešit logické úlohy se dramaticky mění i při malé úpravě slovosledu. To prozrazuje, že jejich uvažování stojí na vzorcích, nikoliv na samotné struktuře problému.
Kent Rollins ze společnosti General Intuition, který dříve vedl vývoj hry Fortnite v Epic Games, to bere z jiné strany. Text podle něj popisuje svět jen s velkou ztrátou, protože svět existoval dávno před písmem a slova z něj nutně vynechávají část podstatného. Zvířata si mozky pro modelování okolí budují asi půl miliardy let, zatímco jazyk je proti tomu novinka stará přibližně sto tisíc let.
World model si budoucnost domýšlí
Koncept world model představuje naučenou vnitřní představu o fungování prostředí. Model dostane popis aktuálního stavu i plánovanou akci a následně předpoví budoucí stav. Cílem přitom není generovat věty, ale přesně odhadnout důsledky.
Odborníci na robotiku to vědí dlouho. Řídicí systémy pokročilejších strojů se opírají o fyzikální simulace prostředí, jenže ty někdo naprogramoval ručně a jsou úzce specializované. Co funguje na jednom typu robota, na jiném může selhat. Nové firmy chtějí místo toho vyvinout řízení, které bude při ovládání strojů stejně univerzální, jako jsou dnešní jazykové modely při psaní textu.
Nejcitovanějším důkazem fungování tohoto přístupu je systém DreamerV3. Studie publikovaná v časopise Nature v dubnu 2025 ukázala, že jediný algoritmus zvládne více než 150 různých úloh. V Minecraftu se například dokáže od nuly naučit dobývat diamanty, a to zcela bez lidských ukázek nebo ladění na konkrétní zadání.
Klíč spočívá v tom, že agent si trajektorie představuje uvnitř naučeného modelu. Simuluje tisíce možných budoucností, vyhodnotí je a podle výsledku upraví své chování. Většina učení se odehrává uvnitř modelu, nikoliv v reálném světě. Právě odtud pramení desetinásobná až stonásobná úspora vzorků oproti běžnému zpětnovazebnímu učení, kde se agent musí učit z opravdových akcí v prostředí. Pro oblasti, kde je každý reálný pokus drahý nebo nebezpečný, to představuje obrovskou výhodu.
Dvě odlišné architektury
Zatímco jazykové modely staví na transformerech a paralelním zpracování posloupností, koncept world models využívá jiné stavební prvky. Starší systémy jako PlaNet a Dreamer kombinovaly rekurentní sítě s modely skryté dynamiky. Architektura JEPA od Yanna LeCuna se učí abstraktní reprezentace namísto předpovídání jednotlivých pixelů, což výrazně šetří výpočetní výkon. Meta vytrénovala model V-JEPA na milionu hodin internetového videa a následně jej s poměrně malým množstvím dodatečných dat přizpůsobila pro plánování v robotice.
Základní rozdíl lze shrnout do jedné věty. Transformer je při každém průchodu bezstavový, zatímco world model si stav uchovává a s každou akcí jej aktualizuje. Aby jazykový model zpracoval obraz nebo zvuk, musí je převést na tokeny stejně jako slova. U trojrozměrné scény se však tento postup ukázal natolik neefektivní, že výsledné modely jsou pro řízení robota většinou příliš pomalé.
Nejdražší část jsou data
Text je na internetu téměř zdarma a v neomezeném množství. Dvojice akce a následku se však získávají mnohem obtížněji, protože záznamy ze skutečných robotů jsou drahé. Nvidia proto nabízí platformu Cosmos vytrénovanou na 20 milionech hodin reálných záběrů z dopravy, průmyslových provozů a robotiky. Staví na ní firmy jako Wayve, 1X nebo Figure AI, zatímco Uber a Waabi ji používají pro simulaci autonomního řízení.
Společnost General Intuition sáhla po jiném zdroji. Využívá miliony hodin hraní od reálných lidí ze své sesterské služby Medal.tv a ukládá nejen každý snímek hry, ale i každý stisk tlačítka. Model tak spojuje akci s jejím důsledkem, namísto pouhého sledování videa. Po krátkém doladění pak dokáže řídit robota v reálném světě podobně, jako by ovládal postavu ve hře. V kancelářích v New Yorku a Ženevě to firma předvádí na čtyřnohém robotovi, kterému stačí vědět, kde je, v jakém těle se nachází a co má udělat. Podmínkou je, aby se stroj dal ovládat gamepadem nebo klávesnicí a přenášel živý obraz, což většinu dvounohých humanoidů vyřazuje.
Slabá místa
Malé nepřesnosti v předpovědi stavu se během dlouhé trajektorie sčítají, až se vnitřní představa zcela rozejde s realitou. Přechod ze simulace do fyzického světa vyžaduje pečlivé ladění, přičemž model naučený na jednom typu prostředí v jiném často selže.
George Konidaris z Brownovy univerzity upozorňuje na zásadnější potíž. Jazykové modely sice rostou a sílí, přesto stále chybují, avšak u robota se s halucinací smířit nelze. Reálný svět je podle něj plný výjimek i ostrých hran a nic v něm nelze minout pouze přibližně, protože jakýkoliv náraz stroje zcela mění celý výpočet. Investor Moritz Baier-Lentz odhaduje, že v porovnání s jazykovými modely jsou dnešní world models zhruba na úrovni GPT-2, což byl model z roku 2019.
Kdy se co používá
Pokud jde o jazykovou úlohu, jako je vyhledávání, shrnování, práce s dokumenty nebo revize kódu, patří do rukou jazykovému modelu. Má-li však systém spolehlivě jednat ve fyzickém prostředí, kde chyba v dynamice stojí peníze či ohrožuje lidi, nastupuje world model.
Nejpravděpodobnějším scénářem je nicméně spojení obou přístupů. Jazykový model porozumí zadání, naplánuje kroky a komunikuje s člověkem, zatímco world model sleduje stav a před nevratným krokem plán ověří. Nabízí se i skromnější varianta, kdy si jazykový model zavolá world model jako nástroj, podobně jako dnes využívá kalkulačku nebo vyhledávání. Google DeepMind mezitím představil systém Genie 3, který generuje interaktivní 3D prostředí v reálném čase při čtyřiadvaceti snímcích za sekundu.
Zdroje: wsj.com, kanerika.com a fenxi.fr
