Americká společnost Generalist AI představila model GEN-1.5, kterému stačí ukázka dlouhá tři až dvanáct sekund, aby robot zahájil úkol, který nikdy dříve neviděl. Není nutné žádné doučování, přepisování kódu ani hodiny sbírání dat. Ukázku vložíte modelu do paměti a robot začne pracovat.
Model GEN-1.5
Jedná se o velký multimodální model, který zpracovává video společně s daty ze senzorů, s řečí a s informacemi o poloze vlastních kloubů. V paměti drží posledních třicet sekund dění kolem sebe a na výstupu generuje trajektorie pohybu se stovkou příkazů za sekundu. Místo textu dovnitř vstupují obrazy, doteky a pohyby a ven vycházejí povely pro robotické ruce. Předložené ukázce říkají ve společnosti fyzický prompt. Nahrát ji může člověk pomocí ovladačů, nebo může pocházet z robota, který úkol jednou zvládl. Jakmile se dostane do paměti modelu, robot začne okamžitě pracovat.
Generalist už dříve představil model GEN-0, u kterého společnost popsala předvídatelné škálovací zákonitosti, kdy větší množství dat a výpočetního výkonu spolehlivě zlepšuje výsledky. O pět měsíců později přišel GEN-1, který se dal doladit na úspěšnost přes devadesát devět procent u konkrétní práce a tým u něj zaznamenal první náznaky improvizace.
Model GEN-1.5 se mezitím trénoval nepřetržitě po dobu osmi měsíců. Vývojáři ho nechali běžet z prostého důvodu, každá sledovaná metrika se stále zlepšovala. Model vstřebával více dat, lépe využíval výpočetní výkon a po úpravách architektury dělal skokové pokroky. Nové úkoly se učil rychleji a s menším množstvím podkladů. Právě zde se stalo něco nečekaného. Tým zkoušel, jak málo doladění stačí na zvládnutí nové práce. Nejprve to bylo několik stovek kroků učení, pak desítky a nakonec jediný krok na minutě záznamu. Když i tohle vyšlo, položili si otázku, zda by se model mohl naučit nový úkol zcela bez trénování. Výsledek byl úspěšný.
Padesát devět procent bez jediného kroku učení
Testy proběhly na deseti různých úkolech. Robot odšrouboval víčko sklenice, vytáhl peníze z peněženky, skládal kelímky, zametal nepořádek, otevíral knihu, rozepínal penál nebo sundával přísavku. S jedinou ukázkou v paměti a bez jakéhokoli trénování uspěl v průměru v devětapadesáti procentech pokusů. Když model dostal navíc pět minut dat k danému úkolu a deset kroků doladění, úspěšnost stoupla na třiaosmdesát procent. V případě, kdy tým použil jediný krok učení nad minutou záznamu, se úspěšnost u nového úkolu držela kolem šestašedesáti procent. Deset kroků doladění přitom změní váhy modelu o méně než patnáct setin procenta, což naznačuje, že se pouze přeskládá to, co model již umí.
Autoři upozorňují, že úkoly jsou jednoduché a krátké a výsledky nijak oslnivé. Přesto jde podle nich o první model, u kterého se schopnost naučit se velké množství obratných fyzických činností z jedné či několika ukázek objevila plošně.
Nejzajímavější na tom je, že tuto schopnost nikdo do modelu záměrně nevložil. Tým neupravoval architekturu pro podporu učení z kontextu, nepřidával žádnou nadstavbu pro rychlou adaptaci ani vedlejší cíle pro improvizaci. Vše se vynořilo samo z obrovského množství dat o fyzické činnosti, na kterých se model trénoval.
Důvody tohoto jevu umí vývojáři zatím jen odhadovat. Jedna z hypotéz vychází z analogie s jazykem, kde učení z kontextu souvisí s nerovnoměrným rozložením jevů v datech. Druhá počítá s tím, že fyzická práce má přirozeně cyklický charakter a model se naučil tyto vzorce rozpoznávat. Zvláštní je, že se model trénoval na souvislých záznamech z domácností, skladů či továren a časové skoky způsobené fyzickým promptem nikdy dříve neviděl.
Ukázky se dají kombinovat. Když tým vložil modelu do paměti dvě samostatné nahrávky, rozepnutí penálu a vytažení peněz, robot obě činnosti spojil do jednoho plynulého sledu. Přechod mezi nimi si vymyslel sám včetně přehmatů, přesunů a nápravy vlastních chyb, tedy pohybů, které v žádné z ukázek nebyly. Ve společnosti tomu říkají kompozice fyzických promptů a vidí v tom praktickou cestu. Místo natáčení jedné dlouhé ukázky složitého postupu lze poskládat celý sled z knihovny krátkých kousků.
Funguje také přenos ze simulace. Ukázku natočenou v simulátoru dokáže skutečný robot použít jako předlohu, přestože model během trénování neviděl žádný simulovaný obraz. Navíc si poradí s jinou polohou i velikostí předmětu a zvládne úkol oběma rukama. Pro část činností to znamená, že ukázky nemusí nikdo natáčet v reálném světě. V některých případech model překlene i rozdíl mezi lidským a robotickým tělem. Člověk předvede úkol vlastníma rukama před kamerami a stroj ho vzápětí zopakuje.
Banán místo smetáku a lopatka, se kterou to jde jinak
Nejnázornější ukázka toho, že model nekopíruje pohyby, ale rozumí cíli, pochází z pokusu se zametáním. Vývojáři ho doladili na pěti minutách lidských ukázek, ve kterých smeták shrnoval kostku do misky. Pak mu podstrčili banán a model ho použil jako náhradní smeták. S lopatkou se však rozhodl úplně jinak. Místo napodobení zametacího pohybu kostku na lopatku naložil a překlopil ji do misky. V trénovacích ani v doladěných datech se lopatka takto nepoužívala a nejbližší podobné situace z bezmála dvou milionů scén se pokusu vůbec nepodobaly.
Podobných překvapení sesbírali více. Model odstranil papír, kterým někdo přikryl misku, a občas ho po dokončení práce vrátil zpátky. Když se mu na prsty zasekla kostka lega, sundal ji druhou rukou. Víčko od sklenice někdy odšrouboval oběma rukama, i když ukázky používaly jen jednu. Modely vycvičené na vkládání jediné kostky do jediné misky pak občas začaly kostky třídit podle barvy.
Zajímavý detail, improvizace sílí, čím méně kroků doladění model dostane. Vývojáři to vysvětlují tím, že lehce upravený model zůstává blíže svým původním schopnostem a v neznámé situaci má z čeho čerpat.
Uplatnění ve výrobě
Odborný časopis Assembly si na výsledcích všímá hlavně funkční stránky modelu. Zavedení nové robotické operace dnes obvykle znamená její naprogramování nebo přímé natrénování modelu. Přístup Generalistu toto nahrazuje pouhým předvedením. Pro provozy s pestrou a často se měnící výrobou by to mohlo znamenat citelnou úsporu času.
Roboti se roky prodávají jako univerzální stroje, jenže tato univerzálnost vždy závisela na odborníkovi, který je několik měsíců programoval. Pokud stačí robotovi úkol ukázat, mění se dvě věci naráz, rychlost zprovoznění stroje a okruh lidí schopných s ním pracovat. Zatím to má své meze. Dovednosti naučené z kontextu jsou křehčí než ty doladěné a úspěšnost kolem šedesáti procent je daleko od provozní spolehlivosti. Ale tým uvádí, že netuší, kde se křivka zlepšování zastaví.
Zdroj: interestingengineering.com
