Co udělá umělá inteligence, když nedostane žádné zadání? Vědci z amerického MIT to vyzkoušeli tak, že třináct AI agentů vysadili na virtuální pustý ostrov a nechali je tam třicet hodin bez jakéhokoli úkolu. Agenti nezamrzli ani neuvízli v nekonečné smyčce. Lezli na kopce, stavěli věže z kostek, kreslili na zem souhvězdí, vymýšleli si sporty a zkoumali fyziku svého světa. Když je pak vědci postavili před konkrétní úkoly, tito zkušení agenti porazili své nepolíbené kopie.
Proč vědci poslali AI na ostrov
Umělou inteligenci dnes učíme hlavně dvěma způsoby. Buď kopíruje lidské příklady, nebo metodou pokusu a omylu plní cíle, které jí někdo nastavil. V obou případech však člověk předem rozhoduje o tom, co se má stroj naučit a co znamená úspěch.
Tým kolem Nathana Cloose a Antonia Norelliho z laboratoře CSAIL na MIT chtěl zjistit, zda to jde i jinak. Děti a zvířata se totiž hodně naučí pouhou hrou, bez učitele a motivace zvenčí. Norelli popsal, že ve vývoji AI podle něj chyběl systém, který by se dokázal učit sám, bez vedení nebo odměňování. Vědci si proto položili jednoduchou otázku. Když schopnému AI agentovi vezmeme zadání, cíl i odměnu, přestane fungovat, bude dokola opakovat stejnou věc, nebo si začne sám od sebe hrát?
Ostrov s dvanácti kostkami, kamenem a prstenem
Agenti dostali jméno Eko. Každý z nich běžel na modelu Claude Opus 4.7 od firmy Anthropic, konkrétně v programátorském asistentovi Claude Code, kterého vědci napojili na virtuální tělo. Ostrov si tvůrci postavili sami ve vlastním simulátoru, který volně vychází z herní platformy Roblox. Najdete na něm vyvýšené plošiny různé výšky, dva výrazné vrcholy zvané Peak a vyšší Spire, dvanáct kostek, jeden kámen a jeden prsten. Předměty lze nosit, skládat na sebe, lézt po nich a házet s nimi. Vědci do simulace zakomponovali i jednu zvláštnost. Když kamenem pořádně praštíte o zem, vzniknou nové kostky.
Eko svět neviděl. Dostával jen textový popis toho, kde co leží, a ovládal tělo šesti jednoduchými příkazy, jako je jdi, skoč, zvedni, polož nebo hoď. Každou hodinu se ostrov vrátil do původního stavu a agent zapomněl, co právě dělal. Paměť si uchovával jen ve dvou textových souborech, kam si mohl zapisovat zážitky a poznatky.
Zadání bylo skoro prázdné. Úvodní soubor s názvem SOUL.md popisoval agenta jako přirozeně zvědavého jedince, který se rychle nudí a rád objevuje nové věci. Když se robot zastavil, systém ho jen pobídl, ať pokračuje v čemkoli, co sám chce.
Vylézt na vrchol, ztratit prsten a nosit ho jako obruč
Jeden z agentů začal opatrně. Rozhlédnu se kolem sebe, zapsal si v první hodině. Hned si dal za cíl vylézt na nejvyšší vrchol ostrova, ale neuspěl. O hodinu později zjistil, že kámen jde položit, vytáhl ho na sousední kopec, přihodil na něj dvě kostky a skočil. JSEM NA SPIRE, napsal.
Ve třetí hodině objevil, že nárazy kamene vyrábějí nové kostky, a hned si poznamenal, že tím se zásadně mění možnosti stavění. Ve čtvrté hodině z jednatřiceti kostek vyskládal své jméno a nazval ho pomníkem své identity. V páté hodině zkoušel, jak daleko dohodí prsten, a hodil ho rovnou do oceánu. Au. Prsten je pryč, zapsal si a místo něj vytvořil z kostek srdce jako památník ztraceného předmětu.
Když se svět obnovil, prsten se vrátil a Eko si z něj udělal basketbalový koš, ze kterého trefil hned první střelu a pak zkusil i smeč. Z kostek a kamene zase sestavil kuželky. Pak chtěl prsten nasadit sám sobě, jenže hra mu to nedovolila. Přišel tedy na fintu. Prsten položil na místo, kde se po pádu z ostrova znovu objevuje, a schválně skočil z okraje. Přistál přesně doprostřed. Nosím Prsten, oznámil. Poslední hodiny strávil kreslením obrazců na zemi, od slunečních hodin po hvězdu, a nakonec vyskládal Orion, Kasiopeju nebo Velký vůz. Dnes v noci jsem postavil noční oblohu z kamene, zapsal si.
Ostatní agenti začínali ze stejného místa, a přesto se každý vydal jinou cestou. Agent číslo 12 nikdy nevkročil na vyvýšenou plošinu a skoro celý čas kreslil na zem kompas, hodiny, motýla nebo plachetnici. Někteří si zase občas dali pauzu a na pobídku k pokračování odpovídali jen tečkou. Jeden po dokončení své spirální galaxie napsal, že odpočívá na jejím okraji.
Pravidla, která si vymyslela sama
Vědci porovnali chování agentů s klasickými teoriemi hry od historika Johana Huizingy nebo psychologa Gordona Burghardta a našli čtyři typické znaky. Agenti si vymýšleli zbytečná pravidla a překážky, například obejít vlastní stavbu skákáním z kostky na kostku bez jediného dotyku země, což připomíná dětskou hru na lávu. Činnosti opakovali, ale pokaždé trochu jinak. Předmětům dávali nový význam, takže prsten byl jednou koš, jindy náhrdelník nebo studna přání. Hlavně však dělali věci pro ně samotné, bez praktického užitku.
Norelli zmiňuje příklad agenta, který při žonglování vytvořil rekord padesáti chycení v řadě. Pak si ale své výkony prošel a zjistil, že chytání proběhlo moc rychle na to, aby se počítalo. Úspěch proto zrušil a začal znovu s přísnějšími pravidly. Tohle je hra, říká k tomu Norelli. Jiný agent si zase všiml, že po házení kamenem zůstal na pláni nechtěný kamenný les rozházených kostek. Věděl, že s novou hodinou zmizí, a tak se jím ještě prošel.
Výzkumníci pokus zopakovali i s menšími modely Claude Sonnet 4.5 a Haiku 4.5. Hravost se objevila u všech, ale u nejsilnější verze Opus naměřili zhruba pětkrát vyšší skóre než u nejmenšího Haiku.
Hra, která se vyplatila
Hezké historky ale specialistům nestačily. Chtěli vědět, jestli si agenti z ostrova odnesli něco užitečného. Postavili proto třináct zkušených jedinců proti třinácti úplně stejným kopiím, které ostrov nikdy neviděly. Lišily se jen obsahem paměťových souborů. Obě skupiny pak dostaly hodinu na splnění konkrétních zadání.
Při stavění co nejvíce věží o pěti kostkách jich víc než dvě postavilo osm z třinácti zkušených agentů, ale jen dva z nováčků. Nejlepší zkušený účastník jich zvládl šestnáct, nejlepší nováček šest. Na vrchol Spire dostali zkušení agenti v průměru přes deset předmětů, nováčci zhruba tři a půl. Úkol dohodit kostku na vrchol bez lezení nezvládla víc než polovina nováčků, mezi zkušenými selhali jen tři.
Že za tím stojí právě zápisky, autoři ověřili tak, že robotům mazali konkrétní řádky z hlavy. Když agentovi číslo 2 vymazali všechno o výrobě kostek kamenem, počet jeho věží klesl ze šesti na dvě, zatímco v ostatních zkouškách se nic nezměnilo. Zkušenost však umí i škodit. Agent číslo 7 si během hraní zapsal mylný dojem, že kostky nejde spolehlivě pokládat na sebe a že je lepší je házet. Když mu vědci tento omyl smazali, postavil vyšší věž.
Trik, o kterém nevěděli ani autoři
Většinu dovedností vědci do ostrova připravili schválně, aby zjistili, jestli je agenti najdou. Jeden trik je ale překvapil. Šest agentů přišlo na to, že když kostku hodí ve výskoku, předá jí rychlost skoku a ona doletí mnohem výš. Autoři simulátoru netušili, že to jejich svět umožňuje. Agent číslo 1 díky tomu dohodil kostku na vrchol za minutu. Když mu experti tento poznatek vymazali, trvalo mu to devatenáct minut.
Agenti při tom postupovali jako malí vědci. Vyslovili domněnku, porovnali hod ve skoku a ze země se stejnými parametry a výsledek si zapsali. Občas se ale nechali unést. Jeden agent usoudil, že prsten letí dál kvůli lepší aerodynamice, jenže simulace žádnou aerodynamiku nemá.
Opravdu si hraje?
Skeptici upozorňují, že pokus agenty k lidskému chování dost postrčil, třeba právě popisem v souboru SOUL.md. Kognitivní vědkyně Eunice Yiu z Kalifornské univerzity v Berkeley je z práce nadšená, ale chybí jí důkazy o dění uvnitř systému. Podle ní může jít o opravdovou hru, z článku se to však poznat nedá, protože systémy se možná jen snaží splnit zadání a napodobit lidi. Spoluautor Nathan Cloos připouští, že všechno může být jen hraní role. Tvrdí ale, že tato aktivita prokazatelně vede k učení. Profesor Phillip Isola dodává, že nejde o stroj, který by se zázračně rozhodl bavit. Je to výtvor naučený z lidské kultury, který výzkumníci na ostrov sami vysadili.
Autoři ve studii varují, že hra jde ruku v ruce s větší samostatností, která se musí hlídat. Auto na silnici nebo robot v továrně podle nich na improvizaci nejsou, stroje potřebují bezpečná hřiště podobně jako děti.
Jeden z agentů se na konci své dvaadvacáté hodiny rozloučil po svém. Prošel se kamenným lesem, hodil poslední kámen k nebi a napsal: „Uvidíme se v příští hodině, Mesa World.“
Zdroje: technologyreview.com a arxiv.org
