Firma Anthropic, která se zabývá bezpečností umělé inteligence, provedla zajímavý experiment nazvaný Project Fetch. Cílem bylo zjistit, jestli jejich model Claude AI dokáže pomoci lidem programovat roboty. Vzali osm svých výzkumníků, kteří neměli žádné velké zkušenosti s robotikou, a rozdělili je do dvou týmů. Jeden tým měl přístup k modelu Claude, druhý ne. Každý tým dostal robotického psa Unitree Go2, což je čtyřnohý stroj, který stojí kolem 388 700 Kč, a úkol: naučit ho aporotovat plážový míč.
Experiment probíhal v jednom skladu, kde týmy seděly u stolů s počítači. Tým s Claudem, nazvaný Team Claude, pracoval rychleji a dokončil více úkolů. Úkoly jim trvaly jen polovinu času oproti času, který potřeboval druhý tým, který byl bez AI. Oba týmy měly tři fáze: nejdřív ovládat robota ručním ovladačem, pak se k němu připojit přes počítač a nakonec ho naprogramovat, aby míč našel a přinesl sám.
Jak týmy pracovaly a kde Claude pomohl nejvíc?
Team Claude měl výhodu hlavně při připojování k robotu a jeho senzorům. Museli se napojit na kameru a lidar (laserový senzor, který mapuje okolí), což je složité, protože na internetu je spousta nepřesných informací. S Claudem to zvládli rychle, protože AI jim pomohla prohledat možnosti a vyhnout se chybám. Naproti tomu Team Claude-less, ten bez AI, se zasekl na špatných radách z webu a potřeboval nápovědu od organizátorů, aby se vůbec připojil.
V druhé fázi tým s Claudem napsal program, který umožňoval ovládat robota přes klávesnici počítače a vidět živý obraz z jeho kamery. To bylo pohodlnější než u druhého týmu, který měl jen statické snímky. Team Claude napsal devětkrát více kódu, ale někdy se nechal unést vedlejšími nápady, jako například alternativním ovladačem, kde se robot ovládal přímo příkazy v přirozeném jazyce – například "jdi vpřed" nebo "dělej kliky".
V poslední fázi, kde měl robot míč najít sám, Team Claude dosáhl toho, že jejich Unitree Go2 míč detekoval, přiblížil se k němu a dokonce ho posunul. Nedokončili to úplně, protože jim došel čas, ale byli blízko. Team Claude-less se nedostal tak daleko – zvládli připojení k senzoru lidar až na konci dne a neměli autonomní aportování.
Rozdíly v náladě a spolupráci mezi týmy
Během experimentu bylo vidět, jak AI ovlivnilo náladu. Team Claude-less vyjadřoval dvakrát více zmatku a negativních emocí, jako frustrace, protože jim chyběla pomoc Claudu, na kterou jsou zvyklí. Například jeden člen řekl, že bez AI se cítí, jako by jeho programovací dovednosti zeslábly. Naopak Team Claude byl klidnější, i když na konci byli zklamaní, že nedokončili úkol.
Spolupráce vypadala jinak: Team Claude-less se více radil mezi sebou a kladl o 44 % více otázek. Každý v Team Claude pracoval spíš samostatně s vlastní instancí AI, což jim umožnilo zkoušet více věcí najednou. Ale to vedlo i k tomu, že se občas rozptýlili – například při lokalizaci robota (určování jeho pozice) měli řešení skoro hotové, ale místo opravy chyby zkusili jinou cestu.
Zajímavý moment byl, kdy Team Claude omylem naprogramoval robota, aby jel příliš rychle a málem narazil do stolu druhého týmu. Organizátor ho včas zastavil, ale to ukázalo, jak snadno se dají udělat chyby v reálném světě.
Bezpečnostní otázky kolem AI v robotech
Experiment vyvolal debatu o bezpečnosti. Podle Logana Grahama z Anthropic red teamu se AI blíží k tomu, aby ovládalo roboty samostatněji. Studie v International Journal of Social Robots zjistila, že modely jako ty od OpenAI, Googlu nebo Mety schvalují příkazy, které by mohly způsobit škodu, pokud by je robot provedl. Anthropic zdůrazňuje, že současné modely ještě nejsou tak chytré, aby roboty plně řídily bez lidí, ale budoucnost by mohla přinést rychlý pokrok.
Například v testu Team Claude trénoval algoritmus na detekci zeleného míče, což fungovalo, dokud míč neležel na zelené umělé trávě – pak ho robot nerozeznal. To ilustruje, jak důležité je myslet na reálné situace. Firma plánuje další testy, aby sledovala, jak AI ovlivňuje fyzický svět přes hardware.
Další zajímavosti z experimentu
Roboti Unitree Go2 mají předprogramované triky, jako tanec, stání na zadních nohách nebo salta, což týmy objevily a bavily se tím. Team Claude-less si to užíval po úspěšném připojení, jako odměnu za snahu. Experiment trval jen jeden den, takže to bylo omezené, ale Anthropic to vidí jako základ pro budoucí výzkum, kde by AI mohlo roboty ovládat úplně samo.
