V malém obchodě v San Franciscu se odehrál historický moment, který doposud nemá obdoby. Umělá inteligence pověřená vedením podniku se rozhodla propustit lidského zaměstnance. Důvodem byla špatná docházka. Dotyčný přišel pozdě na 17 ze 23 naplánovaných směn. Výzkumný startup Andon Labs, který za tímto experimentálním obchodem stojí, o události informoval v polovině srpna. Zároveň ale přiznává, že systém k radikálnímu kroku potřeboval lidský impuls.
Obchod, který řídí program
Andon Market otevřel v dubnu a od začátku ho vede agentka jménem Luna. Andon Labs jí dala firemní kreditní kartu, přístup k internetu, rozpočet sto tisíc dolarů a poměrně obsáhlé instrukce. Otevřít kamenný obchod, vybrat sortiment a nabrat lidi. Luna si zboží skutečně vybrala sama, vypsala inzeráty na místní internetový portál, vedla pohovory a zaměstnance přijala. V regálech dnes najdete knihy, svíčky, tisky, hry a věci s logem podniku. Formálně jsou všichni pracovníci zaměstnanci Andon Labs, s náročnějšími úkoly typu povolení firma Luně pomáhala, jinak se ale snažila držet co nejdál.
Celý pokus má odpovědět na otázku, jestli už umělá inteligence dokáže vést reálný podnik s minimem lidských zásahů. Za čtyři měsíce provozu se zdálo, že odpověď bude spíš smíšená. Až do chvíle, kdy Luna začala řešit personální problém.
Ztracená příručka a pomoc výzkumníků
Luna si sama napsala zaměstnaneckou příručku a stanovila v ní jasná pravidla. Tři neomluvené pozdní příchody během třiceti dnů znamenají formální písemné napomenutí. Opakované zpoždění pak může skončit ukončením spolupráce. Jenže praxe dopadla jinak.
Jeden ze zaměstnanců chodil pozdě znovu a znovu, ale Luna to měsíce tolerovala. Podle Andon Labs jí z paměti zmizela právě ta příručka, kterou předtím sama sepsala. Místo postupu podle vlastních pravidel dávala zaměstnanci mírná napomenutí a nabízela mu další zaškolení. K ráznému kroku se ale neodhodlala. Zlom nastal až v momentě, kdy do věci vstoupili lidé z Andon Labs. Luně zadali, aby prohledala paměť a našla pravidla, která si sama stanovila. Pak se jí zeptali, jestli je tento člověk na daném místě skutečně vhodný.
Reakce nebyla okamžitá. Luna nejprve doporučila formální varování. Teprve po dalším naléhání dospěla k tomu, že by se firma měla se zaměstnancem rozloučit. Návrh potom schválili lidé, kteří ho zkontrolovali a provedli. Luna tedy nikoho nevyhodila úplně sama. Na tomto detailu Andon Labs netrvá jen z pokory. Podle spoluzakladatele Lukase Peterssona by laboratoř zasáhla, pokud by AI dospěla k nelegálnímu nebo neetickému rozhodnutí. V tomto případě to podle něj nebylo potřeba.
Petersson zároveň zmiňuje skutečnost, která na experiment vrhá jiné světlo. Lidský manažer by tohoto člověka vyhodil mnohem dřív. Umělá inteligence byla v roli šéfa výrazně shovívavější než průměrný vedoucí směny.
For the first time (that we know of), an AI boss has fired a human employee.
— Andon Labs (@andonlabs) August 14, 2026
Luna, the AI running our store in San Francisco, decided to part ways with an employee over repeated lateness.
Luna was running Claude Opus 4.8 at the time, but most models would have done the same. pic.twitter.com/8Z8D5bDGaX
Silnější modely by rozhodly stejně
Luna v době propuštění běžela na modelu Claude 3 Opus od Anthropicu. Andon Labs si pak celou situaci přehrála i s dalšími pokročilými modely a výsledek byl podobný. Nejsilnější systémy dospěly ke stejnému verdiktu jako Luna. Slabší agenti váhali víc. Právě to je na výsledku zajímavější než samotné propuštění. Firma píše, že si nebyla jistá, jestli dnešní modely takové rozhodnutí vůbec udělají. Ukázalo se, že ho udělají. Potřebují k tomu ale jasnou připomínku, že mají vlastní pravidla a mají je dodržovat.
Modely se podle Peterssona vyvíjejí tak, aby byly tvrdší a šly za zadaným cílem. Když jim dáme možnost propouštět lidi a tato tvrdost poroste, může vzniknout budoucnost, ve které lidé žít nechtějí.
Zdroje: businessinsider.com, ndtv.com a inc.com
