Kalifornský guvernér Gavin Newsom podepsal zákon, kterému Američané přezdívají No Robo Bosses Act, tedy zákon proti robotickým šéfům. Firmy v nejlidnatějším státě USA se podle něj nesmějí spoléhat jen na automatické systémy, když zaměstnance trestají nebo propouštějí. Software může cokoli doporučit, ale konečné rozhodnutí musí provést a ověřit člověk. Pravidla začnou platit 1. července příštího roku.
Kalifornští zákonodárci to zkoušeli už loni. Newsom tehdy první verzi vetoval s tím, že je příliš široká. Nový návrh senátora Jerryho McNerneyho proto ubral na přísnosti. Chrání jen zaměstnance, nikoli živnostníky ani uchazeče o práci. Týká se pouze kázeňských postihů a výpovědí, nikoli náboru. Vypadla i povinnost předem oznamovat, že firma automatický nástroj používá, a také omezení hodnocení od zákazníků jako hlavního podkladu.
Přes svůj bojovný název zákon nic nezakazuje plošně. Firmy dál smějí používat nástroje, které zaměstnance bodují, třídí a hodnotí. Regulace řeší až chvíli, kdy se z čísla na obrazovce stane rozhodnutí o něčí práci.
Kliknout na „schválit“ nestačí
Pravidla mají dvě úrovně. Firma se nesmí opřít výhradně o výstup systému. Pokud se o něj opírá převážně, musí rozhodnutí potvrdit člověk, který si projde skutečné podklady. Může jít o hodnocení od nadřízeného, osobní spis, odvedenou práci, posudky kolegů nebo výpovědi svědků, mezi které legislativa výslovně řadí i recenze zákazníků na internetu.
Pokud manažer verdikt systému nedokáže doložit, nebo zjistí, že je nepřesný, neúplný či zavádějící, nesmí ho použít. Advokát Anthony Zaller, který zastupuje zaměstnavatele, upozorňuje, že nadřízený, který jen odklikne doporučení softwaru, předpisům nevyhoví. Kontrola musí být skutečná a zdokumentovaná.
Zákon přitom pod automatický systém řadí mnohem víc než nástroje prodávané pod nálepkou AI. Patří sem cokoli, co z dat vyrobí skóre, zařazení nebo doporučení. Databáze s docházkou do zákona nespadá, ovšem přehled, který z té samé docházky spočítá „spolehlivost“ zaměstnance, už ano. V praxi jde třeba o:
- docházkové systémy, které automaticky přidělují trestné body za pozdní příchody
- měření rychlosti obsluhy nebo počtu uklizených pokojů za směnu
- analýzy pokladních dat, které hlídají storna a slevy
- kamerové systémy, které posílají upozornění na chování zaměstnanců
Na velikosti firmy nezáleží, zákon platí i pro státní a veřejné zaměstnavatele.
Co se dozví propuštěný zaměstnanec
Když firma dá někomu výpověď a opírala se přitom hlavně o software, musí mu ve stejnou chvíli předat samostatné písemné oznámení. Musí v něm srozumitelně a v jazyce, kterým s dotyčným běžně komunikuje, uvést, že rozhodnutí vycházelo z automatického systému, že ho člověk prověřil, na koho se může obrátit s dotazy a že má dotyčný právo vyžádat si popis svých dat, se kterými systém pracoval. Firma ho také musí upozornit, že za uplatnění těchto práv ho nikdo nesmí trestat.
Spor u soudu pak vypadá jinak, než by čekal běžný evropský čtenář. Jakmile se prokáže, že firma automatický systém použila, důkazní břemeno přechází na ni. Sama musí doložit, že se o něj převážně neopírala nebo že dodržela všechny kroky. Za každé porušení hrozí pokuta 500 dolarů a na dodržování budou dohlížet státní inspektor práce a veřejní žalobci.
Tři věci jsou zakázané úplně a nepomůže ani lidská kontrola. Systém nesmí sloužit k porušování pracovních a antidiskriminačních zákonů, nesmí odhadovat chráněné vlastnosti člověka a nesmí předpovídat, že si zaměstnanec bude uplatňovat svá práva, aby ho firma předem potrestala. Nástroj, který lidi označuje například jako riziko odborového organizování, je podle Zallera vážný problém.
Evropa má podobná pravidla zatím jen pro platformy
Pro Evropany nejde o úplnou novinku. Unijní směrnice o práci přes platformy už vyžaduje, aby o zablokování nebo zrušení účtu kurýra či řidiče rozhodoval člověk. Kalifornie ale lidskou kontrolu nařizuje u všech zaměstnanců, od číšníků po obchodníky. Právě obchod ukazuje, jak tenká hranice vede mezi tréninkem a hodnocením. Magazín Forbes připomíná, že zhruba devět z deseti obchodníků firmy ServiceNow používá virtuálního kouče s umělou inteligencí, který jim hodnotí nacvičené prodejní rozhovory. Autor článku Bryan Robinson radí zaměstnancům, aby se ptali, co přesně systém měří a k čemu se jeho výsledky používají, a aby si sami schovávali doklady o svých výsledcích a souvislostech, které tabulky přehlédnou.
Zákon proti robotickým šéfům byl jedním ze třinácti zákonů o umělé inteligenci, které Newsom ten den podepsal. Jiný z nich zakazuje umělou inteligenci čtoucí emoce zaměstnanců, další omezuje sledování na firemních toaletách. Od ledna 2027 budou firmy navíc muset v oznámeních o hromadném propouštění přiznat, pokud za ním stojí automatizace. Newsom vše podepsal v období, kdy se v Bílém domě hostili šéfové největších firem vyvíjejících umělou inteligenci.
Zdroje: forbes.com, californiaemploymentlawreport.com a yahoo.com
