Umělá inteligence dnes nabízí relativně bezpečné prostředí. Dokáže sama automaticky filtrovat násilí, blokovat citlivé materiály a chránit uživatele před extrémním obsahem. AI zkrátka pozná, co je špatně a umí na to rychle reagovat. Nová investigativní reportáž deníku The Guardian však rozkryla temnější stránku trénování umělé inteligence. Za její bezpečností stojí tisíce žen v Indii, které denně sledují extrémně násilný a sexuálně explicitní obsah, aby algoritmům pomohly právě tento škodlivý materiál spolehlivě rozpoznávat.
Umělá inteligence potřebuje své učitele
AI sama nepozná, co je dobré a co ne. Vždy je potřeba, aby jí to někdo ukázal a naučil ji vnímat rozdíly. A právě označená data o násilí, pornografii nebo zneužívání jí musí předkládat obyčejní lidé, kteří vykonávají práci takzvaných moderátorů obsahu a anotátorů dat.
V současnosti tuto práci vykonávají desetitisíce žen v Indii a jedna pracovnice denně zhlédne až 800 videí a snímků, které vyobrazují násilný obsah. Jejich úkolem je data pečlivě projít, zjistit, zda porušují pravidla a naučit AI, že je takový obsah závadný. Bez tohoto lidského aspektu by totiž bezpečnostní filtry AI modelů prakticky nefungovaly.
Psychika pod tlakem
Každá z moderátorek obsahu denně sleduje videa znásilnění, zneužívání, fyzického násilí nebo nehod. Podle reportérů deníku The Guardian mnohé z nich přiznávají, že takto explicitní obsah je pro ně velmi náročné zpracovat.
Na to upozorňují i psychologové – podle nich je práce anotátorů a moderátorů obsahu velmi rizikovou profesí z hlediska duševního zdraví. Výzkumy poukazují především na výskyt úzkosti, nespavosti, opakujících se myšlenek nebo sekundárních traumat. Společnosti zadávající tuto práci ji však často nevidí jako problematickou a těmto ženám neposkytují žádnou odpovídající péči.
Zájem je o ženy z venkova
Velká část této práce se outsourcuje do Indie a už kolem roku 2021 zde v odvětví anotování a moderování pracovalo přibližně 70 000 lidí. Největší poptávka je po zaměstnancích z venkovských oblastí. A důvod je jednoduchý: dostupná pracovní síla a nižší náklady.
Podle průzkumů je až 80 % těchto pracovníků právě z venkova nebo okrajových částí měst. Významnou část navíc tvoří skutečně převážně ženy. Ty jsou totiž obecně považovány za pečlivější a tento druh zaměstnání jim umožňuje získat stabilní příjem bez nutnosti opustit rodinu a domov.
Pracovní inzeráty neříkají vše
Na celé věci je však neproblematičtější, že společnosti práci inzerují velmi nekonkrétně a vágně. Mnoho žen tak často reaguje na nevinnou nabídku trénování AI nebo „anotace dat“, která nabízí výdělek za sledování grafického obsahu z domova. A mnohdy to tak skutečně začíná. Až po podpisu smlouvy se však dozví, že se nebude jednat o neškodný obsah, ale extrémní materiál.
Zaměstnanci jsou navíc vázáni NDA doložkami, které jim znemožňují o práci mluvit s rodinou. Jednou cestou je tak psychologická podpora, která je však spíše výjimkou než pravidlem.
Odvrácená strana AI revoluce
Příběhy těchto žen otevírají širší debatu o etice umělé inteligence. Zatímco technologické firmy prezentují AI jako vrchol inovací, za částí její infrastruktury se nachází tito „levní neviditelní pracovníci“. Za lepší a bezpečnější AI tak nestojí jen data a výpočetní výkon, ale také skuteční lidé a hodiny sledování násilného obsahu. Zlepšování automatických filtrů však snad brzy sníží nutnost kontroly člověkem.
Zdroj: The Guardian
