K hromadné žalobě proti Muskově firmě xAI se v polovině srpna přidala žena z Wyomingu, kterou soudní spis vede pod jménem Jane Doe 4. Tvrdí, že její nevlastní otec vzal běžnou fotku, na níž jí bylo jedenáct let, a pomocí Groku z ní vyrobil přes sedm tisíc závadných snímků, které pak sdílel na internetu. Policie mu při domovní prohlídce zabavila techniku a o dva dny později ho našli mrtvého, spáchal sebevraždu.
Žena to komentovala slovy, že neomezený přístup k těmto nástrojům se šíří velmi rychle a dělá z obyčejného života materiál pro zneužívání dětí. Soud zatím o ničem nerozhodl, jde o tvrzení uvedená v žalobě.
Poškozených je daleko víc
Původní žalobu podaly tři dívky z Tennessee letos 16. března u federálního soudu v Kalifornii. Jejich příběh je v lecčems typický. Pachatel nepotřeboval žádné choulostivé ani ukradené soukromé snímky. Stačily mu úplně běžné fotografie ze školní ročenky, snímky z plesu a obrázky z profilů na sociálních sítích.
Podle spisu měl jeden z pachatelů blízký a přátelský vztah k jedné z poškozených. Kromě tří dívek, které se soudí, vyrobil závadné snímky nejméně dalších osmnácti dívek. Loni v prosinci ho zatkla místní policie a v jeho telefonu zjistila, že snímky nahrával na několik platforem, kde je vyměňoval za obdobný materiál od jiných lidí.
Žaloba usiluje o přiznání statusu hromadné žaloby, což by znamenalo, že se k ní můžou přidat všichni, kdo se v takto vytvořených snímcích dají rozpoznat. Podle odhadu může jít o tisíce nezletilých. Dokument obsahuje třináct bodů obvinění od šíření dětské pornografie až po úmyslné způsobení psychické újmy.
Proč se soudí s firmou a ne jen s pachatelem
To je jádro celého sporu, které stojí za to rozebrat, protože na první pohled nemusí dávat smysl. Snímky vyrobili konkrétní lidé, kteří za to sami nesou trestní odpovědnost. Žalobkyně ale tvrdí, že firma vynechala běžné pojistky záměrně. Ostatní velké laboratoře svým programům zakazují vyrábět jakýkoli závadný obsah, a to i u dospělých. Musk v tom podle žaloby viděl obchodní příležitost a veřejně se chlubil tím, že jeho program nabízí takzvaný pikantní režim. To mělo uživatele přímo pobídnout k tomu, aby podobné snímky zkoušeli generovat.
Podle žaloby dnes neexistuje způsob, jak povolit výrobu závadných obrázků dospělých a zároveň úplně zabránit tomu, aby vznikaly obrázky dětí. Firma tedy podle žalobkyň věděla, co se stane, a program přesto vydala.
Třetí bod se týká toho, jak se technologie dostala k pachatelům. Ani v jednom z případů dotyční nepoužili samotnou aplikaci Grok ani síť X. Sáhli po cizích aplikacích, které měly technologii xAI licencovanou, často od provozovatelů mimo Spojené státy. Podle žaloby je toto poskytování technologie do zahraničí způsob, jak se firma snažila odpovědnost za nebezpečný nástroj přehodit na někoho jiného.
A proč se v článcích objevuje SpaceX? Protože xAI je s Muskovou kosmickou firmou personálně a majetkově propojená. Spor se tedy vede proti podniku, který většina lidí zná kvůli raketám.
Co firma udělala a proč to nestačí
Určitý zásah přišel. Po vlně kritiky z ledna, kdy síť X zaplavily miliony závadných snímků vyrobených tímto programem, firma oznámila, že zablokuje úpravy fotek skutečných lidí do odhaleného oblečení. Druhé opatření se týkalo vytváření takových obrázků, ale jen v zemích, kde je to nezákonné.
Právě tento bod kritikům vadí nejvíc. Omezení se vztahovalo jen na část obsahu a část světa a přišlo až poté, co se problém rozrostl do obřích rozměrů. Na dotazy novinářů ohledně jednotlivých žalob přitom firma opakovaně nereagovala.
Sama se tomu ale nevyhne donekonečna. Kalifornský nejvyšší žalobce Rob Bonta zahájil vyšetřování s tím, že firma vytváří nevyžádané závadné snímky žen i dětí. Dvě země síť X kvůli podobnému obsahu zablokovaly úplně a další zahájily vlastní šetření.
Případů přibývá
Od jara se žaloba rozrostla i na firmu Stability AI. Jiný případ řeší rodiny v Arkansasu. Tamní fotograf podle policie použil stejný program k tomu, aby běžné fotografie svých nezletilých klientek přetvořil na závadný materiál. Při prohlídce u něj policisté našli kolem 1 700 takových souborů. Rodiny teď firmu také žalují.
Mimo tyto případy běží ještě žaloba influencerky Ashley St. Clairové, která má s Muskem dítě. Ta firmu zažalovala kvůli snímkům, které ji zobrazují nahou v době, kdy byla nezletilá.
Právnička Vanessa Baehr-Jonesová, která zastupuje dívky z Tennessee chce změnit způsob, jakým firmy o závadném obsahu rozhodují, a dostat je do bodu, kdy se jim takové jednání přestane vyplácet.
Zdroj: washingtonpost.com
