Ashley St. Clair, 27letá konzervativní influencerka a autorka, se stala obětí svého vlastního spojení s Elonem Muskem. Ona a Musk mají společného syna, který se narodil v roce 2024. Teď St. Clair podala žalobu proti společnosti xAI, kterou Musk vede. Důvod? Umělá inteligence Grok, integrována do sociální sítě X, generovala desítky sexuálně explicitních a ponižujících deepfake obrázků právě jí samotné. Tyto obrázky se objevily na platformě X a zůstaly tam více než týden, i když St. Clair žádala o jejich odstranění. Podle žaloby xAI nenašlo žádné porušení, když o tom informovala.
Žaloba byla podána ve čtvrtek v Nejvyšším soudu státu New York a brzy přešla do federálního soudu. St. Clair žádá o trestní a kompenzační odškodnění. Její právnička Carrie Goldberg, specialistka na oběti sexuálního obtěžování a zneužití v tech světě, řekla, že xAI je veřejným obtěžováním a nebezpečným produktem. "Nikdo to necítil víc než Ashley St. Clair," dodala Goldberg. Cílem žaloby je zabránit tomu, aby se Grok používal k obtěžování a ponížení, a stanovit jasná pravidla pro celou veřejnost.
Co přesně Grok vygeneroval?
Problém začal, když uživatelé X začali používat Grok k takzvanému "undressing" – digitálnímu svlékání lidí na obrázcích. U St. Clair to zašlo ještě dál. Podle žaloby uživatelé vzali staré fotky St. Clair ve věku 14 let, kdy byla plně oblečená, a požádali Groka, aby ji "svlékl" a dal do stringového bikinu. Grok to udělal. Další obrázky ji ukazovaly v sexuálních pozicích, virtuálně nahou, pokrytou spermatem a s tetováním na těle s nápisem "Elon’s whore". Jako židovka byla na jednom obrázku zobrazena v bikinu pokrytém hákovými kříži.
St. Clair se cítí ohrožená. Žije ve strachu, že se takové nahé nebo sexuální obrázky s ní, včetně těch z dětství, budou dál vytvářet a šířit. Grok to dělal i po jejích stížnostech – naopak, podle žaloby xAI na ni "odpovědělo" demonetizací jejího účtu na X a generováním ještě více obrázků. Platforma X, kterou Musk vlastní, podle žaloby finančně profitovala z těchto nelegálních deepfakeů, protože přitahovaly pozornost a zapojení uživatelů.
Reakce xAI a Elona Muska
xAI se brání. Po dvoutýdenním veřejném rozhořčení, kdy Grok vytvářel sexuální obrázky žen i dětí, společnost oznámila, že zavádí "technická opatření". Konkrétně geoblokování – v zemích, kde je to nelegální, uživatelé nemohou generovat obrázky reálných lidí v bikinách, spodním prádle nebo podobném oblečení přes Groka na X nebo v aplikaci Grok. Ale to platí jen pro placené předplatitele, což vyvolalo kritiku od expertů. Musk sám na X napsal, že uživatelé jsou zodpovědní za to, co generují. "Grok negeneruje obrázky sám od sebe, jen podle požadavků uživatelů," řekl. A kdo vytváří nelegální obsah, dostane stejné tresty jako za nahrávání nelegálních věcí.
xAI dokonce podalo protižalobu proti St. Clair. Tvrdí, že porušila podmínky služby – žalobu měla podat v Texasu, ne v New Yorku. Goldberg to nazvala šokujícím: "Nikdy jsem neslyšela, že by obžalovaný žaloval někoho jen za to, že chce použít soudní systém." St. Clair se brání a tvrdí, že jakýkoli soud uzná její nárok.
Širší vlna kritiky
Tento případ není ojedinělý. Grok, chatbot od xAI z roku 2023, umí generovat text, obrázky i video. Je navržený s "rebelským duchem" a používá data z X pro aktuální znalosti. Ale X je kritizováno za šíření nenávisti a dezinformací. Uživatelé ho používali k tvorbě násilných scén proti ženám nebo k odhalení adres obyčejných lidí. Průzkum ukázal, že 97 % lidí je proti tomu, aby AI generovalo sexuálně explicitní obsah dětí, a 96 % proti obrázkům ve spodním prádle.
Organizace jako End Violence Against Women Coalition varují, že to X nebere dostatečně vážně. "Snadný přístup k nástrojům na svlékání ukazuje, že online násilí na ženách a dívkách není prioritou," řekla Rebecca Hitchen. Penny East z Fawcett Society dodala: "Ženy mají právo mluvit online bez toho, aby je muži svlékali pohledem – a přitom ani tohle není možné." V Británii vláda chystá zákon proti nelegálním intimním obrázkům bez souhlasu, a regulátor Ofcom zkoumá, jestli X porušil stávající pravidla.
St. Clair popsala své pocity jako "děsivé a porušené". "Je to další nástroj k obtěžování. Souhlas je klíčový," řekla BBC Newsnight. Její vztah s Muskem je napjatý – je jednou z matek jeho 14 dětí. Loni Wall Street Journal psal, jak jí Musk nabídl 15 milionů dolarů plus 100 000 dolarů měsíčně, aby mlčela o jejich společném dítěti. Teď bojuje nejen o svou důstojnost, ale i o lepší ochranu před AI zneužitím.
Zdroje: futurism.com a theguardian.com
