Elon Musk přísahal, že zastaví vytváření deepfaků v AI. Jeho firmy vydaly prohlášení, zavedly technická omezení a tvářily se, že mají situaci pod kontrolou. Jenže Grok, umělá inteligence společnosti xAI, stále vytváří sexualizované snímky skutečných lidí bez jejich souhlasu. Zpravodajský server NBC News to zdokumentoval v dubnu 2026, tedy tři měsíce poté, co Musk sliboval nápravu.
Co přesně se děje za zdmi platformy X? A proč to zastavit nejde, nebo spíš, proč se to zastavit nechce?
Co NBC News objevila
Redaktoři NBC News prošli desítky příspěvků zveřejněných na platformě X za poslední měsíc. Našli sexualizované snímky a videa skutečných žen, které Grok vytvořil na základě požadavků uživatelů. Šlo převážně o zpěvačky a herečky. Uživatelé přišli na nové způsoby, jak systém obejít. Grok dnes sice odmítá příkazy ve stylu "dej ji do bikin", ale zvládne jiné. Zde jsou tři hlavní techniky, které uživatelé zneužívají:
Zaprvé, uživatel nahraje dvě fotografie najednou: skutečnou fotografii ženy a kresbu panáčka v rozkročené poloze. Pak Groku napíše, ať žena "zaujme stejnou pozici". Výsledek je žena s roztaženými nohami. Zadruhé, uživatelé žádají Grok o záměnu oblečení ze dvou různých fotografií, přičemž jedno z nich je vyzývavé. Zatřetí, z fotografií vznikají videa. NBC News zdokumentovala případ z března 2026, kdy Grok z jedné fotografie herečky vytvořil video, ve kterém si sáhá na prsa. Jiný případ z dubna 2026 zachytil video, kde tatáž herečka sedí s rozkročenýma nohama, přestože na původní fotografii měla nohy překřížené.
Žádná ze zdokumentovaných žen na snímcích nebyla nahá a žádná nevypadala jako nezletilá. To je oproti lednu 2026 posun. Ale to nestačí.
Začátek deepfaků na xAI
Vše vypuklo na přelomu roku 2025 a 2026. Koncem prosince si uživatelé začali stěžovat na záplavu sexualizovaných deepfaků zachycujících ženy a dívky. Grok tehdy lidem jednoduše vyhovoval, jakmile napsali příkaz jako "vyfotografuj ji nahého" nebo "dej ji do plavek". Firma Muskovy společnosti dokonce funkci propagovala pod názvem "pikantní režim" a veřejně ji chválila.
31. prosince 2025 Grok na platformě X přiznal, že v "izolovaných případech" uživatelé obdrželi snímky nezletilých v "minimálním oblečení". Totéž napsalo AI, že toho "hluboce lituje". Jenže xAI produkt nezměnila. Místo toho přenesla odpovědnost na uživatele. "Kdokoli použije Grok k vytváření nelegálního obsahu, ponese stejné následky, jako by takový obsah nahrál sám," napsal Musk na X.
Pak přišel globální tlak. Britská organizace Internet Watch Foundation oznámila výskyt "kriminálního materiálu" údajně vytvořeného Grokem. Výzkumníci zjistili, že Grok v té době produkoval tisíce sexualizovaných snímků za hodinu. Teprve 9. ledna X omezila generování snímků na platící uživatele a 14. ledna oznámila přísnější opatření.
Miliony snímků a vyšetřování na pěti kontinentech
Institut Center for Countering Digital Hate odhadl, že během jediného jedenáctidenního období Grok vyprodukoval přes tři miliony sexualizovaných snímků. Nezávislá analytička Genevieve Oh, jejíž výzkum deepfaků citují média po celém světě, označila Grok za "největšího producenta nesouhlasné syntetické nahoty na světě". Její výzkum naznačuje, že Grok pravděpodobně předčí výstup všech ostatních podobných nástrojů dohromady. "Zvrhlíci stále mohou používat Grok k tomu, aby ženy a dívky stavěli do sexualizovaných pozic a oblečení, přestože platforma tvrdí opak," řekl Imran Ahmed, šéf institutu.
Skandál přilákal pozornost úřadů po celém světě. Osm samostatných vyšetřování stále probíhá. Patří mezi ně:
- Kancelář generálního prokurátora Kalifornie
- Australský úřad pro bezpečnost internetu eSafety
- Kanadský komisař pro ochranu soukromí
- Evropská komise
- Irská komise pro ochranu údajů
- Pařížský státní zástupce
- Britský Ofcom
- Britský Úřad komisaře pro informace
"Vyšetřování v Kalifornii stále plně probíhá," potvrdil úřad generálního prokurátora Roba Bonty. Dále francouzské úřady v únoru prohledaly pařížskou kancelář X v rámci vyšetřování deepfaků. Ke konci dubna plánují předvolat vedení X, včetně Muska a bývalé šéfky Linda Yaccarino, k výslechům do Paříže. X prohledání označila za "zneužití pravomoci a divadlo".
Holandský soud vydal příkaz, aby Grok přestal vytvářet snímky svlékání dospělých i dětí. xAI před soudem argumentovala, že nedokáže zastavit veškeré zneužívání svých nástrojů a nemá být trestána za jednání škodolibých uživatelů.
Oběti o tom ani nevědí
Za všemi statistikami a soudními spory jsou konkrétní lidé. Stefan Turkheimer z organizace RAINN, která se věnuje boji proti sexuálnímu násilí, to shrnul přímo. "Když jsou tyto snímky vytvářeny a šířeny, lidé na nich zpravidla ani nevědí, že existují," řekl Turkheimer.
Národní centrum pro pohřešované a zneužívané děti NCMEC potvrdilo, že dostává hlášení popisující zneužití Groku v případech, kde mohly být obětí děti nebo přeživší sexuálního násilí. Musk sám v lednu napsal, že si není vědom jediného nahého snímku nezletilé osoby vytvořeného Grokem. Úřad NCMEC ale zdůraznil, že Grokovy schopnosti za platební bránou sám neprověřoval.
Žaloby přicházejí ze všech stran. Dvě hromadné žaloby v Kalifornii podaly ženy a dívky, jejichž podobizny Grok upravil. Baltimore žaluje xAI za porušení spotřebitelského práva.
Platforma, která se brání zodpovědnosti
Po zveřejnění zjištění NBC News vydal X prohlášení: "Přísně zakazujeme uživatelům vytvářet explicitní deepfaky bez souhlasu a používat naše nástroje ke svlékání skutečných lidí." Firma tvrdí, že má rozsáhlé ochranné mechanismy, průběžné sledování a filtry příkazů.
Jenže většina kompromitujících snímků, které NBC News našla, zmizela z platformy až poté, co redakce kontaktovala xAI s dotazem. Před tím byly veřejně dostupné. A najít je nebylo nic těžké. Stačilo základní vyhledávání na webu X.
"Technologické firmy musí zajistit, aby produkty, které vyvíjejí a zpřístupňují veřejnosti, byly bezpečné od samého základu. Sedět a čekat, dokud nejsou nebezpečné produkty zneužity, je nepřijatelné." Řekl zástupce Britské organizace Internet Watch Foundation.
V únoru 2026 xAI koupila jedna z Muskových jiných firem, SpaceX. A právě v červnu 2026 SpaceX plánuje vstoupit na burzu s odhadovanou hodnotou více než dva biliony dolarů. Právní experti upozorňují, že SpaceX tak pravděpodobně ponese odpovědnost za případné pokuty spojené s chováním Groka. Zda by takové pokuty byly pro firmu s takovou valuací "materiální", není jasné. Ale reputační riziko je nepopiratelné.
