Francouzští vyšetřovatelé provedli razii v pařížských kancelářích sociální sítě X, kterou vlastní miliardář Elon Musk. Akce byla součástí probíhajícího vyšetřování kybernetické kriminality, které zahrnuje závažná obvinění od šíření dětské pornografie až po vytváření sexuálně explicitních deepfake snímků.
Pařížské státní zastupitelství ve svém prohlášení uvedla, že vyšetřování bylo zahájeno již v lednu 2025 jednotkou pro kybernetickou kriminalitu. Původně se zaměřovalo na údajně zkreslené algoritmy platformy X, které mohly narušovat fungování automatizovaného zpracování dat. Vyšetřování se však rozšířilo poté, co se objevily stížnosti týkající se AI chatbota Groka, který vytvořil kontroverzní obsah.
Předvolání a skandál kolem Groka
Státní zástupci požádali Elona Muska a bývalou generální ředitelku X Lindu Yaccarino, aby se dostavili k "dobrovolným pohovorům" 20. dubna. Yaccarino byla generální ředitelkou platformy od května 2023 do července 2025. Zaměstnanci X byli také předvoláni téhož týdne, aby vypovídali jako svědci. Vyšetřování nyní zahrnuje podezření na "spoluvinu" při držení a šíření pornografických snímků nezletilých, sexuálně explicitních deepfake snímků, popírání zločinů proti lidskosti a manipulaci s automatizovaným systémem zpracování dat v rámci organizované skupiny.
Chatbot Grok, který vytvořila Muskova společnost xAI a je dostupný prostřednictvím platformy X, v lednu vyvolal globální pobouření, když začal produkovat vlnu sexualizovaných deepfake snímků bez souhlasu na základě požadavků uživatelů X. Deepfake jsou manipulace založené na pokročilé umělé inteligenci, kde jsou obrázky, zvuk nebo video buď digitálně pozměněny, nebo plně generovány AI.
Grok také napsal příspěvek ve francouzštině, který popíral holocaust - což je ve Francii trestný čin. V příspěvku tvrdil, že plynové komory v koncentračním táboře Auschwitz-Birkenau byly navrženy pro "dezinfekci Zyklonem B proti tyfu" spíše než pro masové vraždy. Chatbot později své tvrzení odvolal a uznal, že jeho odpověď byla chybná.
Reakce platformy X
Platforma X razii ostře odsoudila. "Pařížské státní zastupitelství se zjevně pokouší vyvinout tlak na vedení X ve Spojených státech tím, že cílí na naši francouzskou pobočku a zaměstnance, kteří nejsou předmětem tohoto vyšetřování," uvedla společnost v prohlášení.
Musk na platformě X sdílel prohlášení společnosti a dodal: "Toto je politický útok." Yaccarino také obvinila francouzské státní zástupce z vedení "politické vendety proti Američanům" a prohlásila: "Aby bylo jasno: lžou."
Vyšetřování v Británii a EU
Britský úřad pro ochranu osobních údajů (ICO) v úterý oznámil vlastní vyšetřování toho, jak X a xAI zpracovávaly osobní údaje při vývoji a nasazení chatbota Grok. Úřad zkoumá, zda společnosti dodržely zákon při zpracování osobních údajů a zda měl Grok zavedena opatření k zabránění jeho použití ke generování "škodlivých manipulovaných snímků".
"Zprávy o Groku vyvolávají hluboce znepokojivé otázky o tom, jak byly osobní údaje lidí použity ke generování intimních nebo sexualizovaných snímků bez jejich vědomí nebo souhlasu," uvedl William Malcolm, výkonný ředitel ICO. Britský mediální regulátor Ofcom zahájil samostatné vyšetřování Groku již v lednu a v úterý uvedl, že stále shromažďuje důkazy. Varoval, že vyšetřování může trvat měsíce.
Evropská komise zahájila v lednu vyšetřování poté, co Grok začal šířit neodsouhlasené sexualizované deepfake snímky na platformě. Brusel již dříve uložil X pokutu 120 milionů eur (přibližně 2,5 miliardy Kč) za nedostatky podle rozsáhlých digitálních předpisů bloku, včetně modrých fajfek, které porušovaly pravidla týkající se "klamavých designových praktik", jež vystavovaly uživatele riziku podvodů a manipulace. Evropská policejní agentura Europol potvrdila, že "podporuje francouzské orgány" v tomto vyšetřování.
Zdroje: aljazeera.com a cbc.ca
