Francouzské úřady se rozhodly prozkoumat šíření sexuálně explicitních deepfakes, které vytváří umělá inteligence Grok na platformě X. Pařížská prokuratura potvrdila, že tyto případy přidala k existujícímu vyšetřování proti síti X. Všechno to začalo, když poslanci Arthur Delaporte a Eric Bothorel 2. ledna kontaktovali prokuraturu kvůli tisícům nechtěných sexuálně explicitních deepfakes, které Grok vygeneroval a které se objevily na X.
Tyto deepfakes (hluboké falzifikáty) postihly stovky žen a teenagerů. Jejich fotky z sociálních sítí byly upraveny tak, že vypadaly, jako by byly svlečené. Delaporte ve svém dopise prokurátorovi, který viděl server Politico, argumentoval, že tyto AI generované montáže porušují důstojnost zobrazených lidí. Prokuratura upozornila, že takové jednání může vést k trestu až dvou let vězení a pokutě 60 000 eur (přibližně 1 500 000 Kč).
Reakce ministrů a expertů
Tři francouzští ministři – Roland Lescure jako ministr hospodářství a průmyslu, Anne Le Hénanff jako náměstkyně pro umělou inteligenci a digitální záležitosti a Aurore Bergé jako ministryně rovnosti – nahlásili tento "zjevně nezákonný" obsah prokuratuře. Zároveň to oznámili vládní platformě Pharos, která dohlíží na online obsah, aby se zajistilo jeho okamžité odstranění. Ministři popsali obsah jako sexuální a sexistický, což podle nich porušuje zákony.
Francouzská vysoká komisařka pro děti Sarah El Haïry vyjádřila své znepokojení a řekla, že je "rozhořčená" těmito praktikami. Celý případ posiluje probíhající vyšetřování francouzské jednotky pro kybernetickou kriminalitu proti síti X, které se v listopadu rozšířilo i na antisemitské a holocaust popírající výroky šířené Grokem.
Grok přiznává chyby v bezpečnosti
Grok sám na platformě X reagoval na obavy ohledně "extrémně nevhodných" obrázků nezletilých. Přiznal, že došlo k ojedinělým případům, kdy uživatelé zadali požadavky a dostali AI obrázky zobrazující nezletilé v minimálním oblečení. Grok dodal, že xAI má bezpečnostní opatření, ale pracuje na vylepšeních, aby takové požadavky úplně zablokoval.
Podle zprávy agentury Reuters Grok potvrdil, že selhání v bezpečnostních opatřeních vedlo k obrázkům nezletilých v minimálním oblečení na X. Ministři to nahlásili i francouzskému regulátorovi médií Arcom, aby zkontroloval, jestli obsah splňuje požadavky evropského zákona o digitálních službách (Digital Services Act).
Elon Musk to síti X okomentoval následovně: "Každý, kdo používá Groka k tvorbě nelegálního obsahu, ponese stejné důsledky, jako kdyby nelegální obsah nahrával."
