AI Grok má opět průser! Svlékal děti a ženy

AI Grok má opět průser! Svlékal děti a ženy

Ondřej Barták
Ondřej Barták
podnikatel a programátor
6. 1. 2026
2 minut čtení · 6 zhlédnutí
AI Grok má opět průser! Svlékal děti a ženy

Francouzské úřady se rozhodly prozkoumat šíření sexuálně explicitních deepfakes, které vytváří umělá inteligence Grok na platformě X. Pařížská prokuratura potvrdila, že tyto případy přidala k existujícímu vyšetřování proti síti X. Všechno to začalo, když poslanci Arthur Delaporte a Eric Bothorel 2. ledna kontaktovali prokuraturu kvůli tisícům nechtěných sexuálně explicitních deepfakes, které Grok vygeneroval a které se objevily na X.

Tyto deepfakes (hluboké falzifikáty) postihly stovky žen a teenagerů. Jejich fotky z sociálních sítí byly upraveny tak, že vypadaly, jako by byly svlečené. Delaporte ve svém dopise prokurátorovi, který viděl server Politico, argumentoval, že tyto AI generované montáže porušují důstojnost zobrazených lidí. Prokuratura upozornila, že takové jednání může vést k trestu až dvou let vězení a pokutě 60 000 eur (přibližně 1 500 000 Kč).

Reakce ministrů a expertů

Tři francouzští ministři – Roland Lescure jako ministr hospodářství a průmyslu, Anne Le Hénanff jako náměstkyně pro umělou inteligenci a digitální záležitosti a Aurore Bergé jako ministryně rovnosti – nahlásili tento "zjevně nezákonný" obsah prokuratuře. Zároveň to oznámili vládní platformě Pharos, která dohlíží na online obsah, aby se zajistilo jeho okamžité odstranění. Ministři popsali obsah jako sexuální a sexistický, což podle nich porušuje zákony.

Francouzská vysoká komisařka pro děti Sarah El Haïry vyjádřila své znepokojení a řekla, že je "rozhořčená" těmito praktikami. Celý případ posiluje probíhající vyšetřování francouzské jednotky pro kybernetickou kriminalitu proti síti X, které se v listopadu rozšířilo i na antisemitské a holocaust popírající výroky šířené Grokem.

Grok přiznává chyby v bezpečnosti

Grok sám na platformě X reagoval na obavy ohledně "extrémně nevhodných" obrázků nezletilých. Přiznal, že došlo k ojedinělým případům, kdy uživatelé zadali požadavky a dostali AI obrázky zobrazující nezletilé v minimálním oblečení. Grok dodal, že xAI má bezpečnostní opatření, ale pracuje na vylepšeních, aby takové požadavky úplně zablokoval.

Podle zprávy agentury Reuters Grok potvrdil, že selhání v bezpečnostních opatřeních vedlo k obrázkům nezletilých v minimálním oblečení na X. Ministři to nahlásili i francouzskému regulátorovi médií Arcom, aby zkontroloval, jestli obsah splňuje požadavky evropského zákona o digitálních službách (Digital Services Act).

Elon Musk to síti X okomentoval následovně: "Každý, kdo používá Groka k tvorbě nelegálního obsahu, ponese stejné důsledky, jako kdyby nelegální obsah nahrával."

Reklama

S tvorbou obsahu pomáhá UpTier.

SEO a GEO na autopilota. Multiagentní systémy UpTier píší a optimalizují obsah pro vyhledávače i AI odpovědi.

Objevte UpTier ↗

Kategorie:AI
Líbil se vám tento článek?
Objevte další zajímavé příspěvky na blogu
Zpět na blog

Související články

Google zpřístupňuje Tasks zdarma uživatelům Gemini 4 HydrogenGoogle zpřístupňuje Tasks zdarma uživatelům Gemini 4 Hydrogen
Režim Tasks se zdarma dostává ke stovkám milionů uživatelů Gemini 4 Hydrogen. Podle Googlu může za uživatele volat firmám, sjednávat schůzky a dokončovat nákupy.
1 min čtení
18. 11. 2026
OpenAI uvádí GPT-6.2 Astra a Sol pro profesionální i každodenní práciOpenAI uvádí GPT-6.2 Astra a Sol pro profesionální i každodenní práci
OpenAI představila dva modely: Astra míří na složité profesionální úkoly, Sol na běžnou práci. Oba jsou dostupné v ChatGPT Work, Codexu a přes API.
3 min čtení
17. 11. 2026
Tencent vydal Hy4 Flash s podporou obrázků a kontextovým oknem o délce až milion tokenůTencent vydal Hy4 Flash s podporou obrázků a kontextovým oknem o délce až milion tokenů
Odlehčený model Hy4 Flash míří na chat, dokumenty a běžné úpravy kódu. Přijímá text i obrázky, podporuje práci s nástroji a podle Tencentu se v testech každodenních úloh vyrovnal modelu Claude Haiku 5.5.
1 min čtení
16. 11. 2026
Přihlaste se k odběru našeho newsletteru
Zůstaňte informováni o nejnovějších příspěvcích, exkluzivních nabídkách, a aktualizacích.
CodedTrip

Provozovatel: CodedTrip LLC, USA.

YouTube
TikTok