V dnešní digitální době se umělá inteligence (AI) stává nástrojem, který nejen usnadňuje tvorbu obsahu, ale také pomáhá šířit nenávist. Podle nové zprávy od Center for the Study of Organized Hate (CSOH) se AI-generované obrázky a videa staly klíčovým prvkem v nové vlně anti-muslimské nenávisti na indických sociálních sítích. Tato zpráva, publikovaná v říjnu 2025, podrobně popisuje, jak tyto technologie zesilují narativy proti menšinám.
Zpráva CSOH analyzuje období od května 2023 do května 2025 a identifikuje přes 1 326 AI-generovaných příspěvků zaměřených na muslimy. Tyto příspěvky pocházejí z 297 veřejných účtů na platformách jako X (dříve Twitter), Instagram a Facebook. Dohromady tyto materiály získaly více než 27 milionů interakcí, včetně sdílení, lajků a zobrazení. To znamená obrovský dosah a rychlost šíření, kterou tradiční metody nedosahují.
AI usnadňuje tvorbu nenávistného obsahu
Generativní AI nástroje jako Midjourney, Stable Diffusion a další, umožňují vytvářet realistické obrázky a videa bez potřeby pokročilých dovedností. Dříve bylo nutné ovládat programy jako Photoshop, ale teď stačí jednoduchý příkaz a obsah je hotový během sekund. Zpráva CSOH zdůrazňuje, že tyto nástroje snižují bariéry pro tvůrce nenávistného materiálu, což umožňuje rychlou produkci a distribuci na velkém měřítku.
Například AI umožňuje anonymní a okamžité kampaně, kde se obsah šíří koordinovaně přes různé účty. Forenzní analýza a skenování metadat potvrzují, že tyto obrázky jsou skutečně generovány AI. Tento přístup dělá nenávist přitažlivější a snadněji sdílenou, zejména mezi mladými uživateli, kteří oceňují vizuální přitažlivost.
Hlavní témata v ai obsahu
Zpráva CSOH rozděluje nenávistný obsah do čtyř hlavních kategorií. První je sexualizace muslimských žen, která kombinuje misogynii s islamofobií a získává nejvíce interakcí. Druhá kategorie zahrnuje vylučující a dehumanizující rétoriku, kde se muslimové zobrazují jako podlidské bytosti nebo nebezpečí.
Třetí oblast pokrývá konspirační narativy, jako "Love Jihad" nebo "Population Jihad", které vykreslují muslimy jako hrozbu pro společnost. Poslední kategorie estetizuje násilí, čímž dělá nenávist vizuálně přitažlivou nebo humornou, což zvyšuje její dosah. Tyto témata často používají přehnané rysy a stereotypy, které podporují narativy pravicových skupin.
Dopady na společnost a náprava
Tento trend zesiluje společenské napětí v Indii, kde má země velkou online populaci a složitou politickou situaci. AI nejen normalizuje předsudky, ale také zvyšuje riziko offline násilí vůči muslimům. Zpráva CSOH varuje, že bez opatření se situace zhorší, a volá po systémech, které identifikují zneužití AI.
Experti popisují situaci v Indii jako zvláště znepokojivou kvůli místnímu kontextu, kde se podobné taktiky objevují i v Evropě, ale v menším měřítku. CSOH doporučuje, aby platformy zavedly lepší detekci AI-generovaného obsahu a aby se zlepšila regulace těchto nástrojů, aby se zabránilo jejich zneužití pro šíření nenávisti.
