Manach pracuje pro francouzský nezávislý web Next.ink a novinařině se věnuje přes tři desetiletí. Když ho automatická upozornění Googlu opakovaně posílala na neznámé stránky, prošel si je zblízka. Články na nich byly buď přeložené do francouzštiny ze skutečných médií, třeba z Politica nebo Euronews, nebo je umělá inteligence přepsala tak, aby parafrázovala práci opravdových novinářů. Cílem přepisu bylo vyhnout se nařčení z kopírování obsahu.
Do května 2024 měl Manach na seznamu zhruba 75 takových webů. Se svými studenty prošel jejich obsah a přišel na to, že nejméně čtvrtina z nich stojí na ukradených článcích. Tempo se ale zrychlovalo. V září už jich bylo přes 250 a on požádal o pomoc ověřovatele faktů z listu Libération a jeho rubriky Checknews.
„V prosinci seznam překročil 500 webů generovaných AI a v únoru 2025 dosáhl tisícovky, když jsme publikovali první články,“ popisuje Manach. Zveřejnění se zdrželo z jednoho prostého důvodu. V té době podalo přes 40 francouzských médií společnou žalobu na jeden web poháněný umělou inteligencí, který kopíroval kolem 6 000 článků. Denně.
Číslo roste každým dnem
Manach dnes napočítal 15 000 zpravodajských webů generovaných umělou inteligencí jen ve francouzštině. K tomu přidává zhruba 1 500 v angličtině, přes 200 v němčině, kolem 130 ve španělštině a desítky v dalších jazycích. Sleduje přitom nejen ty, které mají šířit dezinformace, ale hlavně ty, které vznikly kvůli penězům z reklamy. Těch je podle něj většina.
Podobný obrázek nabízí i americká organizace NewsGuard, která podvržené weby dlouhodobě mapuje. Podle ní se počet stránek s falešnými zprávami provozovaných s minimálním nebo žádným lidským dohledem během roku 2023 zdesetinásobil. Tým NewsGuard doteď našel 3 749 webových farem na obsah v šestnácti jazycích. Mezi nimi je i čeština.
Kdo tyto weby vytváří
Většinu stránek spustili odborníci na optimalizaci pro vyhledávače. Zpočátku mířili na Google Discover, protože se z něj stal hlavní zdroj návštěvnosti pro zpravodajské weby. Některým to vynášelo stovky až tisíce dolarů denně.
Manach tvrdí, že přes 75 procent těchto webů založilo méně než 300 lidí. Jde většinou o jednotlivce nebo mikrofirmy. Zhruba stovka z nich spravuje sítě čítající přes dvacet webů, někdy přes sto, v extrémních případech i více než deset tisíc stránek propojených kvůli odkazům a lepšímu umístění ve vyhledávání.
K umělé inteligenci sahají i samotné mediální firmy. Některé si jí novináře „vylepšují“, jiné je rovnou nahrazují. „Jedna ze tří hlavních francouzských internetových mediálních skupin nedávno oznámila, že propustí 40 procent zaměstnanců. Zjistili jsme, že na některých jejích webech polovina novinářů vůbec neexistovala a byla vytvořená umělou inteligencí,“ říká Manach. Viděl také jednoho jediného novináře, který vyprodukoval 500 článků za den v několika verzích téhož příběhu. Šlo o to zvýšit šanci, že článek doporučí Discover nebo portál MSN.
AI používají i skutečná média
Ke generovanému obsahu se stále častěji uchylují i „skutečná“ média a novináři. Umožňuje jim to vydávat mnohem víc článků každý den. Dvě z největších francouzských zpravodajských vydavatelství podle Manacha spustila celé obchodní odvětví zaměřené na to, aby se jejich texty objevovaly v odpovědích jazykových modelů a chatbotů.
Hlavním cílem zůstává doporučování přes Google Discover. Loni v létě bylo téměř 20 procent z tisícovky nejdoporučovanějších zpravodajských webů na Discoveru vytvořeno umělou inteligencí. U 120 nejlepších technologických webů v Google News to byla dokonce třetina.
A lidé na to slyší. Výzkumná společnost Médiamétrie loni v prosinci zjistila, že 250 nejdoporučovanějších webů generovaných AI navštíví každý měsíc 15 až 16 milionů lidí, tedy čtvrtina všech Francouzů. Tři čtvrtiny z nich bylo padesát let a víc. Do dubna tohle číslo vyskočilo na 23 milionů lidí měsíčně, což zahrnuje skoro 40 procent obyvatel Francie.
Výdělky bývají tučné. „Dva z těchto vydavatelů vydělali s jedním webem na Discoveru za pouhé tři měsíce přes dva miliony dolarů, a to v angličtině,“ upozorňuje Manach. Doporučovací algoritmus Googlu totiž nepochopil, že lidé tráví na klamavém článku víc času proto, aby si ho pořádně prošli a napsali redakci stížnost. Ne proto, že by se jim líbil.
Když z halucinací vzniká panika
Manach bije na poplach kvůli rychlosti a rozsahu, s jakým se tyto zprávy šíří. Viděl jednoho jediného specialistu na optimalizaci, jak vydává tisíce článků denně a osloví víc lidí než všechna hlavní francouzská média dohromady. Jeho texty falešně obviňovaly některé hypermarkety, že prodávají karcinogenní maso, shnilé jídlo umyté bělidlem nebo znovu zmražené potraviny. Tyhle poplašné titulky si vymyslela umělá inteligence, kterou používal.
Narazil i na skutečné novináře z masa a kostí, kteří pak dál šířili nepravdy vymyšlené těmito weby. „Stránky generované umělou inteligencí šíří několik různých falešných verzí skutečných událostí, aby lidi zmátly. Musíme si to přiznat a bránit se,“ říká.
Jak podvod poznat
Manach přiznává, že rozeznat text a obrázky od AI je čím dál těžší. Automatickým detektorům nevěří. Podle něj chrlí příliš mnoho chybných výsledků a některé weby si dokonce zakládají falešné profily na LinkedInu, aby svým vymyšleným novinářům dodaly věrohodnost.
Sám postupuje jako vyšetřovatel a dívá se hlavně na metadata, ne na obsah. Sleduje, kolik článků vydávají titíž autoři a za jak dlouhou dobu, a ověřuje, jestli daný novinář vůbec existuje. Zjišťuje, kdo je uvedený jako vydavatel v tiráži a jestli jde o skutečnou firmu. Prochází databázi WHOIS, aby viděl, kolik dalších domén patří stejnému majiteli nebo používá stejné reklamní ID. A všímá si, jestli články nejsou přehnaně poskládané z formátovaných bloků, sekcí s častými dotazy a tónu, který zavání strojovým psaním.
Nechá-li se to bez povšimnutí, problém bude jen bobtnat. Next.ink pustil mezi čtenáře varovnou zprávu upozorňující na weby generované umělou inteligencí a jeden z uživatelů zjistil, že asi 40 procent stránek, které navštěvoval, bylo právě takových.
Zatímco pravidla pro umělou inteligenci a jejich vymáhání zůstávají do velké míry otevřenou otázkou, Manach vidí úkol pro zpravodajská média jasně. Mají se stát „bezpečnými místy“ pro každého, kdo hledá ověřené informace. Evropský zákon o umělé inteligenci sice nařizuje označovat obsah vytvořený AI, jenže žádný z těchto webů své strojové autorství nepřiznává. Next.ink proto vytvořil bezplatné rozšíření do prohlížeče, které uživatele upozorní, když na takovou stránku vstoupí.
Zdroje: themediaonline.co. a wan-ifra.org
