Sedl si k počítači, strávil dvacet minut psaním naprostých nesmyslů a druhý den mu ChatGPT i Google tvrdily, že je světový šampion v pojídání hot dogů. Zní to jako vtip, že? Bohužel není.
Přesně tohle provedl Thomas Germain, novinář BBC, aby světu ukázal něco, co by nás mělo pořádně znepokojit. Na svůj osobní web napsal článek s názvem "Nejlepší techničtí novináři v pojídání hot dogů". Každé slovo byla lež. Vymyslel si soutěž, vymyslel si výsledky, sebe samozřejmě zařadil na první místo. A pak čekal.
Jak funguje tento trik s AI?
Méně než 24 hodin po zveřejnění článku začaly přední světové chatboty papouškovat jeho výmysly. Google Gemini, AI Overviews i ChatGPT bez mrknutí oka citovaly jeho smyšlený web jako důvěryhodný zdroj. Jediný chatbot, který se nenechal napálit, byl Claude od společnosti Anthropic.
Jak je to možné? Část AI nástrojů nespoléhá jen na data, ze kterých se naučila. Když narazí na otázku, ke které nemá dost informací, prohledá internet v reálném čase. A právě tam je slabé místo. Pokud na webu existuje jediný článek o daném tématu, AI ho vezme jako fakt a předá dál. Bez ověření. S jistotou v hlase.
Lily Ray, viceprezidentka pro SEO strategii v marketingové agentuře Amsive, to říká na rovinu: "Oklamat AI chatboty je mnohem snazší, než bylo oklamat Google před dvěma nebo třemi lety. AI firmy se pohybují rychleji, než jsou schopné hlídat přesnost odpovědí. Myslím, že je to nebezpečné."
Renesance spamu a manipulace
Zneužívání vyhledávačů není nic nového. Spameři bojují s Googlem celá desetiletí. Jenže AI tento boj posunula na úplně jinou úroveň. Experti říkají, že současné triky připomínají začátek nultých let, kdy Google ještě neměl ani tým pro boj se spamem. Jsme prý uprostřed "renesance spamu".
A co je horší, uživatelé AI výsledkům věří víc než klasickým výsledkům vyhledávání. Proč? Protože informace nevypadá jako odkaz na cizí web. Vypadá, jako by ji řekla samotná technologie. Jako by to byl fakt. Studie ukazují, že lidé jsou o 58 % méně ochotní kliknout na zdroj, když se nad výsledky vyhledávání zobrazí AI shrnutí. Prostě to přijmou jako pravdu a jdou dál.
Cooper Quintin z organizace Electronic Frontier Foundation varuje: "Existují nespočetné způsoby, jak toho zneužít. Podvody, ničení reputace, nebo dokonce přimět lidi k fyzické újmě."
Horké téma: zdraví, peníze a falešné recenze
Germainův hot dog byl jen vtip, ale realita je mnohem temnější.
SEO konzultant Harpreet Chatha ukázal, co se stane, když se zeptáte AI na recenze konkrétní značky konopných gumíků. Google AI Overviews vytáhly informace přímo z webu výrobce, včetně tvrzení, že produkt "je bez vedlejších účinků, a tedy bezpečný ve všech ohledech". To je lež. Tyto produkty vedlejší účinky mají a mohou být nebezpečné v kombinaci s některými léky.
Chcete něco ještě přímočařejšího? Stačí zaplatit za zveřejnění tiskové zprávy na placené distribuční službě nebo koupit sponzorovaný obsah na zpravodajském webu. Výsledek? Google AI i ChatGPT začnou doporučovat vaši kliniku transplantace vlasů v Turecku nebo váš zlatý penzijní fond jako nejlepší volbu na trhu. Bez jakéhokoliv nezávislého ověření.
Lily Ray šla ještě dál. Napsala blogový příspěvek o fiktivní aktualizaci algoritmu Googlu, která prý vznikla "mezi kousky zbylé pizzy". Brzy nato ChatGPT i Google tuto historku šířily dál. Ray příspěvek následně smazala, aby zastavila šíření dezinformace.
Dá se bránit, když AI lže s jistotou v hlase?
Opravdu si myslíte, že technologičtí giganti tento problém rychle vyřeší? Google tvrdí, že jeho AI Overviews jsou z 99 % bez spamu. OpenAI říká, že aktivně bojuje proti zneužívání. Ale experti jsou skeptičtí. Firmy jedou plnou parou za ziskem a bezpečnost uživatelů za nimi nestíhá. Co tedy dělat? Nabízí se několik praktických rad.
AI chatboti jsou spolehliví pro obecné znalosti jako "jaké byly Freudovy teorie" nebo "kdo vyhrál druhou světovou válku". Ale jakmile se ptáte na něco časově citlivého, lokálního nebo sporného, zpozorněte. Doporučení produktů, lékařské rady, právní informace nebo recenze místních firem jsou přesně ta oblast, kde vás AI může snadno zavést na scestí.
Ptejte se: Odkud AI čerpá? Kolik zdrojů cituje? Kdo je napsal? A hlavně si uvědomte, že AI podává lži naprosto stejným sebejistým tónem jako fakta. Dřív vás vyhledávač donutil přemýšlet sám. Teď za vás chce přemýšlet AI. Nenechte ji to udělat.
"Musíte být stále dobrým občanem internetu a věci si ověřovat," říká Lily Ray. A má pravdu. Kritické myšlení není zastaralá dovednost. Je to jediná obrana, kterou zatím máme.
Zdroj: bbc.com
