V květnu 2024 zapnul Google funkci, která od základu změnila, jak vypadá výsledek vyhledávání. AI Overviews, tedy shrnutí psaná umělou inteligencí, se usadila úplně nahoře nad slavnými deseti modrými odkazy. A během několika dní začala lidem s naprostým klidem radit, ať si slepí pizzu lepidlem, ať jedí malé kamínky pro zdraví a tvrdit, že jeden americký prezident sbíral univerzitní tituly dlouho po své vlastní smrti.
Uběhly dva roky. Komedie sice úplně neskončila, ale legrace už pomalu přestává. Google dnes zvládne kolem pěti bilionů vyhledávání ročně a nezávislé testy z letošního roku pořád našly tolik chyb, že se jejich počet vyšplhal na desítky milionů špatných odpovědí každou hodinu. Některé z nich už skončily u soudu.
Pojďme si projít to nejlepší i to nejhorší co se opravdu stalo.
Nejdřív ta zábavná část: lepidlo, kameny a cestování časem
Přešlapy, které z AI Overviews udělaly hvězdu internetu, mají jedno společné. Bilionový vyhledávač v nich řekl něco, co by rozumné desetileté dítě neřeklo.
Začněme tím nejslavnějším. Zeptáte se Googlu, jak zabránit sýru ujíždět z pizzy, a v polovině roku 2024 měla umělá inteligence tip jako z kuchařky: přimíchat "asi ⅛ šálku netoxického lepidla". Rada pocházela z jedenáct let starého vtipného komentáře na Redditu od uživatele s přezdívkou "fucksmith". Model nepoznal srandu od receptu. Prostě našel na webu nejvíc tematicky pasující větu a naservíroval ji s kamennou tváří. Dodnes je to ten nejtypičtější omyl AI vyhledávání a důvod, proč se "lepidlo na pizzu" stalo zkratkou pro situaci, kdy se umělá inteligence sebevědomě a vesele plete.
Druhý kousek je možná ještě lepší. "Podle geologů z univerzity UC Berkeley byste měli sníst aspoň jeden malý kámen denně." Tohle Google předložil jako skutečné výživové doporučení. Skutečným zdrojem byla satira ze serveru The Onion, kterou někdo přetiskl jinde a stroj ji sebral jako fakt. Skoro nikdo na celém internetu se totiž neobtěžoval napsat větu "nejezte kameny". Proč by to taky dělal?
Co takhle prezident, který studoval po smrti? Když se lidé ptali na americké prezidenty a jejich vzdělání, AI Overviews oznámila, že Andrew Johnson získal univerzitní tituly mezi lety 1947 a 2012. Pozoruhodný výkon na muže, který zemřel v roce 1875. Je to dokonalá ukázka systému, který sešívá čísla nalezená poblíž jména a vůbec netuší, jestli vůbec můžou být pravdivá.
A pak je tu Barack Obama. Zeptali se "kolik měly USA muslimských prezidentů" a AI Overviews kdysi odpověděla, že jednoho: Baracka Husseina Obamu. Tím nikdy nebyl a není. Model si vytáhl informaci z kapitoly odborné knihy, jejíž název kladl přesně tuhle otázku, a pak sebevědomě obrátil argument autora naruby. Učebnicový případ stroje, který čte slova, aniž by jednomu jedinému rozuměl.
Mezi další perly patří třeba doporučení, že dloubání v nose, a následné pojídání toho, co vyloubáte, prý pomáhá proti zubnímu kazu a nemocem. Sem to patří pod kolonku "věta, která se kdysi na internetu objevila", což je, jak ještě uvidíme, celý ten problém.
Tenhle žánr ale nezemřel v roce 2024. V lednu 2026 položili lidé Googlu prostou otázku: "Je příští rok 2027?" A AI Overviews trvala na svém, že ne, příští rok není 2027, ale 2026. To už ovšem byl rok 2026. Ten nesmysl se okamžitě rozšířil po internetu a dokonce i Elon Musk poznamenal: "Je tu prostor pro zlepšení."
Když legrace končí: nebezpečné omyly
Lepidlo na pizze je vtipné přesně proto, že to nikdo doopravdy neudělá. Potíž je, že stejný stroj, který doporučuje lepidlové polevy, odpovídá i na otázky o lécích, bezpečnosti elektřiny a pověsti lidí. A tam přestává být sebevědomě špatná odpověď vtipem a začíná páchat škody.
Ne všechny chyby mají stejnou váhu. Pitomá odpověď o pizze nikomu neublíží. Vymyšlené tvrzení o skutečné firmě ano. Nejčastější jsou každodenní faktické přehmaty, tedy špatná data, čísla a jména. Pro hospodský kvíz v pohodě, pro rozhodnutí, podle kterého se opravdu zařídíte, jde o riziko. Rady ohledně zdraví, práva a bezpečnosti vypadají uhlazeně, ale uhlazené neznamená správné. A pak jsou tu lživá tvrzení o skutečných lidech a firmách. Vzácná ale zničující, tak jako jsme psali nedávno v článku o dvou německých vydavatelích.
Nejvážnější omyly AI Overviews nejsou o jídle. Týkají se skutečných lidí a firem a teď už končí před soudci.
V březnu 2025 zažaloval minnesotský montér solárních panelů, firma Wolf River Electric, Google poté, co AI Overviews uvedla, že firmu žaluje státní generální prokurátor za klamavé praktiky. Nic takového se nikdy nestalo. Firma tvrdí, že jí zákazník během pár dní zrušil zakázku za 150 tisíc dolarů, a žádá odškodné mezi 110 a 210 miliony dolarů.
Začátkem roku 2026 zažaloval Google uznávaný kanadský houslista Ashley MacIsaac poté, co ho AI Overviews lživě popsala jako odsouzeného sexuálního delikventa. Ten výmysl ho prý stál zrušený koncert. A v kauze Starbuck versus Google podal žalobu americký komentátor kvůli tvrzením, která si umělá inteligence vymyslela i s neexistujícími trestními rejstříky a soudními dokumenty. Obhajoba Googlu, že shrnutí od umělé inteligence není v právním smyslu "zveřejněné", se stala jednou z definujících právních otázek éry umělé inteligence.
Vzorec je pokaždé stejný, umělá inteligence se nespletla jen v drobnosti. Vyfabrikovala konkrétní, poškozující a naprosto nepravdivá tvrzení.
Zdroj: qwestyon.com
