Dva mnichovští vydavatelé jednoho dne zjistili, že je Google spojuje s podvody a pochybnými obchodními praktikami. Ne v nějaké zapadlé diskusi, ale přímo nahoře ve vyhledávání, v takzvaných AI Overviews. Tedy v těch shrnutích od umělé inteligence, která se zobrazují ještě nad běžnými odkazy. Přitom žádný z článků, na které shrnutí odkazovalo, nic takového netvrdil.
AI od Googlu si podle soudu vzala informace o jiných firmách, které někdo dříve označil za možné podvodníky, a propojila je s daty o našich dvou vydavatelích. Vzniklo tak spojení, které v žádném zdroji nebylo. Umělá inteligence si ho prostě vymyslela. Vydavatelé nejdřív zkusili mírnější cestu. Poslali Googlu výzvu, ať s tím přestane. Google ale podobné nepravdivé výroky nezastavil, a tahle nečinnost se mu nakonec vymstila. Oba weby zamířily k soudu.
Mnichovský zemský soud vydal předběžné opatření. Verdikt zní jasně: Google ručí za to, co jeho AI shrnutí tvrdí.
AI shrnutí vs. klasické vyhledávání
Německý Spolkový soudní dvůr už dříve rozhodl, že firmy jako Google mají u běžných výsledků vyhledávání jen omezenou odpovědnost. Vyhledávač je jen takový rozcestník, který ukazuje na cizí obsah. Když seřadí odkazy, neznamená to, že se za jejich obsah zaručuje. Je to kanál, ne vydavatel. Jenže AI Overviews jsou logicky i podle soudu úplně jiná liga.
Soudci došli k tomu, že umělá inteligence obsah neshrnuje pasivně. Ona ho přeformuluje, kombinuje a občas si i domyslí fakta, která nikde nestojí. A pak to vše naservíruje úplně nahoře nad výsledky. Soud proto mluví o „samostatných, nových a věcných tvrzeních". Jinými slovy: tohle už nejsou cizí slova, ale slova, která patří přímo Googlu. A proč zrovna Googlu? Protože jen on může sáhnout do modelů a logiky, které ta tvrzení vytvářejí. Jen on dokáže systém spolehlivě zarazit, aby stejnou lež neopakoval znovu a znovu.
Výmluva, která neprošla
Google se u soudu bránil tím, že většina uživatelů přece ví, že se informacím od AI nemá slepě věřit. Navíc shrnutí obsahují odkazy na zdroje, takže si to každý může sám ověřit. Soud tuhle obhajobu smetl a argumentoval, že možnost si tvrzení ověřit vás odpovědnosti zpravidla nezbavuje. Kdyby to tak fungovalo, oběti nepravdivých výroků by zůstaly prakticky bez obrany. Původní zdroje totiž nic takového neřekly, takže by je nešlo žalovat. A pomluvený člověk nebo firma by neměli koho hnát k zodpovědnosti.
Představte si to na sobě. Když o vás někdo napíše něco nehorázně nepravdivého, fakt, že si to snadno ověříte jinde, ho z té lži nevyseká.
Soud se dotkl i jednoho citlivého místa. Může se výrok vygenerovaný umělou inteligencí schovat za svobodu projevu? Podle soudu ne. Výsledek od AI prý není výrazem získaného přesvědčení toho, kdo ho vyslovuje, ale produktem algoritmu. AI vyhledávání je podle soudu „především projevem obchodní činnosti Googlu" a jen okrajově výrazem zájmu svobodně sdílet svůj názor. To je úvaha, která se podle všeho může objevit i v dalších soudních sporech po světě.
Takových případů je více
Že nejde o ojedinělý úlet, naznačují čísla. Pew Research loni zjistil, že když se ve výsledcích objeví AI shrnutí, lidé klikají na běžné odkazy mnohem méně. Z původních zhruba patnácti procent to spadlo na osm. Uživatel dostane rychlou a sebejistou odpověď a dál už nepátrá.
Analýza listu The New York Times zase ukázala, že AI Overviews trefí správnou odpověď zhruba v devíti případech z deseti. To zní dobře, dokud si neuvědomíte měřítko. Google zpracuje přes pět bilionů dotazů ročně. I malá chybovost pak znamená miliony nesprávných odpovědí.
A teď to nejhorší. Víc než polovina i těch správných odpovědí byla podle analýzy „nepodložená". Weby, na které AI odkazovala, její tvrzení plně nepodpíraly. Takže i když Google odkáže na stránku se správnou informací, jeho umělá inteligence dokáže stejně vyplodit nepravdu.
Google se nevzdává
Google s verdiktem nesouhlasí a oznámil, že se odvolá. „Tento případ se týká konkrétních a úzce vymezených chyb, ne základního způsobu, jakým AI Overviews zobrazují webový obsah. S rozhodnutím nesouhlasíme a plánujeme se odvolat," uvedl mluvčí firmy. Google zároveň tvrdí, že drtivá většina shrnutí je přesná, i když připouští, že se občas může minout kontextem nebo špatně pochopit obsah webu. Proti porušování svých pravidel prý zasahuje rychle.
Za tenhle případ ale musí firma zaplatit osmdesát procent nákladů řízení a stáhnout část výroků, které soud označil za pomlouvačné.
Verdikt přitom může dopadnout daleko za hranice Německa. Stejné varování „pozor, AI se může mýlit" totiž používají i firmy jako OpenAI, Anthropic nebo Perplexity. A pokud mnichovská logika obstojí, tahle drobná poznámka v podmínkách použití je před soudem neochrání.
Zdroje: malwarebytes.com, wired.com a tech.yahoo.com
