Společnost Anthropic začala do textů generovaných svým modelem Claude vkládat neviditelný vodoznak. Do obsahu se nepřidávají žádné skryté znaky, přesto lze u dostatečně dlouhého úryvku matematicky ověřit pravděpodobnost, že autorem je AI. Firma k tomuto kroku přistoupila kvůli evropské legislativě. Část uživatelů to však vnímá jako zradu a někteří dokonce ruší předplatné.
Jak se z výběru slov stane podpis
Pro pochopení celého principu je klíčové vědět, jak velké jazykové modely fungují. Claude generuje text slovo po slově, přičemž pro každou další pozici vybírá z několika nejvhodnějších kandidátů. U věty „Dnešní počasí bylo chladné a…“ systém s vysokou pravděpodobností nezvolí slovo „sladké“, ale spíše „zatažené“ či „šedivé“. Čtenáři na konkrétní volbě většinou nesejde a o finálním výsledku rozhoduje algoritmus generující náhodná čísla.
A přesně sem Anthropic zasáhl. Zdrojem této náhody už totiž není běžný generátor, ale specifický klíč v kombinaci s několika předchozími slovy. Volba sice zůstává náhodná, ale kdo tento klíč vlastní, může zpětně ověřit, zda sekvence slov odpovídá tomu, co by model na základě klíče vybral. V textu tak vzniká vzorec, který čtenář nemá šanci postřehnout.
Anthropic to popsal na příkladu hry Monopoly. Místo hodů kostkou by hráči brali hodnoty z knihy plné cifer Ludolfova čísla, kde by začali na náhodném místě a dál postupovali v řadě za sebou. Pro samotný průběh hry se nic nemění, ale kdo pí zná, dokáže po skončení partie poznat, že tahy neurčovala klasická kostka.
Kde se znak objeví a kde ne
Metoda má však své hranice. Z klíče se dá vyčíst pouze to, s jakou pravděpodobností se na textu podílel právě Claude. Nedokáže potvrdit, že text psal člověk, ani neodhalí jinou umělou inteligenci, ta by totiž používala vlastní klíč nebo úplně jinou metodu. U krátkých úryvků navíc detekce funguje špatně, jelikož obsahují málo rozhodnutí, zatímco s rostoucí délkou jistota stoupá.
Metoda selhává také tam, kde existuje pouze jediná správná varianta. Po slovech „Newtonovo nejslavnější dílo se jmenovalo Principia…“ zkrátka musí následovat „Mathematica“, takže vodoznak nemá s čím pracovat. Podobně je tomu u počítání, kde po zadání „2 + 2 =“ existuje jediná správná odpověď.
Programátory bude zajímat, jak je to se zdrojovým kódem. Ten nese značku slaběji, protože model musí napsat funkční řešení a často nemá na výběr z mnoha alternativ. V místech, kde je volba libovolná, například v komentářích, se vodoznak objevit může, na samotném funkčním programu se však projeví zanedbatelně.
Zvláštní kapitolou jsou opravy cizích textů. Vodoznak se totiž váže pouze na výrazy, které vybral sám Claude. Když model text jen lehce zkorektuje, většina původních slov zůstává lidská a značka se nemá čeho chytit. U překladů je to však přesně naopak. Tam volí každé slovo model, takže výsledný text v sobě vodoznak nese.
Důvod zavedení vodoznaků
Firma přiznává, že jde o splnění povinnosti. V červenci 2026 podepsala společně s dalšími velkými poskytovateli AI modelů a přibližně 190 subjekty evropský kodex o transparentnosti. Ten po tvůrcích systémů vyžaduje, aby strojově generovaný obsah jasně označovali. Podle unijních pravidel pak musí být všechny texty z dílny umělé inteligence takto označeny od prosince.
Anthropic texty značkuje globálně, protože zatím nemá spolehlivý způsob, jak tuto funkci omezit jen na určitý region. Claude v tom navíc nezůstane sám. Od 2. srpna Unie vyžaduje značení obsahu od všech poskytovatelů působících na jejím trhu. Stejný požadavek podepsali i další technologičtí vývojáři, kteří už chystají vlastní vodoznaky. Pro starší modely spuštěné před tímto datem sice platí přechodné období, Anthropic je však plánuje zpětně dovybavit v nejbližších měsících.
Zhorší se kvalita textu?
Nejhlasitější odborná námitka míří na kvalitu výstupu. Známý bloger John Gruber označil celý postup za destrukci samotné podstaty psaní. Tvrdí, že vodoznak Claudu svazuje ruce a nutí ho vybírat méně vhodná slova. Výsledek se sice podle něj nemusí stát vyloženě chybným, přesto bude celkově horší.
Steven Murdoch, profesor informatiky z University College London, to vidí opačně. Podle něj změna nejspíš nebude nijak citelná. Náhoda je totiž pro tyto modely nezbytná už teď, jinak by se zasekávaly ve smyčkách a neustále opakovaly totéž. Generátory náhodných čísel sice zůstávají stejné, jejich výstup je však nově statisticky předvídatelný. Připomněl také, že model nad výběrem mezi dvěma synonymy nijak nepřemýšlí, prostě je generuje na základě náhody.
Anthropic se opírá o svá měření. Ve vlastním testování nezaznamenal žádný negativní vliv na obsah, míru kreativity ani čtivost. Odkazuje přitom na práci Google DeepMind, kde tvůrci metody SynthID-Text nasadili značkovaný model do ostrého provozu Gemini. V uživatelských hodnoceních pomocí palců pak nezaznamenali žádný statisticky významný rozdíl. Lidští hodnotitelé navíc ve srovnávací studii mezi označenou a neoznačenou odpovědí nepoznali kvalitativní odchylku.
Čeho se bojí uživatelé
Reakce na sociálních sítích byly ostré. Jeden z příspěvků na Redditu označil tento krok za spiknutí proti nevinným uživatelům, další však oponoval s tím, že jediným důvodem k odmítání vodoznaku je snaha lhát lidem. Server Business Insider navíc uvedl, že desítky uživatelů na síti X již kvůli zavedení značky oznámily zrušení předplatného.
Pokročilejší uživatelé si podle kritiků poradí tím, že text přepíší nebo nechají upravit jinou službou, zatímco běžný člověk se snadno prozradí. Jako příklady se uvádějí studenti, kteří si nechají přeformulovat odstavec, novináři zadávající shrnutí dvousetstránkového přepisu nebo autoři s tvůrčím blokem hledající synonyma. TechCrunch však namítá, že tyto obavy jsou liché. Novináře totiž vygenerovaný souhrn nijak neohrožuje, pokud ho nekopíruje přímo do svého článku, což by se stejně dělat nemělo. Totéž podle něj platí pro studenty a jejich eseje.
Druhá linie odporu se točí kolem autorství. Jeden nespokojený uživatel označil toto skryté značení za neetické. Argumentoval tím, že sám dodal instrukce, kontext, rozhodnutí i nespočet úprav, takže Claude byl pouze nástrojem. Zároveň se ptal, proč si model vůbec nárokuje nějaké zásluhy. Ostatní mu však oponovali, že o zásluhy nejde. Cílem je pouze možnost rozpoznat strojově vytvořený obsah, protože ten může v určitých situacích napáchat škody. Jiný kritik zvolil sofistikovanější argument o pokrytectví. Připomněl, že samotné modely vznikly masivním nasáváním cizí autorské práce.
Anthropic mírní reakce
Anthropic sám tlumí očekávání ohledně toho, co všechno dokáže vodoznak prokázat. Ukáže totiž pouze to, že byl Claude do tvorby obsahu pravděpodobně nějak zapojen. Nedokáže však rozlišit, zda model text kompletně napsal, nebo ho jen výrazně přepsal. K uživateli ani k jeho organizaci navíc nevede žádná stopa a ve značce ani v klíči se nenacházejí žádná data, ze kterých by se dala identita zpětně dohledat. Vlastnictví ani odpovědnost za výsledný výstup se tím nijak nemění.
Otevřená zatím zůstává praktická stránka věci. Rozhraní pro ověřování vodoznaku firma teprve chystá a doladit musí i podrobnosti jeho finální podoby. U multimediálních souborů je navíc situace úplně jiná. Obrázky a další podporované formáty dostávají kryptograficky podepsanou značku v metadatech podle otevřeného standardu C2PA. Ten využívají jak výrobci fotoaparátů, tak editory fotografií, přičemž v samotném obsahu souboru se nic nemění.
Odstranit značku je přitom možné. Drobné úpravy ji sice pravděpodobně nesmažou celou, kompletní přepis, v němž nezůstane kámen na kameni, už ale ano. V takovém případě se však nabízí otázka, zda se výsledný text dá vůbec ještě považovat za dílo umělé inteligence.
Zdroje: theguardian.com a techcrunch.com
