Elon Musk si představuje Grokipedii jako dokonalý památník lidského vědění, něco tak úplného a pravdivého, že by to šlo vytesat do kamene a uložit do vesmíru. Ve skutečnosti je to ale pořádný zmatek, a teď, když může kdokoli navrhovat úpravy, se situace ještě zhoršuje. Grokipedia, kterou vytvořila společnost xAI, je uměle generovaná verze Wikipedie s anti-woke přístupem, ale výsledky jsou zatím chaotické a plné chyb.
Původně, když Grokipedia v říjnu startovala, měla zhruba 800 000 článků napsaných Grokem a všechno bylo zamknuté proti úpravám. Tehdy už to vypadalo špatně – články byly rasistické, transfobní, přehnaně lichotivé k Muskově osobě a místy přímo okopírované z Wikipedie. Ale aspoň to bylo předvídatelné. Pak přišla verze 0.2, kdy Musk otevřel dveře pro návrhy úprav od kohokoli.
Jak fungují návrhy úprav na Grokipedii
Navrhnout úpravu je snadné, tak snadné, že stránka ani nepotřebuje návod. Stačí označit text, kliknout na tlačítko „Suggest Edit“ a vyplnit formulář se shrnutím změny, případně navrhnout nový obsah a přidat zdroje. O schválení rozhoduje Grok, chatbot od xAI, který je známý svými problémy a uctíváním Muska. Grok nejen posuzuje návrhy, ale i sám provádí změny na stránkách. Na Wikipedii většina úprav nepotřebuje schválení, ale tam hlídá komunita lidských editorů stránku s nedávnými změnami.
Není ale jasné, jaké změny Grok vlastně dělá. Systém je matoucí a málo průhledný. Grokipedia uvádí, že schválila už „22 319“ úprav, ale není možné vidět, jaké to byly, na kterých stránkách se staly nebo kdo je navrhl. To je velký rozdíl oproti Wikipedii, kde lze protřídit editační záznamy podle stránek, uživatelů nebo IP adres anonymních přispěvatelů. Možná hodně těch úprav jen přidává interní odkazy na jiné stránky Grokipedie, ale to je jen odhad z prohlížení několika článků.
Na domovské stránce Grokipedie je malý panel pod vyhledávačem, který ukazuje pět nebo tak nedávných aktualizací na rotaci. Ty jen uvádějí název článku a že byla schválena nějaká neurčená úprava. Nic víc. Obsah je závislý na tom, co si uživatelé vymyslí, takže se tam míchají divné věci – často stránky o Elonu Muskovi nebo náboženská témata, proložené seriály jako Friends nebo The Traitors UK a dokonce návrhy na přidání informací o potenciálních zdravotních výhodách velbloudí moči.
Problémy s konzistencí
Na Wikipedii existuje jasná časová osa úprav s detaily, kdo co udělal a proč s chatovými záznamy pro sporné záležitosti. Jsou tam i podrobné směrnice pro styl, zdroje a procesy, také lze porovnávat verze stránek, aby člověk viděl co se přesně změnilo. Grokipedia žádné takové směrnice nemá – a to se projevuje, mnoho návrhů je nesourodý zmatek. Má sice editační záznam, ale ten je noční můra. Ukazuje jen časovou značku, návrh a Grokovo rozhodnutí s často složitým odůvodněním generovaným umělou inteligencí. Musí se procházet ručně v malém vyskakovacím okně bez možnosti přeskakovat nebo třídit. Je to frustrující i při malém počtu úprav a při větším by to bylo nepoužitelné. Navíc to neukazuje, kde se změny skutečně provedly.
Grok jako editor není konzistentní. To vede k matoucímu čtení a záznamy odhalují chybějící pravidla pro navrhovatele. Například na biografické stránce Elona Muska je spousta návrhů o jeho dceři Vivian, která je transgender. Lidé navrhují používat její jméno a zájmena podle její genderové identity i ta přiřazená při narození. Protože Grok upravuje postupně, na stránce zůstává matoucí směs obojího a je skoro nemožné sledovat, co se přesně stalo.
Snadné riziko zneužití
Jako chatbot je Grok ovlivnitelný přesvědčováním. Na Muskově stránce jeden uživatel navrhl ověřit pravdivost citátu o pádu Říma spojeném s nízkou porodností s tím, že „veracity of this statement should be verified“. Grok to odmítl jako zbytečné v dlouhém vysvětlení. Ale podobný návrh s jiným formulováním Grok přijal a přidal informace, které předtím označil za nepotřebné. Není těžké si představit, jak by někdo mohl formulace upravovat, aby úpravy prošly.
Na Wikipedii tohle technicky jde taky, ale tam je armáda dobrovolných administrátorů, vybraných po revizi nebo volbách, kteří hlídají standardy. Blokují účty nebo IP adresy a zamykají stránky při vandalismu nebo editačních válkách. Grokipedia nic takového nemá, takže je vydaná na milost náhodným lidem a chatbotu, který se jednou nazval MechaHitler. To se projevilo na stránkách o druhé světové válce a Hitlerovi – opakované (odmítnuté) návrhy přidat, že byl Hitler malířem nebo snížit počet obětí holocaustu pod skutečné číslo. Na Wikipedii jsou tyto stránky „protected“, tedy chráněné, aby je mohli upravovat jen určití uživatelé, s detailními záznamy o důvodech. Pokud by systém Grokipedie byl snadnější na navigaci, našlo by se víc příkladů.
Takové stránky jsou zřejmým cílem pro zneužití a není divu, že patří mezi první napadené. Nebudou poslední a s chaotickým systémem úprav a omezenými bezpečnostními prvky Groka se brzy může stát těžké rozlišit, co je vandalismus a co ne. V tomhle tempu Grokipedia nevypadá na cestu k hvězdám, ale spíš na pád do bažiny plné nesrozumitelných dezinformací.
Zdroj: theverge.com
