Na platformě Hugging Face, kam vývojáři z celého světa nahrávají modely umělé inteligence, se objevil nenápadný projekt s velkým dopadem. Autor zveřejnil soubor menší než jeden megabajt, který z čínského jazykového modelu Qwen3.8-Flash-Next odstraňuje politickou cenzuru čínské vlády. Model pak bez vytáček odpovídá na otázky o masakru na náměstí Tchien-an-men, o Tibetu, Sin-ťiangu nebo o lékaři Li Wen-liangovi, který jako jeden z prvních varoval před koronavirem.
Modely řady Qwen vyvíjí čínský technologický gigant Alibaba a patří k nejoblíbenějším volně dostupným modelům na světě. Kdokoli si je může stáhnout a spustit na vlastním počítači. Protože však vznikají v Číně, musí respektovat pravidla, která tamní úřady stanovily pro citlivá témata. V praxi to znamená, že model na nepohodlné dotazy odmítne odpovědět, předstírá, že o události nic neví, nebo zopakuje oficiální stanovisko Pekingu.
Autor projektu to změřil. Vybral 24 témat, která čínská vláda považuje za citlivá, a na každé se modelu zeptal čtyřmi různými způsoby, čínsky i anglicky, jednou přímo a jednou jako v testové otázce u zkoušky. Původní model v 58 procentech případů cenzuroval.
Jak odstranit cenzůru
Aby bylo jasné, co autor udělal, je potřeba trochu nahlédnout pod kapotu modelu. Jazykový model si při zpracování otázky vytváří vnitřní obraz toho, o čem je řeč. Tento obraz tvoří dlouhé řady čísel, které se postupně upravují ve vrstvách modelu, podobně jako když text prochází několika patry kanceláří a každé patro k němu něco připíše. Ukazuje se, že určité chování modelu, třeba sklon odmítnout odpověď, se v těchto číslech projevuje jako konkrétní směr.
Autor tento směr hledal chytře. Připravil 30 dvojic otázek, kde vždy postavil citlivou čínskou událost vedle podobné události odjinud. Ptal se třeba na čínskou kampaň proti pravičákům z roku 1957 a vedle toho na Stalinovy čistky, nebo na čínského disidenta Wej Ťing-šenga a sovětského disidenta Andreje Sacharova. Otázky zněly stejně, lišilo se jen to, zda se týkaly Číny. Pak zaznamenal, co se v modelu děje přesně ve chvíli, kdy se chystá začít odpovídat.
Rozdíl mezi čínskými a nečínskými otázkami ukázal právě onen směr cenzury. Při běžném používání pak stačí tuto složku z vnitřních výpočtů modelu průběžně odečítat. Model tak vlastně ztratí schopnost poznat, že se blíží k zakázanému tématu, a odpovídá jako na jakoukoli jinou historickou otázku.
Velkou výhodou je, že se původní model vůbec nemění. Nikdo ho nemusí znovu trénovat, což by stálo hodně peněz i výpočetního výkonu. Soubor se k modelu přidává až při spuštění a lze ho zapnout nebo vypnout u každého dotazu zvlášť.
Výsledky
S odečítáním klesl podíl cenzurovaných odpovědí z 58 procent na pouhá 2 procenta. Vyvážených a přesných odpovědí, které navíc upozorní na rozporuplné důkazy, přibylo z 11 na 56 procent.
Autor si dal pozor také na to, aby model nesklouzl do opačného extrému. Odpovědi nakloněné čínské vládě zůstaly na 20 procentech, odpovědi kritické k vládě vzrostly z 6 na 18 procent. Obě strany se tak zhruba vyrovnaly. Podle autora úprava model nikam netlačí, jen mu bere jednu konkrétní brzdu.
Stejně podstatné je, že úprava modelu nepokazila jiné dovednosti. V testech programování, matematických slovních úloh i všeobecných znalostí dosáhl upravený model prakticky stejných výsledků jako původní verze, přičemž rozdíly činily jednu správnou odpověď sem nebo tam. Bez problému zvládl i čínská témata, která citlivá nejsou, a dokonce generoval text nepatrně rychleji.
V čem úprava zaostává
Autor nic nepřikrášluje a otevřeně vypisuje slabiny. Na krátkou čínsky položenou otázku o 4. červnu 1989 model občas stále odpoví vyhýbavě. U hnutí Fa-lun-kung, Velkého čínského hladomoru nebo Sin-ťiangu sice odpovídá, ale čísla a detaily někdy přehání. Úprava totiž modelu nepřidává žádné nové znalosti, jen odstraňuje zábrany. Co se model nenaučil, to správně neřekne.
Hodnocení odpovědí navíc prováděl model Claude od americké firmy Anthropic, který je porovnával s referenčními odpověďmi, jež sám předtím napsal. Výběr témat podle autora odpovídá spíše tomu, čemu se věnují západní média. Úprava se také týká výhradně politické cenzury spojené s Čínou, ostatní bezpečnostní pojistky modelu autor nezkoumal ani neměnil.
Projekt zatím na platformě Hugging Face sbírá desítky lajků a za poslední měsíc si ho stáhlo přes sto lidí. Spolehlivě funguje jen s programem Strata, na kterém ho autor sám používá. Běžně rozšířený nástroj llama.cpp totiž zmíněný směr k modelu přičítá, místo aby ho odečítal, takže výsledky by vyšly úplně jinak. Kdo by chtěl metodu přenést jinam, má si podle autora nejdříve sám ověřit, zda cenzura opravdu zmizela.
