Okradli Číňané Anthropic? Experti pochybují o obviněních z Bílého domu

Vysoký představitel Bílého domu veřejně obvinil čínskou firmu Moonshot AI, že svůj nový model Kimi K3 postavila na okopírování americké umělé inteligence od Anthropicu. Poprvé tak americký činitel na této úrovni jmenoval konkrétní čínskou laboratoř i konkrétní ukradený model. Řada výzkumníků z oboru ale obratem namítá, že celé obvinění technicky nesedí.

Z čeho Washington viní Moonshot

Michael Kratsios, který v Bílém domě šéfuje Úřadu pro vědeckou a technologickou politiku a zároveň je vědeckým poradcem prezidenta Trumpa, napsal na síti X, že americká administrativa má informace o tom, že Moonshot destiloval model Fable od Anthropicu, aby z něj vytvořil svůj model K3. Podle Kratsiose si k tomu Číňané vybudovali propracovanou interní platformu na velkoplošnou destilaci amerických modelů, přičemž uměli rychle přepínat mezi různými způsoby přístupu, aby zůstali neodhalení.

Destilace je postup, při kterém se menší model učí napodobovat výstupy většího a schopnějšího modelu. Ten silnější slouží jako učitel, ten menší jako žák. Žák se přitom neučí jen z toho, co je správně a co špatně, ale sleduje i celé pravděpodobnostní rozložení odpovědí učitele, tedy třeba že určité slovo má devadesátiprocentní šanci a jiné osmiprocentní. Právě z těchto jemných rozdílů si odvodí, jak učitel „přemýšlí".

Sám Kratsios rozlišil mezi dvěma podobami téhle techniky. Běžnou destilaci, která vytváří menší a úspornější modely a je pro otevřený vývoj užitečná, označil za legitimní. Naopak rozsáhlou skrytou průmyslovou destilaci, jejímž cílem je ukrást americkou technologii a podkopat americký výzkum, popsal jako nepřijatelnou. Žádné technické podklady ani jiné důkazy k tvrzení ale nezveřejnil.

Anthropic už v únoru veřejně vinil Moonshot spolu s firmami DeepSeek a MiniMax ze systematické destilace svých modelů. Tehdy tvrdil, že vysledoval zhruba 3,4 milionu konverzací s Claudem vedoucích právě k Moonshotu, a dohromady mluvil o víc než šestnácti milionech interakcí přes zhruba 24 tisíc podvržených účtů, což mělo porušovat jeho podmínky používání a přístupová omezení pro daný region.

Zakázané čipy a obcházení sankcí

Druhá část obvinění míří na hardware. Kratsios tvrdí, že Moonshot získal servery osazené čipy Nvidia GB300 a že navíc sáhl po strojích s GB300 umístěných v Thajsku, pravděpodobně kvůli tréninku svých modelů. Tyto čipy z generace Blackwell přitom Spojené státy zakazují vyvážet do Číny.

Přituhlo i o den dřív. Ministr financí Scott Bessent varoval, že se ve spoustě čínských modelů nacházejí vodoznaky amerických jazykových modelů, a to že je nepřijatelné. Zveřejnil i ostřejší formulaci, podle které otevřený zdroj neznamená volnou ruku na americké duševní vlastnictví. Firmám, které se pustí do velkoplošných destilačních útoků, pohrozil sankcemi a zařazením na takzvaný Entity List. To by Moonshot odřízlo od amerického hardwaru, softwaru i cloudové infrastruktury, tedy podobně, jako to Washington udělal v roce 2019 s Huaweiem. Náměstek ministra zahraničí Jacob Helberg pak údajnou destilaci od Moonshotu rovnou označil za loupež nedocenitelného amerického duševního vlastnictví.

Sam Bresnick z georgetownského Centra pro bezpečnost a nové technologie připomíná, že s pokročilými čipy existuje černý trh. V květnu byl zakladatel amerického výrobce serverů Supermicro obviněn z pašování špičkových čipů do Číny. Bresnick prosazuje, aby datová centra po celém světě musela znát své zákazníky. Když firma na nejmodernějším hardwaru trénuje obří modely, měl by podle něj existovat mechanismus, který nahlásí, o koho jde a co dělá. Ministerstvo obchodu za Bidena podobná pravidla pro datová centra navrhlo už v roce 2024, za Trumpa se ale zjevně nikam neposunula.

Moonshot obvinění odmítá

Firma sama oficiálně mlčí, ozval se ale jeden z jejích lidí. Zaměstnanec Moonshotu Randy Xian na síti X kontroval časovou osou. Fable šel podle něj do světa 1. července a Kimi K3 se objevil 15. července. „Vytrénovali jsme úplně nový špičkový model za pouhých 15 DNÍ. Rekord do Guinnessovy knihy," napsal jízlivě. Připomněl také, že Fable byl navíc zhruba deset dní offline, takže mu nedávalo smysl, jak by za takový čas stihli cokoli destilovat. Podotkl ještě, že celé obvinění bere skoro jako kompliment, protože Američané tím podle něj jen dokazují, jak dobrou práci Moonshot odvedl.

Připomeňme, že Fable 5 zmizel z dostupnosti kvůli americkým vývozním omezením a k veřejnosti se vrátil právě 1. července. Kimi K3 vyšel jako otevřený model s přibližně 2,8 bilionu parametrů, tedy jako vůbec největší volně stažitelný jazykový model. Kompletní váhy má Moonshot uvolnit koncem července, což by mohlo leccos napovědět.

Experti o destilaci pochybují

A právě u té patnáctidenní mezery se láme většina odborných reakcí. Braden Hancock z Laude Institute a spoluzakladatel firmy Snorkel AI řekl TechCrunchi, že takhle silný model za tak krátkou dobu čistě z destilace nevznikne. Na tolik dat, natrénování modelu a jeho vydání během dvou týdnů nemohl být dostatek času.

Ve stejném duchu mluví i další. Elie Bakouch z Prime Intellectu upozornil, že mezi zrušením zákazu Fable 5 a vydáním Kimi K3 leží jen patnáct dní, a tvrdit, že výkon K3 pochází z destilace Fable, mu technicky nedává smysl, i kdyby k nějaké destilaci došlo. Dean Ball, který v OpenAI vede oddělení strategických plánů, také nevěří, že by se výkon modelu dal vysvětlit destilací.

Destilace ztrácí na síle, jak se čínské modely blíží špičce a jak se trénink přesouvá k posilovanému učení. Kdyby stačila samotná destilace, dohnal by prý K3 nebo model GLM úplně každý jen tím, že by využil jejich data. To se ale neděje a nestane se to jen díky dolaďování na hotových odpovědích, takzvanému supervised fine-tuningu. Přesně tímhle dolaďováním si model „osvojí způsoby" a odtud mimochodem pramení i to, že model vytvořený někým jiným občas o sobě tvrdí, že je Claude.

Napodobit schopnosti podobné Fable by podle analytiků vyžadovalo právě posilované učení, a to je úplně jiná váhová kategorie. Velké tréninky posilovaného učení potřebují desítky milionů agentů a mohutnou infrastrukturu. Kdyby to někdo chtěl provozovat přes rozhraní špičkové laboratoře, vyšlo by ho to nehorázně draho, narazil by na problém s rychlostí těch modelů a nejspíš by mu to výkon ani nezvedlo.

Destilace jako taková přitom rozhodně není čínská specialita. Elon Musk letos u soudu vypověděl, že jeho firma destilovala modely OpenAI, aby vyvinula Groka, a označil to za běžnou praxi v oboru. Hranice mezi destilací a tvorbou syntetických dat navíc bývá dost rozostřená. Hancock k tomu dodává, že Američané podceňují technickou úroveň čínských týmů. Jeden ze zakladatelů Moonshotu byl doktorandem na Carnegie Mellon, jde o skutečné výzkumníky a inženýry odvádějící solidní práci. I kdyby se americké modely zastavily, čínský pokrok by se podle něj sice zpomalil, ale nezastavil. Číňané se prý rozhodně jen nevezou.

Zdroje: businessinsider.com, hongkongfp.com a cnn.com