Víc než dvacítka amerických technologických firem poslal do Washingtonu jednu jasnou zprávu: ruce pryč od otevřených AI modelů. Dopis s názvem Open Weights and American AI Leadership podepsaly Nvidia, Microsoft, Meta, Palantir, IBM, Dell, Mistral, Mozilla, Hugging Face nebo Linux Foundation. Firmy v dpise varují před předčasnými zákazy, které by podle nich potlačily konkurenci a vyhnaly vývoj za hranice Spojených států. A rovnou vypisují, co by americká vláda měla dělat místo toho.
Co předcházelo dopisu
Kdyby se stejný text objevil v květnu, nejspíš by si ho nikdo nevšiml. Časovou souvislost mu dal 16. červenec, kdy pekingská Moonshot AI vypustila model Kimi K3. Ten se v několika testech dostal před americkou konkurenci a hlavně: jde o model s volně dostupnými vahami, takže si ho může kdokoli stáhnout a spustit na vlastních serverech. Ve Washingtonu se tím spustil debata, jestli by se přístup k čínským modelům neměl v Americe omezit.
Ministr financí Scott Bessent v následujícím týdnu oznámil, že se administrativa podívá na to, jestli si čínské firmy nekradou americké duševní vlastnictví. O den později přišel poradce Bílého domu Michael Kratsios s konkrétním obviněním: Moonshot podle něj Kimi K3 postavila destilací technologie od Anthropicu. Destilace znamená, že menší a slabší model se trénuje na výstupech většího a schopnějšího, čímž se do něj přelijí jeho dovednosti. Kratsios připustil, že tahle metoda má v otevřeném vývoji svoje legitimní místo, ale rozsáhlé a skryté průmyslové kopírování americké technologie označil za nepřijatelné.
Takže firmy tento dopis sepsaly v momentě, kdy se ve Washingtonu objevily tři možná opatření: omezit přístup k čínským modelům, sáhnout na samotnou techniku destilace a zavést vývozní kontroly na váhy modelů.
Čeho se firmy bojí
Signatáři pojmenovali dvě obavy, které jdou vedle sebe.
První je plošný zákaz nebo tvrdé omezení otevřených modelů. Podle dopisu by takový krok rozdrolil konkurenci, soustředil nejsilnější AI do rukou několika málo poskytovatelů a vývoj by se prostě přesunul jinam, mimo Americku. Autoři argumentují analogií s osmdesátými lety, kdy panovala představa, že software se posune dopředu jen tehdy, když si firmy budou pevně držet vlastní kód. Otevřené hnutí to obrátilo a dnes na jeho výsledcích stojí většina internetu, systémy největších technologických korporací i americká armáda a federální úřady, které řeší vědecký výzkum a kybernetickou bezpečnost.
Druhá obava je konkrétnější a týká se právě destilace. Firmy se bojí, že se Washington v zápalu ochrany amerického know-how rozmáchne a zakáže postup, na kterém stojí běžný vývoj. Trénování jednoho modelu na výstupech druhého se používá k vylepšování, testování i ověřování a podle dopisu jde o pokračování tradice, kdy se technologie staví na tom, co už někdo vymyslel. Nezákonné vytahování hodnoty ze zavřených modelů je podle signatářů legitimní problém, jenže patří k soudu a do obchodních smluv, ne do širokého zákazu celé metody.
Jak by se měla vláda zachovat
Firmy žádají, aby stát rozšířil přístup k výpočetnímu výkonu pro startupy a akademické výzkumníky. Chtějí veřejné investice do společně dostupných tréninkových prostředků, tedy datových sad, nástrojů a metodik pro hodnocení modelů, na kterých by mohl stavět kdokoli. A chtějí, aby si Amerika udržela na špičce víc modelů od víc firem, takže žádné omezování otevřených modelů dřív, než k tomu bude doložený důvod. Zmiňují i to, že stejnou pozornost si zaslouží aplikační vrstva nad modely, protože právě tam se AI dostává k firmám, školám a nemocnicím.
Poslední požadavek míří přímo na destilační spor: úřady by neměly zaměňovat legitimní vývojové postupy s krádeží. Kde jde o skutečné neoprávněné vytěžování zavřených modelů, mají se použít cílené právní a komerční nástroje.
Rizika otevřených vah signatáři připouštějí. Píšou přímo, že jakmile jsou váhy venku, autor nad nimi ztrácí kontrolu a upravené verze se dají těžko dohledat nebo vzít zpět.
Odpověď na to ale podle nich není zákaz. Když útočníci používají pokročilou AI, obránci potřebují modely srovnatelných schopností, aby dokázali hrozby odhalit, nasimulovat a reagovat na ně. Spoléhat se výhradně na zavřené modely není samo sebou bezpečné, protože i ty se dají prolomit, zneužít nebo mohou selhat způsobem, který zvenčí nikdo neuvidí. Soustředění nejsilnějších schopností za několik zavřených rozhraní podle dopisu vytváří pár míst, jejichž porucha ochromí zbytek. Otevřené modely naopak dovolí velké skupině výzkumníků prohlédnout si chování systému, najít slabá místa a postavit proti nim ochranu. Ochrany se pak podle autorů mají vázat na skutečně předvedené škody, ne na předpoklad, že zavřený systém je bezpečnější už z principu.
Kdo se podepsal a kdo ne
Text zveřejnil ředitel Nvidie Jensen Huang, a to jako svůj vůbec první příspěvek na síti X. Napsal, že AI promění každé odvětví, pohání každou firmu a bude ji stavět každá země, a že otevřené modely posilují bezpečnost, zrychlují šíření technologie a umožňují svrchovanost. Svět podle něj potřebuje jak špičkové zavřené, tak špičkové otevřené modely. Šéf Microsoftu Satya Nadella postavil svoje sdělení na stejnou notu ještě týž den.
Původní seznam pod dopisem měl pětadvacet jmen a nebyl na něm nikdo, kdo prodává přístup k zavřenému špičkovému modelu. Chyběly OpenAI, Anthropic a Google. Prezident OpenAI Greg Brockman ve čtvrtek řekl, že se žádných rozhovorů v Bílém domě o omezení přístupu k čínským otevřeným modelům neúčastnil, a dodal, že používání AI je podle něj potřeba demokratizovat.
Ve verzi, kterou Nvidia mezitím vystavila na svých stránkách, se seznam podepsaných rozrostl na několik desítek jmen a přibyly na něj mimo jiné OpenAI, Google, AMD, Cisco, Cloudflare, GitHub, Scale, Vercel nebo SpaceX. Anthropic, jehož modely stojí v centru destilačního obvinění, mezi nimi pořád není.
Na seznamu jsou i peníze. Andreessen Horowitz a Y Combinator, tedy dvě z nejvlivnějších adres v Silicon Valley, podepsaly hned v první vlně, spolu s fondy Emergence Capital, Unusual Ventures a Atreides Management. Jejich portfolia jsou plná firem, které staví produkty nad stahovatelnými modely, takže případný zákaz by se jim promítl do rozvah rychleji než komukoli jinému.
Zdroje: cnbc.com, businessinsider.com a theinformation.com
