Americká firma Anthropic poslala americkým senátorům dopis, ve kterém obviňuje čínskou technologickou a obchodní společnost Alibaba z toho, že se „nestydatě" a „nezákonně" pokusila vytáhnout z jejího modelu Claude jeho schopnosti. Mělo jít o vůbec největší útok tohoto druhu, jaký kdy firma zaznamenala. Mezi 22. dubnem a 5. červnem letošního roku prý lidé spojení s Alibabou protlačili přes Clauda víc než 28,8 milionu dotazů, a to přes bezmála 25 tisíc podvodných účtů. Co přesně Anthropic tvrdí a proč to může mít dohru až v americkém Kongresu?
Dopis míří na dva členy amerického Senátu, Tima Scotta a Elizabeth Warrenovou. Anthropic v něm popisuje to, co označuje za „největší kampaň, jejímž cílem bylo nezákonně získat schopnosti Claudu, jakou jsme kdy naměřili". Za útokem mají stát lidé napojení na Alibabu a její laboratoř Alibaba Qwen.
Jak to mělo probíhat? Operátoři během šesti týdnů vygenerovali přes 28,8 milionu výměn s Claudem a využili k tomu skoro 25 tisíc falešných účtů. Tím porušili podmínky používání i přístupová omezení. Číňané se navíc neměli ke Claudu dostat jen tak. Anthropic běžně blokuje přístup čínským subjektům, a tak útočníci podle firmy sáhli po komerčních proxy službách, aby zeměpisné zámky obešli.
Vyuřití metody destilace
Možná vám pojem „destilační útok" zatím nic neříká. Funguje tak, že útočník posílá silnému modelu pečlivě připravené dotazy, sbírá jeho odpovědi a na nich pak trénuje vlastní, slabší a levnější model, který se chování toho původního přiblíží. Žák se zkrátka učí od učitele, jenže bez jeho svolení.
A právě o to tu jde. Anthropic tvrdí, že Alibaba mířila na ty nejcennější dovednosti Claudu. Konkrétně na programování, na takzvané agentní uvažování a na schopnost zvládat dlouhé a složité úkoly. Tedy přesně na to, co dělá model komerčně zajímavým. Cílem prý bylo dohnat pokročilé schopnosti Claudu, aniž by čínská firma musela vynaložit miliardy na vlastní výzkum a trénink. „Destilační útoky proměňují stovky miliard dolarů amerických investic a výzkumu v obrovskou dotaci pro naše geopolitické soupeře," napsal Anthropic v dopise.
Další podobný incident
Tohle není první obvinění svého druhu. Už v únoru Anthropic veřejně upozornil na tři čínské laboratoře, které měly Claud vytěžovat podobným způsobem. Šlo o DeepSeek, Moonshot a MiniMax. Dohromady prý vygenerovaly přes 16 milionů výměn skrze zhruba 24 tisíc falešných účtů.
Pro představu, jak se to stupňuje: operace DeepSeeku zahrnovala přes 150 tisíc výměn, Moonshot se dostal přes 3,4 milionu a MiniMax přes 13 milionů. Samotná kampaň připisovaná Alibabě tak objemem překonala všechny tři předchozí dohromady. A poprvé jde o firmu takhle velkého globálního formátu, ne o menší startup.
V dubnu Bílý dům obvinil Čínu z krádeže duševního vlastnictví amerických laboratoří v průmyslovém měřítku. Úřad pro vědeckou a technologickou politiku tehdy vydal zprávu, ve které slíbil pomáhat americkým firmám útoky odhalovat a koordinovat společnou obranu. Jenže útok připisovaný Alibabě měl přijít až potom. Anthropic proto tvrdí, že firma „ignorovala varování Trumpovy administrativy" a pokračovala dál.
Tlak na Alibabu sílí i z dalších stran. Pentagon ji přidal na svůj seznam čínských vojenských firem, což Anthropic v dopise rovněž zmínil. Alibaba se proti tomu tento týden ohradila a ministerstvo obrany zažalovala. Označení nazvala nepodloženým a tvrdí, že s armádou nemá nic společného. Spolu s ní se na seznamu objevily i další velké firmy, třeba automobilka BYD nebo technologický koncern Baidu, které jakoukoli vazbu na čínskou armádu popírají.
Co požaduje Anthropic
Anthropic v dopise nežádá peníze. Jeho výzva míří na zákonodárce. Chce, aby Kongres usnadnil sdílení informací o hrozbách mezi americkými laboratořemi, zacpal mezery, které čínským firmám umožňují dostat se k pokročilým americkým čipům, a aby potrestal ty, kdo za destilačními útoky stojí.
Firma zároveň zdůraznila, že úsilí americké vlády proti těmto útokům podporuje, včetně spolupráce se soukromým sektorem při sdílení zpravodajských informací. Podobné nálezy ostatně zveřejnily i konkurenční firmy OpenAI a Google, kterým útočníci mířili na jejich vlastní modely. Alibaba se k obvinění zatím veřejně nevyjádřila. Na žádosti novinářů o komentář nereagovala.
Zdroje: bbc.com a cnbc.com
