V pátek večer dostal Dario Amodei dopis, který během několika hodin srazil dva nejvýkonnější modely jeho firmy. Ministr obchodu Howard Lutnick napsal šéfovi Anthropicu, že modely Mythos 5 a Fable 5 spadají pod exportní kontroly, a to pro kohokoli mimo území USA i pro každého cizince uvnitř země. Anthropic neměl jak v reálném čase odfiltrovat cizí státní příslušníky od amerických uživatelů. Tak úplně vypnul oba modely pro všechny. Od spuštění modelů po jejich vypnutí uběhly jen tři dny.
Dosud nejpokročilejší modely
Devátého června představila firma dvojici modelů. Fable 5 byla veřejná verze, kterou si mohl zapnout kdokoli s placeným tarifem. Mythos 5 byl ten samý model, jen bez omezení výkonu a bezpečnosti, a dostala ho jen hrstka prověřených partnerů z bezpečnostní oblasti a vybraní biologové přes program Project Glasswing.
Rozdíl mezi nimi netkvěl v inteligenci, ale v zábranách. Fable posílal citlivé dotazy z oblastí kyberbezpečnosti, biologie a chemie na slabší model Opus 4.8 a uživatelé na to upozorňovali. Anthropic se totiž obával, že schopnost Mythosu hledat díry v kódu je až moc dobrá. Firma sama uváděla, že model našel tisíce dosud neznámých zranitelností ve všech velkých operačních systémech i prohlížečích. Některé z nich přežily desítky let lidských kontrol. Právě tahle účinnost modelu se firmě vrátila jako bumerang.
Spouštěč přišel zvenčí. Podle tamních médií se Ministerstvo obchodu rozhoupalo k akci poté, co jiná firma tvrdila, že Mythos prolomila. Tomu se říká jailbreak, tedy způsob, jak obejít vestavěné pojistky a dostat z modelu odpovědi, které by jinak odmítl. Úředníky to vyděsilo natolik, že začali jednat. Administrativa se prý nejdřív snažila Anthropic přimět, aby start modelů odložil. Firma odmítla a následoval ten dopis.
Anthropic se ohradil rychle a ostře. Tvrdí, že vláda mu předala jen „ústní důkaz o možném průlomu obrany modelu". Firma si techniku prohlédla a podle ní odhalila jen pár dávno známých a navíc drobných zranitelností. Stejné chyby prý najdou i jiné veřejně dostupné modely, a to bez jakéhokoli obcházení pojistek. Anthropic rovnou jmenoval GPT-5.5 od OpenAI jako srovnatelný příklad.
„Nesouhlasíme s tím, že nález úzkého potenciálního jailbreaku by měl být důvodem ke stažení komerčního modelu nasazeného pro stovky milionů lidí," napsala firma. A přidala varování. Kdyby se tenhle metr nasadil na celé odvětví, tak by se podle Anthropicu prakticky zastavilo vypouštění jakýchkoli nových modelů.
Verze událostí se přitom liší podle toho, koho posloucháte. David Sacks, někdejší poradce Bílého domu pro AI, to vykreslil jinak. Tvrdil, že vláda dostala varování o možnosti prolomit Fable 5, a když na to Amodeie upozornili, firma s tím nic neudělala.
Poprvé padla exportní kontrola na samotný model
Tady se dostáváme k jádru, proč je tahle událost tak výjimečná. Spojené státy už dřív blokovaly vývoz čipů a superpočítačů, tedy hardwaru, který umělou inteligenci pohání. Obě administrativy, Trumpova i Bidenova, to dělaly u polovodičů. Ale samotný software, samotný model, to se ještě nikdy předtím nestalo.
Dopis Ministerstva obchodu zavedl licenční režim. Pro vývoz, opětovný vývoz nebo i domácí předání těchto modelů je nově potřeba povolení. A protože se omezení vztahuje i na cizince žijící v USA, dopadlo i na vlastní zaměstnance Anthropicu, kteří nemají americké občanství. Firma neměla na výběr. Aby předpisy dodržela, musela modely vypnout pro úplně každého. Přístup k ostatním modelům Anthropicu zůstal beze změny.
Na téhle situaci je něco skoro absurdního. Anthropic se dlouhodobě profiluje jako firma, která bije na poplach kvůli rizikům umělé inteligence. A právě tahle opatrnost se teď obrátila proti.
Podívejte se na tu schizofrenii. Pentagon dřív označil Anthropic za „riziko dodavatelského řetězce" a obchod s firmou utnul, protože odmítla pustit vládu ke svým modelům pro plošné domácí sledování a autonomní zbraně. Takže pro vlastní potřebu armády je Anthropic až moc nebezpečný. A teď ho Ministerstvo obchodu označuje za moc nebezpečného i pro cizince.
Mezitím se ale jiné části státního aparátu o Mythos doslova přetahují. NSA k Anthropicu vyslala zhruba půl tuctu inženýrů, aby agentuře pomohli model nasadit pro kyberoperace. Ministerstvo financí usilovalo o přístup. Federální IT šéfové si stěžovali, že je Bílý dům nechává ve štychu a nedává jim jasné pokyny, jak Mythos využít ke skenování vládních sítí.
Spor o to, kdo rozhoduje
Anthropic se zákazu podřídil, ale rozhodně se s ním nesmířil. „Věříme, že jde o nedorozumění, a pracujeme na obnovení přístupu, co nejdřív to půjde," uvedla firma a svým zákazníkům se omluvila.
Úředník administrativy prozradil, že model má zůstat zamčený, dokud se bezpečnostní aparát státu nezpevní. Prý to může být otázka pár týdnů.
Vyvstává otázka, kdo vlastně rozhoduje o tom, kdo se k nejsilnější AI dostane. Evropská komise už dřív dostala vzkaz, že o přístup k Mythosu musí žádat americkou administrativu. Jediným neamerickým subjektem s náhledem do modelu byl britský bezpečnostní institut pro AI. Washington si tak drží klíče od dveří, za kterými leží schopnosti, jaké veřejné modely zatím nenabízejí.
A Anthropic? Ten se ocitl v pozici, kdy postavil něco tak silného, že o tom, kdo to smí používat, už nerozhoduje on sám.
Zdroje: reuters.com, theguardian.com a cnn.com
