Vše začalo jako uvedení nových AI modelů firmy Anthropic, která stojí za chatbotem Claude. Představenými modely byly Fable 5 a Mythos 5 a pyšnily se statusem doposud nejsilnějších AI modelů této společnosti. Jenže během pár dní se z celé věci stala velká kauza, do které se zapojila nejen americká vláda, ale také Národní bezpečnostní agentura (NSA).
Co se vlastně stalo
Anthropic spustil Fable 5 a Mythos 5 již na začátku minulého měsíce. Hned o tři dny později však podle společnosti Anthropic našli výzkumníci z Amazonu způsob, jak obejít ochrany prvního zmíněného modelu. To vedlo ke zjištění, že tento model dokázal pomáhat s hledáním slabých míst softwaru.
Nešlo však jen o to, že nový AI model dokáže pomáhat s odhalováním citlivých míst, ale především o riziko, že se z něj stane nebezpečný nástroj v rukou někoho, kdo chce na systém zaútočit.
A to zdaleka není vše. Podle zpráv dokázal i druhý AI model Mythos během několika málo hodin proniknout do téměř všech klasifikovaných systémů NSA. Toto tvrzení zaznělo během senátního slyšení a následně o něm informoval deník The Economist.
Okamžité vypnutí modelů
Americká vláda podle dostupných informací nechtěla riskovat, že se tyto schopnosti dostanou k lidem nebo organizacím mimo schválený okruh. Administrativa proto nařídila Anthropicu, aby přístup k modelům Fable 5 a Mythos 5 omezil výhradně na občany USA. Jenže ověřovat občanství u každého uživatele v reálném čase nebylo možné, takže Anthropic zvolil jiné řešení a oba modely globálně vypnul.
Agentura AP následně uvedla, že Fable 5 byl po úpravách znovu zpřístupněn. Mythos 5 ale zůstal dostupný jen vybraným americkým organizacím schváleným vládou.
Mythos a NSA
Podle deníku The Economist měl senátor Mark Warner během slyšení uvést, že podle šéfa NSA pronikl Mythos do téměř všech klasifikovaných systémů během pár hodin, což působilo mimořádně znepokojivě. Jenže k celé kauze chyběly detaily a nebylo proto zřejmé, zda šlo o test v kontrolovaném prostředí, interní prověrku nebo něco jiného. O to překvapivější bylo následné radikální řešení v podobě vypnutí modelů.
Reakce Anthropicu
Anthropic uvedl, že spolu s vládou a Amazonem připravil nové bezpečnostní opatření. Konkrétně jde o klasifikátor, který má rozpoznat podezřelé požadavky a blokovat útoky ve více než 99 % případů.
Firma zároveň oznámila užší spolupráci s americkou vládou a dalšími velkými hráči, včetně Amazonu, Microsoftu a Googlu. Cílem má být lepší testování modelů ještě před spuštěním a sjednocení standardů pro posuzování podobných útoků.
AI jako dobrý sluha, ale špatný pán
Pokusy obejít bezpečnostní pravidla AI modelů jsou naprosto běžné. Říká se jim jailbreaky a výzkumníci je testují neustále. O to víc je překvapivá rychlá a tvrdá reakce vlády, která vedla k omezení přístupu k čerstvě spuštěným modelům.
Celá kauza zkrátka ukazuje, jakým směrem se trend AI v kyberbezpečnosti ubírá. Umělá inteligence už totiž není jen chytrý pomocník, který kontroluje kód a usnadňuje práci. Pro mnoho států se ty nejvýkonnější modely stávají strategickým nástrojem. Ty však nemusí pouze chránit systémy, ale ve špatných rukou se mohou stát nebezpečnou vstupenkou dovnitř.
A právě proto Mythos a Fable nejsou jen další názvy v dlouhém seznamu AI novinek. Jsou připomínkou, že čím schopnější modely vznikají, tím víc se bude řešit nejen to, co umí, ale hlavně kdo k nim má mít přístup.
Zdroj: Security Affairs, The Economist, Anthropic, AP News, TechSpot
