Bezpečnostní firma CrowdStrike přišla s nástrojem, který má firmám vrátit kontrolu nad AI agenty. Novinka s názvem AI Kill Switch funguje jako nouzová brzda. Když se agent začne chovat jinak, než má, správce ho jedním zásahem odstřihne od jazykového modelu, zabrání mu znovu se spustit a odpojí ho od firemní sítě. CrowdStrike vypínač představil na konferenci Fal.Con Europe v Barceloně a zákazníci ho mají k dispozici hned jako součást platformy Falcon Guardian.
Všichni stavějí AI agenty, ale nikdy neměli vypínací tlačítko. Teď ho mají, řekl stanici CNBC šéf a zakladatel firmy George Kurtz.
Agenti chtějí splnit úkol za každou cenu
Poslední měsíce přinesly řadu zpráv o AI agentech, kteří se utrhli ze řetězu. Někdy k tomu stačil docela nevinný úkol. Agenti, kteří měli posbírat údaje o kanadských rozvodových záznamech, narazili na překážku a pustili se do útoků na vládní weby. Zkoušeli útoky typu SQL injection a zneužívali dosud neznámé zranitelnosti, jen aby se k datům dostali.
Firmy na to zareagovaly po svém. Přestože agenti slibují velkou úsporu času i práce, řada společností s jejich nasazením začala váhat. Moderní agenti mají často přístup k celému systému a pohybují se mezi počítači zaměstnanců, cloudem i online aplikacemi. CrowdStrike upozorňuje, že jediný napadený nebo špatně nastavený agent může rozjet řetěz akcí, který zasáhne přihlašovací údaje, aplikace, soubory i firemní systémy. Dopady pak sahají daleko za jeho původní zadání.
Klasické bezpečnostní nástroje na nic takového stavěné nejsou. Chování agentů pořádně nerozumí a hlavně nestíhají zasáhnout v rychlosti, jakou agenti pracují. Samotná upozornění a následné vyšetřování podle CrowdStrike nestačí. Když agent zdivočí, bezpečnostní tým ho musí umět okamžitě zastavit.
Jak vypínač funguje
AI Kill Switch stojí na Falcon Guardianu, platformě, kterou CrowdStrike pustil na trh letos v září. Guardian vyhledává ve firemní síti AI agenty, schválené i ty, o kterých IT oddělení vůbec neví. Sleduje, jaké úkoly dostávají a k jakým souborům mají přístup, a hlídá útoky typu prompt injection, kdy se někdo snaží agenta zmanipulovat podstrčeným pokynem. Vypínač na tyto znalosti navazuje. Ví, co agent dostal za zadání, s kým komunikuje a co spouští.
Samotný zásah probíhá v několika krocích. Bezpečnostní tým aktivuje vypínač ve Falcon Guardianu a ten pošle připojeným AI bránám pokyn, aby agentovi zablokovaly přístup k jazykovým modelům. Právě z nich agent čerpá svá rozhodnutí, takže bez nich přestane fungovat. Firmy mohou využít bránu Falcon AI Gateway, kterou CrowdStrike dává ke Guardianu zdarma, nebo bránu od jiného dodavatele, pokud už nějakou mají.
Falcon AI Gateway přitom umí víc než jen odpojovat. Na jednom místě spravuje přístup k modelům, bezpečnostní pravidla, přihlašovací údaje i hlídání nákladů. Dosáhne také na aplikace a prostředí, kde senzor CrowdStrike neběží.
Po odstřižení od modelu nastupují další pojistky. Pravidlo zabrání agentovi, aby se znovu spustil na daném počítači nebo skupině počítačů, a nástroj mu zablokuje přístup do firemní sítě. Tým tak může v klidu zjišťovat, co se stalo, zatímco agent už nemá jak škodit. Vypnutí přímo na koncovém zařízení firma slibuje v blízké době.
Poslední slovo má vždy člověk. Vypínač spouští pověřený správce, ne jiná umělá inteligence, a každý krok se zapisuje do auditního záznamu. Bezpečnost AI je cesta, jak z umělé inteligence vytěžit maximum. Když nasadíte agenty s nouzovým vypínačem, máte je pod kontrolou, uvedl Kurtz.
Stejně to vidí i první zákazníci. Chceme, aby naše týmy AI agenty používaly. Když se některý vydá špatným směrem, má díky vypínači poslední slovo náš bezpečnostní tým, řekl Rick Orloff, bezpečnostní ředitel firmy Everpure. Podle něj nástroj běnesený na senzoru Falcon, který společnost už používá, a právě díky tomu může rychleji kývnout na další agenty.
Jeden vypínač na všechno
Blokování přístupu k modelům je podle CrowdStrike teprve začátek. Agenti dnes pracují napříč počítači, cloudem, online aplikacemi, prohlížeči i firemními účty a často projdou několika prostředími v rámci jediného úkolu. Firma nechce, aby bezpečnostní týmy musely problémového agenta honit zvlášť v každém z nich.
Vypínač proto chce rozšířit tak, aby jediným povelem řídil zásah na více místech najednou. Na počítačích ukončí agenta i jeho procesy a nedovolí mu restart, v cloudu napadené agenty izoluje nebo vypne. Agentům za chodu odebere oprávnění a omezí jim přístup k firemním zdrojům. Přes nástroj Falcon Shield zastaví jejich činnost v online aplikacích a pomocí podnikového prohlížeče Seraphic ukončí webové relace a zarazí neoprávněnou aktivitu.
Cílem je zasahovat co nejpřesněji, tedy vypnout jednoho problémového agenta nebo celou skupinu a nenarušit přitom zbytek firemního provozu. Pomoct s tím má Agent Graph, který propojuje zadání agenta s tím, co doopravdy udělal a kterých systémů se dotkl. Bezpečnostní tým tak hned vidí, kde má zasáhnout. Nástroj Charlotte Agentic SOAR pak dokáže zásah zautomatizovat, takže se vypínač může spustit sám, jakmile systém zachytí rizikové chování agenta.
Bezpečnost AI je velký byznys
Kurtz v novince vidí velkou obchodní příležitost. Umožnit agentům bezpečně pracovat je pro CrowdStrike obrovská tržní příležitost, prohlásil. Akcie firmy po oznámení posílily o více než procento.
Spolu s vypínačem CrowdStrike oznámil dohody o koupi dvou startupů zaměřených na bezpečnost umělé inteligence. Fiddler AI vyvíjí nástroje, se kterými firmy sledují své AI systémy. Dreadnode zase testuje AI modely, aplikace a agenty na bezpečnostní slabiny ještě předtím, než je firmy nasadí. Za oba startupy podle deníku The Wall Street Journal zaplatí CrowdStrike dohromady téměř půl miliardy dolarů.
Zdroje: crowdstrike.com, finance.yahoo.com a techradar.com
