Americká společnost Anthropic zpřístupňuje své nejvýkonnější modely umělé inteligence mnohem širšímu okruhu expertů na počítačovou bezpečnost. Firma v úterý představila přepracovaný program Cyber Verification Program, do kterého sloučila dvě dosavadní cesty k pokročilým schopnostem v kyberbezpečnosti. Ověřené bezpečnostní týmy získají přístup k modelům Claude Opus 5.5, Claude Sonnet 5.5, Claude Mythos 5.1 i ke všem budoucím verzím. Tyto modely budou mít volnější pojistky než verze pro běžné uživatele. Ti nejprověřenější experti budou smět ve spolupráci s americkou vládou zkoušet prolomit i ochranu systémů, na kterých stojí elektrické sítě, banky nebo letový provoz.
Kyberbezpečnost má však jeden zásadní háček. Stejné schopnosti, díky kterým bezpečnostní tým najde a opraví chybu v systému, může útočník zneužít. Anthropic proto u běžně dostupných modelů Opus 5.5, Fable 5.1 nebo Sonnet 5.5 nastavil přísné ochranné filtry, které většinu úkolů spojených s kyberbezpečností rovnou zablokují. Útočníkům tím chce co nejvíc ztížit práci, i když sám přiznává, že filtry občas zasáhnou i tam, kde by nemusely, například při psaní bezpečného kódu.
Obránci ale potřebují ty nejlepší nástroje, a tak jim firma poslední půlrok otevírala dveře dvěma způsoby. Projekt Glasswing v dubnu zpřístupnil model Mythos vybraným americkým vládním agenturám, finančním institucím a velkým výrobcům softwaru. Agentura Bloomberg vydání tohoto modelu označila za přelom, protože dokáže částečně zautomatizovat práci zkušených hackerů. Druhou cestou byl právě program CVP, který prověřeným bezpečnostním týmům zmírnil omezení u modelů Opus a Sonnet. Teď Anthropic obě cesty spojuje do jedné nabídky, díky které se k modelům Mythos pro specifické bezpečnostní úkoly dostanou všichni členové programu.
Tři úrovně podle toho, co kdo potřebuje
Nejširší úroveň nese název Defense Access a míří čistě na obranu. Pokrývá práci bezpečnostních dohledových center, reakce na incidenty, rozbor škodlivého softwaru nebo ověřování zranitelností. Zapojit se mohou bezpečnostní týmy firem, neziskových organizací, univerzit i státních úřadů, které chrání vlastní systémy. Na řadu přijdou i provozovatelé kritické infrastruktury bez ohledu na velikost, například krajské nemocnice nebo obecní vodárny. Úroveň je otevřená i pro menší bezpečnostní firmy, správce otevřeného softwaru a jednotlivé výzkumníky s historií nahlášených zranitelností. Anthropic očekává, že touto úrovní projde velká část zájemců, a na žádosti chce odpovídat během několika dní.
O stupeň výš stojí Red Team Access. K obranné práci přidává povolené penetrační testy, tedy řízené útoky, při kterých odborníci hledají slabá místa dřív, než je najde někdo jiný. Tato úroveň je určená interním i vládním týmům, které se na simulované útoky specializují, a firmám nabízejícím penetrační testy jako službu. Experti smějí testovat jen schválené systémy, a to i v kritických odvětvích. Filtry však i zde v reálném čase zastaví kroky, které by mohly způsobit fyzickou škodu nebo rozsáhlý výpadek. Model tak odmítne nasadit vyděračský software, poškodit fyzická zařízení nebo testovat vysoce rizikové systémy. Posouzení žádosti potrvá několik týdnů a organizace mezitím dostanou obrannou úroveň. Jednotlivci na tento stupeň zatím nedosáhnou.
Nejméně omezení nabízí Specialized Access. Je vyhrazená úzkému okruhu ověřených organizací, které smějí testovat bezpečnostní systémy s dopadem na lidské životy nebo na trhy. Jde například o letové systémy, energetické sítě, telekomunikace, infrastrukturu pro mezibankovní převody nebo správní sítě státu. Každou takovou organizaci Anthropic podrobně prověřuje společně s americkou vládou. Stávající členové projektu Glasswing do této úrovně přejdou automaticky a u současných modelů nemusí znovu žádat o schválení.
Běžně dostupné modely přitom lidé mohou dál používat na kontrolu kódu, opravy známých chyb, hledání zranitelností ve vlastním zdrojovém kódu nebo třídění bezpečnostních upozornění. Organizace v programu musí počítat s tím, že Anthropic bude jejich data uchovávat kvůli kontrole případného zneužití. Ještě letos na podzim chce firma spustit řešení Enterprise Frontier Safeguards, které spojí ochranu soukromí s bezpečnostními pojistkami a organizacím dovolí ukládat data ve vlastním cloudu.
Test ukázal, kde filtry zaberou
Aby si ověřil funkčnost nastavení, otestoval Anthropic model Claude Opus 5.5 v systému CyScenarioBench. Tento test zjišťuje, zda model zvládne naplánovat a provést vícekrokovou kybernetickou operaci za realistických podmínek. Každou z deseti úloh model zkoušel pětkrát na každé úrovni přístupu.
Bez programu CVP filtry zablokovaly všechny úlohy hned po prvním zadání. Na obranné úrovni skončilo zablokováním 46 z 50 pokusů a projít se podařilo jen čtyřem. U penetračních testerů naopak model nenarazil na žádnou blokaci a úspěšně dokončil 34 z 50 úloh. To odpovídá zhruba 68procentní úspěšnosti, které model dosahuje úplně bez ochranných filtrů na nejvyšší úrovni přístupu. Firma z toho vyvozuje, že dokáže pokročilé schopnosti bezpečně zpřístupnit mnohem širšímu okruhu obránců, a filtry pro jednotlivé úrovně plánuje postupně dolaďovat.
Desítky tisíc chyb, které by jinak zůstaly skryté
Jak velký rozdíl tyto modely v praxi dělají, ukazují výsledky projektu Glasswing. Partneři s pomocí modelů Mythos odhalili mezi dubnem a červencem téměř 130 tisíc ověřených zranitelností v softwaru. Anthropic sám při prověřování otevřeného softwaru našel od dubna do října dalších zhruba pět a půl tisíce chyb. Více než 33 tisíc z nich dostalo hodnocení vysoké nebo kritické závažnosti.
Společnost upozorňuje, že čísla vycházejí jen z dotazníků části partnerů a skutečný dopad odhaduje nejméně na pětinásobek. Organizace navíc chyby třídily různými způsoby a méně než polovina z nich uvedla, kolik děr již opravila, často proto, že na opravách teprve pracují. Několik partnerů Anthropicu potvrdilo, že by jim hledání stejného množství chyb bez modelů Mythos trvalo o měsíce, v některých případech i o roky déle.
Silné nástroje, rostoucí obavy
Rozšíření přichází v době, kdy kolem schopností umělé inteligence v kyberbezpečnosti sílí nervozita. Podle Bloombergu se v posledních měsících objevila série případů, kdy modely Anthropicu a OpenAI nechtěně pronikly do systémů vlád, firem i neziskových organizací. Šéf banky JPMorgan Chase Jamie Dimon v úterý v televizi Bloomberg prohlásil, že Mythos zvýšil kybernetická rizika ve světě desetkrát.
Do hry vstupuje i Washington. Americká vláda v srpnu oznámila, že bude spolupracovat se soukromými firmami na kybernetických útocích v zahraničí. Rozšířila tím okruh bezpečnostních operací, které až dosud prováděly hlavně státní agentury. Úzká spolupráce s vládou při prověřování organizací na nejvyšší úrovni přístupu proto u Anthropicu není překvapením.
Zájemci se mohou hlásit přes portál společnosti. Anthropic všechny žadatele ověří a bude po nich požadovat doložení bezpečnostních opatření, která daná úroveň vyžaduje. Stávající členové programu si ponechají nastavení u starších modelů a o jejich přístupu k Opusu 5.5, Sonnetu 5.5 a Mythosu 5.1 firma rozhodne sama. Program běží na platformě Claude, ve službě Vertex AI od Googlu a v Microsoft Foundry. Zákazníci Amazon Bedrock se do něj dostanou jen tehdy, pokud splní podmínky pro Enterprise Frontier Safeguards. Kdo narazí na blokaci u práce, kterou by jeho úroveň měla povolovat, může ji firmě nahlásit přes speciální formulář.
Zdroje: anthropic.com, reuters.com a finance.yahoo.com
