AI a kyberútoky: varování bezpečnostních služeb

Five Eyes je bezpečnostní aliance pěti anglicky mluvících zemí, kterými jsou USA, Velké Británie, Kanady, Austrálie a Nového Zélandu. Tato aliance si od druhé světové války vyměňuje zpravodajské informace o hrozbách národní bezpečnosti. Zpráva, kterou vydali začátkem léta naznačuje, že se v horizontu následujících měsíců stane něco špatného.

Už během následujících měsíců budou pokročilé modely umělé inteligence schopné provádět masivní kybernetické útoky na vlády a firmy po celém světě. Tyto útoky by mohly rozdrtit obranu, na kterou se státy a korporace spoléhají. Zprávu podepsali šéfové bezpečnostních služeb ze zmíněných zemí. Kdy jste naposledy viděli, aby se tito lidé hlasitě ozývali veřejně?

Vše změnil Mythos

Vše začalo u společnosti Anthropic a jejího modelu Mythos. Nikdo mimo organizaci Anthropicu přesně nevěděl, co všechno umí. Mythos dokázal hledat bezpečnostní chyby s takovou přesností, že se to líbilo všem technologům, kterých se ptali.

Společnost sama o sobě tvrdila, že model je schopný být pohodlný a spolehlivý. Ale něco se stalo. Trump si vzal na vědomí, co se kolem Mythosu děje, a vydal před časem rozkaz. Anthropic musí zamezit cizincům v přístupu ke svým nejmodernějším nástrojům včetně modelu Fable 5, který je údajně přátelštější verzí Mythosu.

Když se bezpečnostní služby tří kontinentů shodnou na veřejném prohlášení, měli byste zpozornět. Aliance Five Eyes varuje: přelomové modely umělé inteligence budou překonávat očekávání branže. Nemluvíme přitom o horizontu let, ale pouhých měsíců.

Co to konkrétně znamená? Modely, se kterými si teď hrajeme v chatu, by mohly být brzy schopné dělat věci, které dnes existují jen v představách filmařů. Dokážou hledat chyby v počítačových sítích a následně je zneužít. A jak čas plyne, budou to dělat stále rychleji a s menší chybovostí.

Experti z oblasti bezpečnosti varují, že AI snižuje zábrany pro ty, kteří mají špatné úmysly. Kdysi trvalo měsíce, než hackeři využili nově odhalené bezpečnostní chyby. Teď už to trvá dny a dokonce hodiny.

Největší nebezpečí je v malých firmách

Nikdo sice nemluví o svých největších obavách otevřeně, ale panuje zde obrovská asymetrie. Velké korporace, které mají na bezpečnost vyčleněné miliony, se už přichystávají. Jejich týmy čtou varování od aliance Five Eyes a okamžitě jednají. Nakupují nové nástroje a zesilují obranu kolem svých dat. Ale co ty ostatní?

Malé a střední podniky, které zatím kybernetickou ochranu příliš neřešily? Ty budou hlavní obětí. Podle Olivie Shen, expertky na národní bezpečnost a AI z australské univerzity, je situace jasná: tam, kde velké společnosti budují nedobytné pevnosti, malé firmy fungují jako snadný cíl. „Ty podniky, které bezpečnost doteď podfinancovávaly, budou v podstatě bezbranné,“ říká Shen. Tato Australanka sleduje oblast dlouhodobě a dobře ví, co se v debatách mezi vládami odehrává.

Five Eyes žádají to, co by mělo být naprostou normou: omezit nepotřebná připojení počítačů k internetu, zrychlit opravy chyb v softwaru, vyměnit zastaralé zranitelné systémy, zvýšit kontrolu přístupu k důležitým serverům a simulovat reálné útoky v praxi.

To zní jednoduše. Ale věřte nebo ne, spousta organizací tohle nedělá. Některé s tím vůbec nezačaly.

Bezpečnostní služby ale upozorňují ještě na jednu věc: AI sama o sobě není problém. AI je také řešení. Firmy, které dokážou své obranné systémy integrovat s umělou inteligencí, uvidí chyby dříve. Budou lépe monitorovat podezřelou aktivitu a reagovat podstatně rychleji.

„Útočníci už AI používají,“ varují agentury. „A my jsme si jisti, že karta se brzy obrátí.“

Politika a realita se srazily v jednom bodě

Když Trumpova administrativa vydala svůj rozkaz vůči Anthropicu, věděla, co dělá. Nebo alespoň věřila, že to ví. Bezpečnostní komunita jí jasně řekla, že riziko je příliš velké a že modely Mythos a Fable nesmí padnout do rukou cizinců.

Experti jako Shen si však uvědomují, jak křehká tato situace je. Pokud si myslíme, že Anthropic je jediný, kdo tyto technologie vyvíjí, jde o naivní představu. Čína či Rusko mohou tajně vyvíjet stejně pokročilé modely umělé inteligence, aniž by o tom lidstvo vědělo.

„Musíme počítat s tím, že další Mythos nebo Fable jsou už na obzoru,“ upozorňuje Shen. „To, co vidíme, jsou jen modely, které už byly veřejně vydány. Ostatní mohou existovat v utajení a my o nich víme, že je jen tak nenajdeme.“

Americké bezpečnostní agentury proto změnily pravidla pro federální úřady. Ty mají nově pouhých 72 hodin na nápravu kritických chyb v počítačové síti. To je drastická změna oproti minulosti, kdy na to měly celé měsíce.

Příprava, která se měla dělat včera

Odpojit se od internetu nemůže žádná vláda ani firma. Ale připravit se na útok? To je povinnost. Five Eyes varují, že kybernetická rizika už nejsou jen starostí IT manažerů. Stává se z nich zásadní problém pro vedení firem, ministry financí i samotné premiéry.

„Čistě technický přístup už stačit nebude,“ shodují se tajné služby. „Potřebujeme celoorganizační a celospolečensý souhlas.“ To znamená začít se chovat tak, jako by nešlo jen o počítače. Jde o strategii. Jde o byznys. Jde o přežití.

Problém je v tom, že Spojené státy zatím nemají žádný jasný a jednotný postup pro regulaci AI. Některé věci jsou zakázané, jiné se teprve navrhují. A zatímco se o legislativě diskutuje, modely se drasticky zlepšují. Každý měsíc. Možná každý týden.

Desítky vědců zabývajících se bezpečností, zakladatelů startupů a ředitelů korporací proto vydaly otevřený dopis. Žádají, aby Trump prosazoval otevřený, vědecky podložený a transparentní proces posuzování rizik AI. Bez něj totiž nebudou bezpečnostní týmy schopné včas odhalovat ani desítky let staré chyby v programech. Než je totiž stihnou najít, protivníci už budou o několik kroků napřed.

Zdroje: theguardian.com, euronews.com a cnn.com

Bezpečnostní služby varují před AI: Měsíce nás dělí od kyberútoků, které svět nezná

Vše změnil Mythos

Největší nebezpečí je v malých firmách

Politika a realita se srazily v jednom bodě

Příprava, která se měla dělat včera

Související články

Bezpečnostní služby varují před AI: Měsíce nás dělí od kyberútoků, které svět nezná

Vše změnil Mythos

Největší nebezpečí je v malých firmách

Politika a realita se srazily v jednom bodě

Příprava, která se měla dělat včera

S tvorbou obsahu pomáhá UpTier.

Související články