Umělá inteligence se v kriminálním podsvětí posunula z fáze pokusů do běžného provozu. Vyplývá to z pololetní zprávy o hrozbách od bezpečnostní společnosti Flashpoint, která zmapovala první polovinu letošního roku, i z rozboru japonské společnosti Trend Micro. Obě zjištění míří stejným směrem. Útočníci už neřeší, zda jim umělá inteligence k něčemu bude. Řeší, jak z ní získat co nejvíce za co nejméně peněz.
Vlastní modely
Analytici společnosti Flashpoint prošli téměř čtyři petabajty materiálů. Většina pochází ze specializovaných fór, šifrovaných kanálů a serverů, které patří útočníkům. Kriminální nástroje využívající umělou inteligenci se v nich objevily ve více než dvaadvaceti milionech příspěvků.
Velká část z těchto nástrojů z veřejně dostupných míst zmizela. Skupiny si totiž začaly provozovat vlastní jazykové modely s odstraněnými bezpečnostními pojistkami na infrastruktuře, kterou samy ovládají. Využívají je k vytipování obětí, psaní skriptů obcházejících antiviry, přípravě podvodných e-mailů a k tvorbě kódu zneužívajícího chyby v programech. Zvenčí je taková činnost téměř neviditelná a bezpečnostní týmy tak přišly o část přehledu, který dříve měly.
Situace se zhoršuje
Během šesti měsíců se malware zaměřený na krádeže přihlašovacích údajů dostal do 7,4 milionu počítačů po celém světě. Výsledkem bylo 1,7 miliardy odcizených hesel a dalších dat spojených s identitou uživatelů. Nejaktivnější byl škodlivý software z rodin Vidar, StealC a Lumma. Tyto programy se prodávají formou předplatného a z napadených počítačů skrytě sbírají aktivní přihlašovací tokeny z prohlížečů. Útočník s takovým tokenem pak heslo oběti vůbec nepotřebuje.
Podobně se zrychlilo zneužívání softwarových chyb. Za pololetí jich bylo zveřejněno přes jednadvacet tisíc a téměř každá pátá dorazila rovnou s funkčním kódem k jejich zneužití. U 4 015 z nich byl takový kód volně dostupný. Přes 34 procent chyb mělo hodnocení kritická nebo vysoká závažnost. Bezpečnostní týmy tak podle společnosti Flashpoint již nemohou opravy řadit pouze podle závažnosti, protože takový objem zkrátka nestihnou odbavit.
Vyděračské útoky zaznamenaly nárůst. Počet ověřených obětí stoupl o 45 procent na více než šest tisíc, z čehož přibližně 2 700 případů připadá na USA. Nejčastěji se terčem stávaly výrobní podniky, které tvořily 18 procent případů. Nejvíce obětí má na svědomí skupina Qilin s 901 útoky, za ní následují organizace Akira, 0APT, The Gentlemen a Dragon Force. Pětice největších gangů stojí za 44 procenty všech útoků.
Celkové platby výkupného v kryptoměnách klesly přibližně o osm procent na 820 milionů dolarů a podíl obětí, které zaplatily, se snížil na 28 procent, což může být historicky nejnižší hodnota. Zlevnil také samotný vstup do napadených sítí. Automatizované nástroje srazily průměrnou cenu za prodaný přístup o 69 procent na 439 dolarů.
Jailbreak jako služba
Společnost Trend Micro nahlížela na stejný jev z druhé strany, konkrétně na nabídku zboží a služeb mezi samotnými zločinci. Její výzkumný tým analyzoval služby podsvětí, vzorky škodlivého kódu i probíhající útočné kampaně z konce loňského roku. Došel k závěru, že se pozornost útočníků přesunula od experimentů ke spolehlivosti a nízké ceně.
Nejvíce je tento trend patrný u služeb obcházejících omezení komerčních chatbotů. Na fórech se stále objevují nabídky necenzurovaných nástrojů využívajících umělou inteligenci, avšak většina z nich rychle zaniká. Úspěch mají ti, kteří nestaví vlastní modely, ale dokážou spolehlivě prolomit ochranu velkých platforem. Vlastně tím parazitují na miliardových investicích komerčních firem. Společnost Trend Micro pro tento model zavádí označení jailbreak jako služba a upozorňuje, že kupující již k jeho využití nepotřebuje žádné zvláštní znalosti.
Malware a deepfake
Výzkumníci zaznamenali také první vzorky škodlivého kódu, které za chodu odesílají dotazy na jazykový model a podle odpovědi mění samy sebe. Každá nákaza tak může vypadat trochu jinak. Zatím jde spíše o náznak než o rozšířenou praxi, protože takové vzorky narážejí na řadu omezení a nikdo je nenasazuje ve velkém rozsahu. Ukazují však, jakým směrem uvažují jejich autoři. Místo aby vše zabudovali přímo do programu, využívají umělou inteligenci jako externí službu, kterou volají podle potřeby.
Nejdále postoupilo zneužívání syntetického obrazu a zvuku. Nástroje na výměnu tváře, klonování hlasu a úpravu fotografií jsou dnes levné nebo zcela zdarma, včetně aplikací, které z běžného snímku vytvoří nahou postavu. Podvodníci s jejich pomocí vydávají cizí identitu za svou, pronikají do firem, odcizují obchodní informace nebo telefonují rodinám se snahou o vydírání.
Společnost Trend Micro k tomu dodává, že se tím dostává pod tlak celá podstata ověřování identity. Firmy si budou muset promyslet způsob potvrzování komunikace a plateb, protože hlas ani obraz již samy o sobě nic nedokazují.
Zpráva společnosti Flashpoint spojuje bojové operace na Blízkém východě s nárůstem útoků sponzorovaných státy. Terčem se staly dodavatelské řetězce, banky a průmyslové řídicí systémy. Analytici v těchto kampaních objevili několik druhů destruktivního malwaru, který data nešifruje kvůli výkupnému, ale rovnou je ničí.
Obránci mají zatím navrch
David Sancho, který se ve společnosti zabývá výzkumem hrozeb, popsal výhled na letošní rok jako postupný, nikoli katastrofický. Žádný náhlý výbuch chaosu řízeného umělou inteligencí podle něj nepřijde. Očekává spíše pomalé a soustavné vylepšování nástrojů, které již existují. Právě tak se ale podsvětí stává odolným vůči zásahům policie. Bezpečnostní firmy si zatím drží výhodu v detekci, zpravodajství o hrozbách a automatickém vyšetřování incidentů. Tento náskok se však zmenšuje, protože útočníci sahají po stejné technologii systematičtěji než dříve a ochranné prvky občas zaostávají za tempem využívání umělé inteligence na druhé straně.
Zdroje: siliconangle.com a securitybrief.co.uk
