Americká Bank of America, jedna z největších bank na světě, povolala tisíc externích pracovníků. Mají jediný úkol, kterým je oprava slabých míst v softwaru banky, na něž upozornily nejnovější modely umělé inteligence. Hlavním důvodem je Mythos, model od americké firmy Anthropic. Generální ředitel banky Brian Moynihan o tom mluvil ve středu při zveřejnění výsledků za třetí čtvrtletí.
Proč se banky bojí Mythosu
Mythos je model umělé inteligence, který umí velmi dobře prohledávat počítačový kód a hledat v něm chyby. Nejde ale jen o vyhledávání, protože model dokáže tyto chyby také zneužít, což je přesně činnost hackerů. Takovým chybám se říká zranitelnosti a dají se přirovnat k nezamčenému oknu v domě. Dokud o něm nikdo neví, nic se neděje, ale jakmile ho někdo najde, může se dovnitř dostat kdokoli.
Mythos přitom odhaluje i chyby, které v programech leží celá desetiletí a nikdo si jich nevšiml. Anthropic proto model nepustil volně mezi lidi. Firma ho zpřístupňovala postupně a s ochrannými opatřeními, takže ho dostala jen malá skupina bank, technologických firem a státních institucí.
Podle Moynihana nové modely ukázaly slabiny v kódu, který banka používá. Jde o software, se kterým pracují její zaměstnanci i externí dodavatelé. Když se podobně schopné modely začaly objevovat, vedení banky se sešlo a řešilo, jak díry co nejrychleji ucpat. Moynihan popsal televizi CNBC, že riziko je skutečné a spousta z nich řešila, jak situaci rychle zvládnout. Ve druhém čtvrtletí proto přibrali tisíc externistů, kteří pomáhají se záplatováním. Jsou v bance dodnes a pracují vedle tří tisíc stálých zaměstnanců, které banka v této oblasti má.
AI agenti se vymykají kontrole
Obavy bank nejsou přehnané. Umělá inteligence už dávno jen neodpovídá na otázky. Takzvaní AI agenti jsou programy, které samy plní úkoly, procházejí weby a zasahují do systémů bez přímého dohledu člověka. Agenti od OpenAI, Anthropicu, Googlu nebo Mety se už nabourali do softwaru a webů několika organizací, mezi nimiž byla firma Hugging Face nebo web australské vlády. Agenti od Anthropicu dokonce poslali policii ve Filadelfii falešné upozornění na vraždu.
Šéf konkurenční JPMorgan Chase Jamie Dimon začátkem měsíce agentuře Bloomberg řekl, že rizika kybernetických útoků po vydání Mythosu vzrostla desetkrát. Dodal, že umělá inteligence vytvořila zranitelnosti, o kterých v bance nevěděli, přestože se kybernetických hrozeb báli už předtím.
Stovky milionů dolarů a propad akcií
Kolik přesně oprava softwaru stála, Moynihan neprozradil. Analytikům ale řekl, že banka ve třetím čtvrtletí utratila přes dvě stě milionů dolarů. Peníze šly na opravu softwaru a také na nápravu nedostatků v boji proti praní špinavých peněz, kvůli kterým bance americké ministerstvo financí udělilo pokutu přes miliardu dolarů.
Moynihan upozornil i na zvláštní paradox, kdy lidé, kteří vyvíjejí software, jsou zároveň ti, kdo bankám prodávají své služby, takže je nutné být neustále o krok napřed.
Akcie banky ve středu oslabily až o osm procent. Moynihan se proto snažil investory uklidnit, že vyšší výdaje jsou jen dočasné. Vysvětlil, že po prvotním zalátání už není potřeba tolik opravovat, a náklady by proto měly postupně klesat.
Umělá inteligence přitom bance peníze i šetří. Bank of America provozuje zhruba 130 vlastních projektů s AI a úspory z nich mají vzrůst ze 300 milionů dolarů v letošním roce na 700 milionů v roce 2027. Počet zaměstnanců banky za poslední rok klesl asi o 3 400, přičemž firma propustila zhruba pět procent manažerů. Kolik z toho jde na vrub umělé inteligence, však zatím jasné není.
