Největší americké banky čelí novému problému, se kterým si zatím neví rady. V účtech svých klientů zachytily AI agenty, kteří za člověka samostatně vyřizují různé úkoly. Banky tyto nástroje nikdy neprověřily ani neschválily. Některé z nich se podle zjištění serveru Axios pokoušely dělat kroky, o které je uživatel zřejmě vůbec nežádal. Bankéři mluví o noční můře a technologie se podle nich do bankovních systémů dostává rychleji, než na ni stačí reagovat.
Do účtů je puští klienti
Na první pohled by se mohlo zdát, že jde o útok hackerů. Ve většině případů je to však jinak, protože do účtů agenty pouštějí samotní zákazníci. Svému AI asistentovi poskytnou uživatelské jméno a heslo do internetového bankovnictví, aby za ně například hlídal výdaje, platil účty nebo převáděl peníze.
Klient s takovým postupem souhlasí, jenže banka nikoliv. Pravidla většiny finančních institucí počítají s tím, že se do účtu přihlašuje pouze jeho majitel osobně. Bankám nyní nedělá největší starosti umělá inteligence vyhledávající slabá místa v jejich systémech. Mnohem více je trápí agenti, které ke svým penězům pustili samotní zákazníci.
Agent volají na infolinku
Bankéře děsí především rozsah možných úkonů, které může agent s přístupem do účtu provést. Riziko stoupá zejména tehdy, pokud mu člověk povolil nakupovat nebo přesouvat finanční prostředky. Některé banky podle zdrojů Axiosu zaznamenaly situace, kdy agenti kontaktovali zákaznické linky nebo prováděli operace, které nevypadaly jako pokyn od uživatele.
Vedení bank takové situace popisuje jako děsivé. Jeden z představitelů oboru uvedl, že banky mají velké obavy z agentů, kteří získají přístup k účtům a udělají kroky s přímým dopadem na peníze klientů.
Banky přitom často nedokážou rozlišit, zda s účtem právě pracuje člověk, nebo program. Pokud jde o program, je obtížné zjistit, zda ho klient opravdu pověřil, nebo se do účtu dostal bez povolení a vymkl se kontrole. Jeden z bankovních manažerů přiznal, že jeho instituce má problém rozeznat od sebe jednotlivé agenty i poznat, který z nich jedná se svolením uživatele. Kvůli tomu banky sahají k jednoduchému řešení v podobě blokování této technologie a ve spěchu přepisují své obchodní podmínky.
Banky jim zavírají dveře
Morgan Stanley začala agentům cizích firem bránit v přístupu na své platformy. Omezení zavádějí i JPMorgan, Bank of America a Citi, přičemž na hrozby reaguje také Wells Fargo. Mluvčí Chase, spotřebitelské divize JPMorgan, vzkázal klientům, že své přihlašovací jméno a heslo by neměli dávat nikomu. Mluvčí Morgan Stanley naopak tvrdí, že banka žádné případy neřízených AI agentů na svých platformách nezaznamenala.
Vedení velké makléřské firmy Charles Schwab bere věc velmi vážně. Šéf společnosti Richard Wurster si nechává každý den předkládat hlášení o počtu zablokovaných agentů. Firma tak chce mít pevně pod kontrolou ověřování klientů i fungování svých služeb.
Banky řeší také otázku peněz. Stále totiž není jasné, kdo ponese odpovědnost, když agent udělá chybu a klient přijde o finanční prostředky.
Dívat se můžeš, ale na nic nešahej!
Úplně zavřít dveře však banky nechtějí. Většina z nich již povolila, nebo se k tomu chystá, přístup pouze pro čtení. Agent v takovém případě uvidí zůstatek a pohyby na účtu, ale nemůže nic odeslat ani zaplatit. Podobný přístup banky běžně poskytují aplikacím na hlídání rodinného rozpočtu, jako je například americký Quicken.
Několik manažerů z oboru serveru Axios řeklo, že s agenty bude potřeba najít rozumný kompromis. Banky vědí, že klienti budou chtít tyto pomocníky používat čím dál více. Zatím je ale podle nich riziko příliš velké, než aby k nim byly vstřícné.
Na tohle peníze nestačí
Banky mají na první pohled dobrou výchozí pozici. Disponují velkými finančními prostředky a léta fungují jako kritická infrastruktura, na které stojí celá ekonomika. Podle jednoho ze zdrojů však samotné peníze tentokrát stačit nemusí. Technologie se vyvíjí tak rychle, že nová slabá místa vyplouvají na povrch za pochodu.
Banky proto investují do prevence nejhorších scénářů a zároveň se chystají na chvíli, kdy k nim přece jen dojde. Připravují krizové plány, podle kterých by dokázaly rychle zablokovat napadené účty a po vyřešení incidentu je klientům zase zpřístupnit. Inspirací jsou jim v tomto ohledu nedávné výpadky, které vyřadily velké části internetu.
Zdroje: reuters.com a techradar.com
