Ve finančním světě se za poslední rok debata o umělé inteligenci obrátila naruby. Zatímco dříve se komerční i centrální banky ptaly hlavně na to, kolik práce jim technologie ušetří a jak zvýší produktivitu, nyní řeší úplně jinou sadu otázek. Zajímá je, co se stane, když bude obchodovat stroj proti stroji, kdo dokáže odhalit neplánovanou manipulaci s trhem a jak dohlížet na finanční systém, který svým kontrolorům rozumí lépe než oni jemu.
Ucelený seznam těchto obav dostali centrální bankéři a ekonomové v srpnu 2026 na odborné konferenci Fedu v americkém Jackson Hole. Ekonom Markus Brunnermeier z Princetonu tam vystoupil s prací o umělé inteligenci ve finančním sektoru a popsal několik scénářů, ve kterých technologie může rozhodit trhy i celé bankovnictví. Shrnul to přirovnáním, které v sále rezonovalo, že tesaři staví stoly, zatímco bankéři budují důvěru. A právě důvěru a fungování institucí dokáže umělá inteligence podle něj nabourat zcela novým způsobem. Jeho vystoupení vyznělo jako naléhavá výzva, aby se úřady na tuto změnu začaly okamžitě připravovat.
Trh, který rozumí centrální bance lépe než ona sobě
Základ obav spočívá v jednoduché nerovnováze. Umělá inteligence zpracovává informace natolik lépe než člověk, že bude brzy s téměř úplnou jistotou vědět, jak bankéři rozhodnou, a to ještě dříve, než si to samotní úředníci ujasní. Podle toho si algoritmy nastaví obchodní strategii, která kroky úředníků obejde a vydělá na nich, ať už legálně, nebo za hranou pravidel. Pro tento stav profesor Brunnermeier použil pojem asymetrické porozumění.
Projevy, zápisy z jednání a celá historie centrálních bank jsou totiž ideálními trénovacími daty. Oficiální instituce se stávají pro stroje dokonale čitelnými, zatímco ony samy do světa obchodních robotů nevidí. Finanční trhy pak mohou podle Brunnermeiera nést méně informací a chovat se nevyzpytatelněji než dnes.
Odpověď, ke které by se centrální banky mohly uchýlit, by přitom sama o sobě byla škodlivá. Musely by totiž komunikovat méně jasně, čímž by popřely desítky let vývoje směrem k otevřenosti, které se přičítá nižší kolísavost trhů a jejich stabilita. Průhlednost se v tomto nastavení mění na předvídatelnost, která vyzbrojuje protistranu. Odtud pochází i Brunnermeierova úvaha o pořádání dvou tiskových konferencí, z nichž jedna by nabízela srozumitelné vyprávění pro lidi a druhá by sloužila jako trénovací data pro stroje. Sám autor však dodává, že by to problém vyřešilo jen částečně.
Manipulace, kterou nikdo nenaplánoval
Druhá obava se týká obchodních robotů, kteří mohou sladit svůj postup, aniž by spolu jakkoli komunikovali. Na méně likvidních trzích pohne cenou i malý příkaz, takže rozhoupat kurz je finančně nenáročné. Když se navíc větší množství strojů bezvýhradně shodne na stejném postupu, žádný z nich není dostatečně velký na to, aby byl označen za manipulátora. Klasické schéma, kdy aktéři uměle vyženou cenu nahoru a následně pozice odprodají, by tak proběhlo bez jediné stopy po předchozí dohodě.
Přesně tento problém znepokojuje i experty na finanční technologie. Stačí několik modelů, které sice vystupují nezávisle, ale vznikly nebo se učily na podobných základech. Rozpadá se tím dosavadní způsob práce dohledových orgánů i vyšetřovatelů, protože v takovém případě nelze doručit soudní výzvu, neexistují dohledatelná data o spiknutí a není koho obvinit.
Vypínač, který se nedá stisknout
Finanční trhy si za desítky let vypěstovaly pojistky pro chvíle, kdy dochází k extrémním výkyvům cen. Automatické přerušení obchodování dosud sloužilo k tomu, aby se zastavily bleskové pády, lidé si stihli analyzovat situaci a opatrnější investoři pomohli trh stabilizovat. Ve světě, kde většinu obchodů uzavírají stroje, by však stejná pojistka napáchala více škody než užitku.
Náhlé vypnutí systému by totiž přerušilo zajišťovací pozice v polovině procesu, spustilo lavinu výzev k dodatkovému krytí a vysálo z trhu likviditu, kterou ve velkém dodávají právě algoritmičtí tvůrci trhu. Až začne finanční svět na automatizovaném obchodování plně záviset, může být takové nouzové zastavení jen nereálným přáním. Lidští obchodníci již nedokážou algoritmy zastoupit, stejně jako by hotovost nezvládla nahradit kompletně vypnuté elektronické platby.
Když celý obor závisí na třech modelech
Další slabina vzniká v samotných základech, na kterých banky své nástroje staví. Pokud modely dodává velké množství soupeřících firem, může uživatel po zakolísání jednoho dodavatele přejít ke druhému, čímž odolnost finančního sektoru i reálné ekonomiky roste. Když se ale vývoj a komercializace této technologie soustředí do rukou jedné či dvou firem, vznikne kritické místo, přes které se ceny, podmínky i výpadky přelijí do celého systému naráz. Takoví dodavatelé si pak mohou diktovat podmínky vůči zbytku hospodářství a chyba v masově využívaném modelu zasáhne všechny uživatele ve stejný okamžik.
Odborníci tuto situaci srovnávají se závislostí bank na hlavních bankovních systémech a poskytovatelích cloudových služeb. Závislost celého odvětví na méně než třech modelech by však byla výrazně riskantnější, protože případná chyba by zasáhla všechny instituce ve stejné sekundě a v současnosti pro takový případ neexistuje žádný kontrolní postup.
Profesor Brunnermeier proto doporučuje, aby se z modelů umělé inteligence stalo běžně dostupné zboží, a to ideálně dříve, než se tržní moc příliš koncentruje. Regulační pravidla by měla bránit tomu, aby se produkty jednotlivých firem od sebe zásadně odlišovaly, a udržet nízké náklady na přechod mezi verzemi i dodavateli. Možnost vrátit se ke starší generaci modelu nebo přejít ke konkurenci musí podle něj zůstat trvale otevřená.
Podvody, které vyjdou stejně levně jako pravda
Falešné zprávy, zavádějící rady i podvodné produkty se dají vyrobit stejně levně jako ty skutečné. Stejná technologie navíc pohání kybernetické útoky, phishing i vymyšlené důkazy. Podstrčený příkaz v konverzaci nebo obyčejná chyba modelu se přitom mohou proměnit v neautorizovaný obchod nebo převod peněz. Riziko spočívá v tom, že dodavatelé modelů získají možnost utvářet finanční produkty způsobem, který zvenčí nikdo neuvidí.
Nabízené řešení, tedy nechat výstupy umělé inteligence kontrolovat jiným systémem AI, otevírá další trhlinu. Pokud jsou tito kontroloři téměř identickými kopiemi postavenými na stejném základním modelu, budou chybovat stejně a přehlédnou totožné manipulace. Sto téměř shodných kontrolorů se pak podobá jednomu, který hlasuje stokrát. Kontrola navíc běží ve strojovém tempu a výhradně mezi stroji, takže tichá dohoda se udržuje snáze a odhaluje hůře než mezi lidskými auditory. Stále navíc zůstává otázka, kdo prověří samotné auditory.
Profesor Brunnermeier přiznal, že umělá inteligence může přinést i lepší řízení rizik a přesnější kontrolu, než jakou by zvládli lidé. Důraz však položil na hrozby, protože právě jejich včasné odhalení je podle něj způsobem, jak udržet stabilitu a vyhnout se kolapsu systému. Bankovní dohled by proto měl mít možnost velké nové modely posoudit ještě předtím, než se dostanou k veřejnosti. Americký prezident v červnu podepsal exekutivní příkaz, kterým velké vývojáře modelů požádal, aby vládě dobrovolně umožnili prověřit nové systémy třicet dní před jejich uvedením na trh.
Zdroje: finance.yahoo.com a americanbanker.com
