In der Finanzwelt hat sich die Debatte über künstliche Intelligenz im vergangenen Jahr grundlegend gewandelt. Während sich Geschäfts- und Zentralbanken früher vor allem fragten, wie viel Arbeit ihnen die Technologie ersparen und wie sie die Produktivität steigern würde, beschäftigen sie sich nun mit einer völlig anderen Reihe von Fragen. Sie wollen wissen, was geschieht, wenn Maschinen gegen Maschinen handeln, wer eine ungeplante Marktmanipulation erkennen kann und wie sich ein Finanzsystem beaufsichtigen lässt, das seine Kontrolleure besser versteht als diese das System.
Eine umfassende Liste dieser Bedenken erhielten Zentralbanker und Ökonomen im August 2026 auf der Fachkonferenz der Fed im amerikanischen Jackson Hole. Der Ökonom Markus Brunnermeier von der Princeton University stellte dort eine Arbeit über künstliche Intelligenz im Finanzsektor vor und beschrieb mehrere Szenarien, in denen die Technologie sowohl die Märkte als auch das gesamte Bankwesen aus dem Gleichgewicht bringen könnte. Er fasste dies mit einem Vergleich zusammen, der im Saal nachhallte: Tischler bauen Tische, während Banker Vertrauen schaffen. Und gerade dieses Vertrauen und das Funktionieren von Institutionen kann künstliche Intelligenz seiner Ansicht nach auf völlig neue Weise untergraben. Sein Vortrag wirkte wie ein dringender Appell an die Behörden, sich unverzüglich auf diesen Wandel vorzubereiten.
Ein Markt, der die Zentralbank besser versteht als sie sich selbst
Den Bedenken liegt ein einfaches Ungleichgewicht zugrunde. Künstliche Intelligenz verarbeitet Informationen so viel besser als der Mensch, dass sie bald mit nahezu vollständiger Gewissheit wissen wird, wie die Banker entscheiden werden, noch bevor die Beamten selbst Klarheit darüber gewonnen haben. Daraufhin werden die Algorithmen ihre Handelsstrategie so ausrichten, dass sie die Schritte der Behörden umgehen und daraus Gewinn erzielen, sei es auf legale Weise oder jenseits der geltenden Regeln. Für diesen Zustand verwendete Professor Brunnermeier den Begriff asymmetrisches Verständnis.
Reden, Sitzungsprotokolle und die gesamte Geschichte der Zentralbanken sind nämlich ideale Trainingsdaten. Offizielle Institutionen werden für Maschinen vollkommen durchschaubar, während sie selbst keinen Einblick in die Welt der Handelsroboter haben. Die Finanzmärkte könnten Brunnermeier zufolge dann weniger Informationen enthalten und sich unberechenbarer verhalten als heute.
Die Reaktion, zu der sich die Zentralbanken möglicherweise veranlasst sähen, wäre dabei selbst schädlich. Sie müssten weniger klar kommunizieren und würden damit Jahrzehnte der Entwicklung hin zu mehr Offenheit zunichtemachen, der eine geringere Volatilität und größere Stabilität der Märkte zugeschrieben werden. Transparenz verwandelt sich in diesem Umfeld in Vorhersehbarkeit, die die Gegenseite mit Wissen ausstattet. Daher stammt auch Brunnermeiers Überlegung, zwei Pressekonferenzen abzuhalten, von denen eine eine verständliche Darstellung für Menschen bieten und die andere als Trainingsdaten für Maschinen dienen würde. Der Autor selbst fügt jedoch hinzu, dass dies das Problem nur teilweise lösen würde.
Manipulation, die niemand geplant hat
Die zweite Sorge betrifft Handelsroboter, die ihr Vorgehen aufeinander abstimmen können, ohne in irgendeiner Weise miteinander zu kommunizieren. Auf weniger liquiden Märkten kann bereits ein kleiner Auftrag den Preis bewegen, sodass es finanziell wenig aufwendig ist, den Kurs ins Schwanken zu bringen. Wenn sich zudem eine größere Zahl von Maschinen vorbehaltlos auf dasselbe Vorgehen festlegt, ist keine von ihnen groß genug, um als Manipulator eingestuft zu werden. Das klassische Schema, bei dem Akteure den Preis künstlich in die Höhe treiben und anschließend ihre Positionen verkaufen, würde somit ohne eine einzige Spur einer vorherigen Absprache ablaufen.
Genau dieses Problem beunruhigt auch Experten für Finanztechnologie. Es genügen mehrere Modelle, die zwar unabhängig voneinander agieren, aber auf ähnlichen Grundlagen entwickelt oder trainiert wurden. Dadurch bricht die bisherige Arbeitsweise von Aufsichtsbehörden und Ermittlern zusammen, denn in einem solchen Fall kann keine gerichtliche Vorladung zugestellt werden, es gibt keine auffindbaren Daten über eine Verschwörung und niemanden, der angeklagt werden könnte.
Ein Ausschalter, der sich nicht betätigen lässt
Die Finanzmärkte haben über Jahrzehnte hinweg Sicherungsmechanismen für Momente entwickelt, in denen es zu extremen Preisschwankungen kommt. Automatische Handelsunterbrechungen dienten bislang dazu, blitzartige Kurseinbrüche aufzuhalten, den Menschen Zeit zur Analyse der Situation zu geben und vorsichtigeren Anlegern die Stabilisierung des Marktes zu ermöglichen. In einer Welt, in der Maschinen den Großteil der Geschäfte abschließen, würde derselbe Sicherungsmechanismus jedoch mehr schaden als nützen.
Eine plötzliche Abschaltung des Systems würde nämlich Absicherungspositionen mitten im Prozess unterbrechen, eine Lawine von Nachschussforderungen auslösen und dem Markt die Liquidität entziehen, die gerade von algorithmischen Market-Makern in großem Umfang bereitgestellt wird. Sobald die Finanzwelt vollständig vom automatisierten Handel abhängig ist, könnte ein solcher Notstopp nur noch ein unrealistischer Wunsch sein. Menschliche Händler können die Algorithmen bereits nicht mehr ersetzen, ebenso wenig wie Bargeld vollständig abgeschaltete elektronische Zahlungen ersetzen könnte.
Wenn eine ganze Branche von drei Modellen abhängt
Eine weitere Schwachstelle entsteht in den Grundlagen selbst, auf denen die Banken ihre Instrumente aufbauen. Wenn die Modelle von einer großen Zahl konkurrierender Unternehmen geliefert werden, kann ein Nutzer nach dem Ausfall eines Anbieters zu einem anderen wechseln, wodurch die Widerstandsfähigkeit des Finanzsektors und der Realwirtschaft steigt. Konzentrieren sich Entwicklung und Kommerzialisierung dieser Technologie jedoch in den Händen eines oder zweier Unternehmen, entsteht eine kritische Schwachstelle, über die sich Preise, Bedingungen und Ausfälle gleichzeitig auf das gesamte System auswirken. Solche Anbieter können dann dem Rest der Wirtschaft ihre Bedingungen diktieren, und ein Fehler in einem massenhaft genutzten Modell trifft alle Nutzer im selben Augenblick.
Experten vergleichen diese Situation mit der Abhängigkeit der Banken von zentralen Bankensystemen und Anbietern von Cloud-Diensten. Die Abhängigkeit einer ganzen Branche von weniger als drei Modellen wäre jedoch deutlich riskanter, da ein möglicher Fehler alle Institutionen in derselben Sekunde treffen würde und derzeit für einen solchen Fall kein Kontrollverfahren existiert.
Professor Brunnermeier empfiehlt daher, Modelle künstlicher Intelligenz zu allgemein verfügbaren Standardprodukten zu machen, und zwar idealerweise, bevor sich die Marktmacht zu stark konzentriert. Regulatorische Vorschriften sollten verhindern, dass sich die Produkte einzelner Unternehmen grundlegend voneinander unterscheiden, und die Kosten für den Wechsel zwischen Versionen und Anbietern niedrig halten. Die Möglichkeit, zu einer älteren Modellgeneration zurückzukehren oder zur Konkurrenz zu wechseln, muss seiner Ansicht nach dauerhaft offenbleiben.
Betrug, der genauso wenig kostet wie die Wahrheit
Falschmeldungen, irreführende Ratschläge und betrügerische Produkte lassen sich genauso kostengünstig herstellen wie echte. Dieselbe Technologie treibt zudem Cyberangriffe, Phishing und fingierte Beweise an. Ein eingeschleuster Befehl in einem Gespräch oder ein gewöhnlicher Modellfehler kann sich dabei in einen nicht autorisierten Handel oder eine unbefugte Geldüberweisung verwandeln. Das Risiko besteht darin, dass die Anbieter von Modellen die Möglichkeit erhalten, Finanzprodukte auf eine Weise zu gestalten, die von außen niemand erkennen kann.
Die vorgeschlagene Lösung, also die Ergebnisse künstlicher Intelligenz von einem anderen KI-System überprüfen zu lassen, reißt eine weitere Lücke auf. Wenn diese Kontrolleure nahezu identische Kopien sind, die auf demselben Basismodell beruhen, werden sie dieselben Fehler machen und identische Manipulationen übersehen. Hundert nahezu identische Kontrolleure gleichen dann einem einzigen, der hundertmal abstimmt. Außerdem läuft die Kontrolle im Maschinentempo und ausschließlich zwischen Maschinen ab, sodass eine stillschweigende Absprache leichter aufrechterhalten und schwerer aufgedeckt werden kann als zwischen menschlichen Prüfern. Darüber hinaus bleibt weiterhin die Frage offen, wer die Prüfer selbst überprüft.
Professor Brunnermeier räumte ein, dass künstliche Intelligenz auch ein besseres Risikomanagement und präzisere Kontrollen ermöglichen kann, als Menschen sie leisten könnten. Den Schwerpunkt legte er jedoch auf die Bedrohungen, weil deren frühzeitige Erkennung seiner Ansicht nach der Weg ist, Stabilität zu bewahren und einen Zusammenbruch des Systems zu verhindern. Die Bankenaufsicht sollte daher die Möglichkeit haben, große neue Modelle zu prüfen, noch bevor sie der Öffentlichkeit zugänglich gemacht werden. Der amerikanische Präsident unterzeichnete im Juni eine Exekutivanordnung, mit der große Modellentwickler aufgefordert wurden, der Regierung freiwillig zu gestatten, neue Systeme dreißig Tage vor ihrer Markteinführung zu prüfen.
Quellen: finance.yahoo.com und americanbanker.com
