Die größten US-Banken stehen vor einem neuen Problem, für das sie bislang keine Lösung haben. In den Konten ihrer Kunden haben sie KI-Agenten entdeckt, die selbstständig verschiedene Aufgaben für Menschen erledigen. Die Banken haben diese Tools weder geprüft noch genehmigt. Einige von ihnen versuchten laut Erkenntnissen von Axios, Handlungen vorzunehmen, um die sie der Nutzer offenbar überhaupt nicht gebeten hatte. Banker sprechen von einem Albtraum, und ihrer Ansicht nach dringt die Technologie schneller in die Bankensysteme ein, als sie darauf reagieren können.
Die Kunden gewähren ihnen Zugang zu den Konten
Auf den ersten Blick könnte es scheinen, als handle es sich um einen Hackerangriff. In den meisten Fällen ist es jedoch anders, denn die Kunden selbst gewähren den Agenten Zugang zu ihren Konten. Sie geben ihrem KI-Assistenten den Benutzernamen und das Passwort für das Onlinebanking, damit er beispielsweise ihre Ausgaben überwacht, Rechnungen bezahlt oder Geld überweist.
Der Kunde stimmt einem solchen Vorgehen zu, die Bank jedoch nicht. Die Regeln der meisten Finanzinstitute sehen vor, dass sich ausschließlich der Kontoinhaber persönlich beim Konto anmeldet. Die größte Sorge der Banken ist derzeit nicht, dass künstliche Intelligenz nach Schwachstellen in ihren Systemen sucht. Weitaus mehr beunruhigen sie Agenten, denen die Kunden selbst Zugang zu ihrem Geld gewährt haben.
Agenten rufen bei der Hotline an
Die Banker fürchten vor allem den Umfang der möglichen Handlungen, die ein Agent mit Zugang zu einem Konto vornehmen kann. Das Risiko steigt insbesondere dann, wenn ihm der Mensch erlaubt hat, Einkäufe zu tätigen oder Geld zu transferieren. Einige Banken verzeichneten laut Quellen von Axios Situationen, in denen Agenten den Kundendienst kontaktierten oder Transaktionen ausführten, die nicht wie eine Anweisung des Nutzers wirkten.
Bankvorstände beschreiben solche Situationen als beängstigend. Ein Branchenvertreter erklärte, die Banken seien sehr besorgt über Agenten, die Zugang zu Konten erhalten und Handlungen vornehmen, die sich unmittelbar auf das Geld der Kunden auswirken.
Dabei können Banken oft nicht unterscheiden, ob gerade ein Mensch oder ein Programm mit dem Konto arbeitet. Handelt es sich um ein Programm, lässt sich nur schwer feststellen, ob der Kunde es tatsächlich beauftragt hat oder ob es sich ohne Erlaubnis Zugang zum Konto verschafft hat und außer Kontrolle geraten ist. Ein Bankmanager räumte ein, dass seine Institution Schwierigkeiten habe, einzelne Agenten voneinander zu unterscheiden und zu erkennen, welcher von ihnen mit Zustimmung des Nutzers handelt. Deshalb greifen Banken zu einer einfachen Lösung und blockieren diese Technologie, während sie eilig ihre Geschäftsbedingungen überarbeiten.
Banken verschließen ihnen die Türen
Morgan Stanley hat damit begonnen, Agenten fremder Unternehmen den Zugang zu seinen Plattformen zu verwehren. Auch JPMorgan, Bank of America und Citi führen Beschränkungen ein, während Wells Fargo ebenfalls auf die Bedrohungen reagiert. Ein Sprecher von Chase, der Privatkundensparte von JPMorgan, teilte den Kunden mit, dass sie ihren Benutzernamen und ihr Passwort niemandem geben sollten. Ein Sprecher von Morgan Stanley behauptet hingegen, die Bank habe auf ihren Plattformen keine Fälle unkontrollierter KI-Agenten verzeichnet.
Die Führung des großen Maklerunternehmens Charles Schwab nimmt die Angelegenheit sehr ernst. Unternehmenschef Richard Wurster lässt sich täglich einen Bericht über die Zahl der blockierten Agenten vorlegen. Das Unternehmen will so die Verifizierung seiner Kunden und die Funktionsweise seiner Dienste fest unter Kontrolle halten.
Die Banken befassen sich auch mit der Haftungsfrage. Es ist nämlich weiterhin unklar, wer die Verantwortung trägt, wenn ein Agent einen Fehler macht und der Kunde Geld verliert.
Du darfst schauen, aber nichts anfassen!
Die Banken wollen die Türen jedoch nicht vollständig verschließen. Die meisten von ihnen haben bereits einen reinen Lesezugriff erlaubt oder planen dies. In einem solchen Fall kann der Agent den Kontostand und die Kontobewegungen einsehen, aber weder Geld senden noch Zahlungen vornehmen. Einen ähnlichen Zugang gewähren Banken üblicherweise Anwendungen zur Verwaltung des Haushaltsbudgets, wie etwa dem US-amerikanischen Quicken.
Mehrere Branchenmanager erklärten gegenüber Axios, dass für den Umgang mit Agenten ein vernünftiger Kompromiss gefunden werden müsse. Die Banken wissen, dass Kunden diese Helfer immer häufiger nutzen wollen. Bislang sei das Risiko ihrer Ansicht nach jedoch zu groß, um ihnen entgegenzukommen.
Geld allein reicht dafür nicht aus
Auf den ersten Blick befinden sich die Banken in einer guten Ausgangsposition. Sie verfügen über umfangreiche finanzielle Mittel und fungieren seit Jahren als kritische Infrastruktur, auf der die gesamte Wirtschaft beruht. Einer Quelle zufolge könnte Geld allein diesmal jedoch nicht ausreichen. Die Technologie entwickelt sich so schnell, dass im laufenden Betrieb ständig neue Schwachstellen zutage treten.
Die Banken investieren daher in die Prävention der schlimmsten Szenarien und bereiten sich zugleich auf den Moment vor, in dem sie dennoch eintreten. Sie erstellen Notfallpläne, mit deren Hilfe sie betroffene Konten schnell sperren und den Kunden nach Behebung des Vorfalls wieder zugänglich machen könnten. Als Vorbild dienen ihnen dabei die jüngsten Ausfälle, die große Teile des Internets lahmgelegt haben.
Quellen: reuters.com und techradar.com
