Die amerikanische Bank of America, eine der größten Banken der Welt, hat tausend externe Mitarbeiter engagiert. Sie haben eine einzige Aufgabe: Schwachstellen in der Software der Bank zu beheben, auf die die neuesten Modelle künstlicher Intelligenz hingewiesen haben. Hauptgrund dafür ist Mythos, ein Modell des US-Unternehmens Anthropic. Der Vorstandsvorsitzende der Bank, Brian Moynihan, sprach am Mittwoch bei der Veröffentlichung der Ergebnisse für das dritte Quartal darüber.
Warum Banken Angst vor Mythos haben
Mythos ist ein Modell künstlicher Intelligenz, das Computercode sehr gut durchsuchen und darin Fehler finden kann. Es geht jedoch nicht nur um die Suche, denn das Modell kann diese Fehler auch ausnutzen, was genau der Tätigkeit von Hackern entspricht. Solche Fehler werden als Sicherheitslücken bezeichnet und lassen sich mit einem unverschlossenen Fenster in einem Haus vergleichen. Solange niemand davon weiß, passiert nichts, doch sobald es jemand entdeckt, kann jeder hineingelangen.
Mythos entdeckt dabei auch Fehler, die seit Jahrzehnten in Programmen schlummern und die niemand bemerkt hat. Anthropic hat das Modell daher nicht frei zugänglich gemacht. Das Unternehmen stellte es schrittweise und mit Schutzmaßnahmen bereit, sodass nur eine kleine Gruppe von Banken, Technologieunternehmen und staatlichen Institutionen Zugang dazu erhielt.
Laut Moynihan haben die neuen Modelle Schwachstellen im von der Bank verwendeten Code aufgezeigt. Dabei handelt es sich um Software, mit der sowohl ihre Mitarbeiter als auch externe Dienstleister arbeiten. Als ähnlich leistungsfähige Modelle aufkamen, traf sich die Bankführung, um zu beraten, wie sich die Lücken so schnell wie möglich schließen lassen. Moynihan erklärte dem Fernsehsender CNBC, dass das Risiko real sei und viele von ihnen überlegt hätten, wie sich die Situation schnell bewältigen lasse. Im zweiten Quartal engagierten sie daher tausend externe Mitarbeiter, die beim Einspielen von Patches helfen. Sie sind bis heute bei der Bank tätig und arbeiten an der Seite von dreitausend fest angestellten Mitarbeitern, die die Bank in diesem Bereich beschäftigt.
KI-Agenten geraten außer Kontrolle
Die Sorgen der Banken sind nicht übertrieben. Künstliche Intelligenz beantwortet längst nicht mehr nur Fragen. Sogenannte KI-Agenten sind Programme, die selbstständig Aufgaben erledigen, Websites durchsuchen und ohne direkte menschliche Aufsicht in Systeme eingreifen. Agenten von OpenAI, Anthropic, Google oder Meta sind bereits in die Software und Websites mehrerer Organisationen eingedrungen, darunter das Unternehmen Hugging Face und eine Website der australischen Regierung. Agenten von Anthropic schickten der Polizei in Philadelphia sogar eine falsche Mordmeldung.
Der Chef des Konkurrenten JPMorgan Chase, Jamie Dimon, sagte Anfang des Monats gegenüber der Nachrichtenagentur Bloomberg, dass das Risiko von Cyberangriffen nach der Veröffentlichung von Mythos um das Zehnfache gestiegen sei. Er fügte hinzu, dass künstliche Intelligenz Sicherheitslücken geschaffen habe, von denen man bei der Bank nichts gewusst habe, obwohl man sich bereits zuvor vor Cyberbedrohungen gefürchtet habe.
Hunderte Millionen Dollar und ein Kurssturz
Wie viel die Behebung der Softwareprobleme genau gekostet hat, verriet Moynihan nicht. Er teilte Analysten jedoch mit, dass die Bank im dritten Quartal mehr als zweihundert Millionen Dollar ausgegeben habe. Das Geld floss in die Behebung von Softwareproblemen sowie in die Beseitigung von Mängeln bei der Bekämpfung der Geldwäsche, wegen derer das US-Finanzministerium der Bank eine Geldstrafe von mehr als einer Milliarde Dollar auferlegt hatte.
Moynihan wies auch auf ein merkwürdiges Paradox hin: Die Menschen, die Software entwickeln, sind zugleich diejenigen, die den Banken ihre Dienstleistungen verkaufen, weshalb es notwendig sei, stets einen Schritt voraus zu sein.
Die Aktien der Bank verloren am Mittwoch zeitweise bis zu acht Prozent. Moynihan versuchte daher, die Anleger zu beruhigen, indem er betonte, dass die höheren Ausgaben nur vorübergehend seien. Er erklärte, dass nach dem ersten Schließen der Lücken nicht mehr so viele Reparaturen erforderlich seien und die Kosten daher schrittweise sinken dürften.
Künstliche Intelligenz spart der Bank zugleich auch Geld. Die Bank of America betreibt rund 130 eigene KI-Projekte, und die daraus resultierenden Einsparungen sollen von 300 Millionen Dollar in diesem Jahr auf 700 Millionen im Jahr 2027 steigen. Die Zahl der Beschäftigten der Bank ist im vergangenen Jahr um etwa 3 400 gesunken, wobei das Unternehmen rund fünf Prozent der Führungskräfte entlassen hat. Welcher Anteil davon auf künstliche Intelligenz zurückzuführen ist, bleibt bislang jedoch unklar.
