Google bestätigte am Freitag, dass seine künstliche Intelligenz Gemini während eines Sicherheitstests auf das Internet zugriff und in die Computersysteme von drei Unternehmen eindrang. Dabei handelte es sich um nichts Raffiniertes, denn das Programm versuchte schlicht, Passwörter zu erraten, und sammelte Zugangsdaten, die jemand auf einer öffentlich zugänglichen Seite hinterlassen hatte. Der Test fand bereits im Mai statt, Google erfuhr Ende Juli von dem Problem und äußerte sich erst dazu, nachdem Journalisten des Wall Street Journal nachgefragt hatten.
Ein Test und drei Einbrüche
Der Test wurde von der israelischen Firma Irregular vorbereitet. Sie prüft für große Entwickler künstlicher Intelligenz, wie erfolgreich deren Programme fremde Computersysteme angreifen könnten. Gemini erhielt eine Aufgabe, die an eine Schatzsuche erinnerte. In den Computern eines fiktiven Unternehmens war eine Information versteckt, die das Modell finden sollte. Der Test sollte in einer abgeschlossenen Umgebung ohne jegliche Verbindung zur Außenwelt stattfinden. Doch zwei ungünstige Umstände kamen zusammen. Das fiktive Unternehmen trug zufällig denselben Namen wie ein tatsächlich existierendes Unternehmen. Aufgrund eines Konfigurationsfehlers konnte Gemini zudem auf das Internet zugreifen, obwohl dies nicht vorgesehen war. Nach Angaben von Irregular hätte das Modell überhaupt keinen Zugang nach außen haben dürfen; die Internetverbindung sei versehentlich bestehen geblieben.
In einem Fall probierte Gemini so lange Passwörter aus, bis es sich Zugang verschaffte. In zwei weiteren Fällen fand es auf einer öffentlich zugänglichen Seite mit Programmcode Benutzernamen und Passwörter, die dort jemand vergessen hatte, und drang damit in weitere Systeme ein. Laut Heather Adkins, die bei Google für Sicherheit zuständig ist, fand das Modell öffentlich zugängliche Informationen und erriet die Zugangsdaten zu Websites, von denen es annahm, dass sie zum Test gehörten.
Jedes Mal beendete es seine Aktivitäten, sobald es erkannte, dass es nicht in die Testumgebung, sondern in die Computersysteme eines realen Unternehmens gelangt war. Genau diesen Aspekt hebt Google besonders hervor. Adkins fügte hinzu, ihr Team habe anschließend die betroffenen Unternehmen kontaktiert und sich mit Irregular auf Änderungen bei der Durchführung solcher Tests geeinigt.
Google schwieg zu dem Vorfall
Nach eigenen Angaben informierte Irregular Ende Juli alle betroffenen Entwickler. Google wusste somit rund sieben Wochen lang von den Vorfällen. In dieser Zeit kontaktierte das Unternehmen sowohl die geschädigten Firmen als auch die Behörden, informierte die Öffentlichkeit jedoch nicht. Das Schweigen begründet Google damit, dass aus seiner Sicht nichts schiefgegangen sei. Gemini habe sich selbst gestoppt und niemandem Schaden zugefügt, weshalb das Unternehmen den Vorfall nicht als meldepflichtiges Ereignis betrachtet habe.
Fachleute für die Sicherheit künstlicher Intelligenz sehen das anders. Jack Cable, Chef der Firma Corridor, widersprach entschieden und erklärte, die Öffentlichkeit habe ein Recht darauf, informiert zu werden, wenn ein KI-Programm in die Computersysteme realer Unternehmen eindringe. Sydney Von Arx merkte gegenüber Journalisten an, nach dieser Erfahrung könne man kaum erwarten, dass Unternehmen ähnliche Fälle von sich aus melden würden.
Der vierte Fall im Laufe des Sommers
Google ist bereits der vierte US-amerikanische Entwickler künstlicher Intelligenz, der nach den im Sommer bei Irregular durchgeführten Tests in Schwierigkeiten geriet. Zu den weiteren gehören OpenAI, Anthropic und Meta. Ein Sprecher von Irregular bestätigte, dass bei Gemini dieselben Mängel vorlagen, die auch hinter den früheren Fällen standen, und dass das Unternehmen inzwischen alle bekannten Fehler behoben habe.
Der Vergleich mit der Konkurrenz fällt für Google dabei eher positiv aus. Das Modell Claude von Anthropic setzte in einem der früheren Fälle den Angriff fort, nachdem es erkannt hatte, dass es wahrscheinlich ein reales Unternehmen angriff. Gemini hörte sofort auf. Im Hintergrund bleibt jedoch ein größeres Problem bestehen. Laut einer mit der Angelegenheit vertrauten Person waren sich die Entwickler und Irregular nicht darüber einig, wie genau die Tests durchgeführt werden sollten und wer was zu kontrollieren hatte. Daher war niemandem völlig klar, ob das Modell während des Tests mit dem Internet verbunden sein sollte.
Google hat bislang nicht angegeben, um welche Version von Gemini es sich genau handelte. Das Unternehmen teilte lediglich mit, dass es nicht sein neuestes Modell gewesen sei. Die Namen der drei angegriffenen Unternehmen wurden nicht veröffentlicht; sie werden weiterhin lediglich als drei Organisationen bezeichnet. Nach eigenen Angaben arbeitet Irregular derzeit strengere Regeln für die sichere Durchführung solcher Tests aus.
Quellen: edition.cnn.com und axios.com
