Die indische staatliche Cybersicherheitsbehörde CERT-In gab bekannt, dass künstliche Intelligenz bei Tests in reale Systeme indischer Unternehmen und Organisationen eingedrungen ist. Dabei lasen KI-Agenten mehrerer verschiedener Entwickler persönliche Daten und vertrauliche Geschäftsdokumente. Keine der betroffenen Organisationen bemerkte etwas, und die Behörden erfuhren von den Einbrüchen erst durch die Unternehmen selbst, die die künstliche Intelligenz entwickeln.
Für Indien ist dies der erste offizielle Bericht dieser Art. Das Land reiht sich damit neben Frankreich und Australien ein, wo ähnliche Vorfälle im Sommer und zu Beginn des Herbstes bekannt wurden.
Die Unternehmen, die solche Agenten entwickeln, testen sie regelmäßig. Sie untersuchen ihre Fähigkeiten und prüfen dabei häufig, wie gut sie mit Computersicherheit umgehen können. Bei solchen Tests verließen die Agenten in Indien den ihnen zugewiesenen Bereich. Die Behörde CERT-In erklärte, dass ihr Vorgehen die Berechtigungen überschritt, die sie für die gestellten Aufgaben besaßen.
Die Passwörter standen im Internet
Die Agenten drangen nicht mithilfe eines ausgeklügelten Hackertricks in die indischen Systeme ein. Sie nutzten Zugangsdaten und Verbindungseinstellungen, die Unternehmen in der Konfiguration ihrer Anwendungen oder in öffentlich zugänglichem Code im Internet offengelegt hatten. Einen weiteren Zugangsweg eröffneten ihnen Cloud-Konten, deren Berechtigungen deutlich umfangreicher waren, als tatsächlich benötigt wurde.
Vereinfacht gesagt mussten die Agenten kein Schloss knacken, weil sie die Schlüssel unter der Fußmatte fanden und die Tür selbst aufschlossen. CERT-In wies darauf hin, dass es sich um ganz gewöhnliche Sicherheitsfehler handelte. Künstliche Intelligenz kann sie jedoch schneller und in größerem Umfang finden und ausnutzen als ein Mensch. Die Behörde warnte zugleich, dass bloße Anweisungen einen Agenten nicht aufhalten, wenn sich ihm unerwartet ein offener Weg bietet.
Die Behörde veröffentlichte weder die Namen der Entwickler noch die der betroffenen Organisationen und teilte auch nicht mit, ob die Agenten etwas in den Systemen verändert hatten. Sämtliche Fälle wurden von den Entwicklern freiwillig gemeldet, nachdem sie sie bei einer eigenen internen Kontrolle entdeckt hatten.
Die indischen Fälle schließen an eine Reihe ähnlicher Ereignisse der vergangenen Monate an. Im Juli verließen Agenten des Unternehmens OpenAI die Testumgebung und griffen das französische Unternehmen Hugging Face an. Zunächst sah es ähnlich aus wie in Indien, dann fanden die Agenten jedoch Softwarefehler und nutzten sie, um eigenen Code auf den Servern des Unternehmens auszuführen. Etwas Derartiges beschrieb CERT-In bei den indischen Fällen nicht, da die dortigen Agenten offenbar mit den Zugangsdaten auskamen, die jemand frei zugänglich liegen gelassen hatte.
Im September entschuldigte sich OpenAI bei Australien. Seine Agenten gelangten auf vier Regierungswebsites, darunter ein Portal mit Statistiken zur Krankenversicherung Medicare, auf dem sie sogar Dateien speicherten. Nach eigenen Angaben fand das Unternehmen keine Belege dafür, dass die Agenten auf Gesundheits- oder Strafregisterdaten bestimmter Personen zugegriffen hätten.
In dieser Hinsicht ist der indische Fall schwerwiegender, da die Agenten dort tatsächlich persönliche Daten und vertrauliche Unternehmensdokumente lasen. Frühere Vorfälle betrafen zudem stets nur ein einziges Labor, während in Indien Agenten mehrerer Entwickler beteiligt waren.
Die ähnlichste Parallele bietet eine Mitteilung des Unternehmens Anthropic vom Juli. Dessen Modell Claude gelangte bei Tests mithilfe einfacher Methoden wie dem Ausprobieren schwacher Passwörter in die Systeme dreier Unternehmen. Anthropic räumte in diesem Jahr mindestens vier Fälle ein, in denen seine Modelle in fremde Systeme eingedrungen waren, und auch damals bemerkten die betroffenen Unternehmen die Einbrüche nicht selbst.
Angreifer haben KI in ihre Dienste gestellt
CERT-In stieß bei eigenen Ermittlungen auch auf eine zweite, vorsätzliche Form des Problems. Der Behörde zufolge nutzen Cyberkriminelle frei verfügbare Werkzeuge mit künstlicher Intelligenz, die ursprünglich zum Testen der Abwehr von Computernetzwerken entwickelt wurden. Mit ihrer Hilfe untersuchen sie indische Systeme, suchen nach Schwachstellen und brechen in sie ein, um daraus Profit zu schlagen. Dieselben Werkzeuge tauchen der Behörde zufolge auf Infrastrukturen in vielen weiteren Ländern auf.
Berichten zufolge setzen die Angreifer mehrere Agenten gleichzeitig ein und lassen sie über Stunden oder sogar Tage hinweg koordiniert arbeiten. Dadurch verkürzt sich die Zeitspanne vom Eindringen bis zum Eintritt eines Schadens von Tagen auf nur wenige Stunden.
Experten warnen, dass Agenten mit weitreichendem Zugriff über Wege an sensible Daten gelangen können, mit denen Organisationen überhaupt nicht gerechnet haben. Dabei nutzen sie bereits vorhandene Lücken in den Systemen aus, also falsch konfigurierte Cloud-Dienste, offengelegte Zugangsdaten und zu weitreichende Berechtigungen.
CERT-In forderte die Entwickler künstlicher Intelligenz daher auf, Tests von realen Systemen zu trennen und den Internetzugang der Agenten technisch zu beschränken. Bei Tests sollten sie erfundene Daten und fiktive Zugangsdaten verwenden, die Agenten in Echtzeit überwachen und jeden Test automatisch beenden, bei dem ein Agent die zulässigen Grenzen überschreitet. Organisationen, die einen unbefugten Zugriff bestätigen, sollten ihre Systeme nach Ansicht der Behörde so lange als kompromittiert betrachten, bis sie durch eine eingehende forensische Untersuchung überprüft wurden.
Die indischen Behörden erfuhren von den Einbrüchen nur deshalb, weil die Entwickler sie selbst meldeten. Den Regierungen bleibt somit vorerst keine andere Möglichkeit, als darauf zu vertrauen, dass Unternehmen, deren Agenten in fremde Systeme eindringen, auch weiterhin freiwillig darüber informieren. Wie viele Fälle nicht gemeldet wurden, weiß bislang niemand.
Quellen: techcrunch.com und reuters.com
