Eine Gruppe von Cyberkriminellen hat künstliche Intelligenz als Komplizen angeheuert. Sie programmierte sie so, dass sie den Code einer beliebten Webanwendung durchsuchte und eine Lücke fand, von der niemand wusste. Und sie hatte Erfolg. Anfang Mai deckte Google das Ganze auf, bevor die Angreifer den Abzug betätigen konnten. „Sie ist da. Die Ära der mithilfe von KI entdeckten und ausgenutzten Schwachstellen hat bereits begonnen“, kommentierte John Hultquist, Chefanalyst der Google Threat Intelligence Group (GTIG), den gesamten Vorfall.
Was ist also passiert?
Google beobachtete eine Gruppe bedeutender Angreifer, die eine groß angelegte Operation plante. Sie hatten nämlich einen Fehler in einem weitverbreiteten Open-Source-Tool zur Serververwaltung gefunden. Den konkreten Namen des Tools gab Google nicht bekannt. Die Schwachstelle ermöglichte es ihnen jedoch, die Zwei-Faktor-Authentifizierung zu umgehen und sich Zugang zu Systemen zu verschaffen, ohne dass sie jemand aufhalten konnte.
Es handelte sich um einen sogenannten Zero-Day-Exploit, also einen Angriff, der eine Sicherheitslücke ausnutzt, von der die Entwickler noch nichts wissen. Der Begriff „Zero-Day“ bedeutet, dass für die Behebung null Tage zur Verfügung standen. Ganz einfach deshalb, weil niemand wusste, dass es überhaupt etwas zu beheben gab.
Google griff rechtzeitig ein. Das Unternehmen warnte die betroffene Firma, informierte die Strafverfolgungsbehörden und störte die Operation, bevor sie irgendeinen Schaden anrichten konnte. Erst bei der nachträglichen Analyse der Spuren der Angreifer stellten die Analysten fest, was sie am meisten beunruhigte: Der Exploit-Code wies deutliche Anzeichen dafür auf, dass er nicht von Menschen, sondern von einem Sprachmodell geschrieben worden war.
Woran erkannten sie, dass der Code von einem Chatbot geschrieben wurde?
Die gesamte Untersuchung wird in einem technischen Bericht der GTIG ausführlich beschrieben. Das in Python geschriebene Skript enthielt zahlreiche erklärende Kommentare direkt im Code, darunter einen sogenannten „halluzinierten“ CVSS-Schweregrad für die Schwachstelle, den sich das Modell schlicht ausgedacht hatte. Die gesamte Codestruktur entsprach dem lehrbuchartigen Ausgabestil eines großen Sprachmodells: ein übersichtliches Hilfemenü, sauber organisierte Klassen und sorgfältig benannte Variablen.
Ein Detail, das bei einem menschlichen Programmierer nicht entstanden wäre, fand sich hier in jeder Zeile.
Google ist sich sehr sicher, dass die Angreifer tatsächlich ein KI-Modell eingesetzt haben. Welches genau? Das ließ sich nicht feststellen, doch die Analysten schlossen sowohl Googles Gemini als auch Anthropic Claude Mythos aus. Es gibt auch keine Belege für eine Verbindung zu feindlichen Staaten, obwohl Gruppen mit Verbindungen zu China und Nordkorea ähnliche Techniken erproben.
Warum ist dieser Angriff so wichtig? Weil es sich nicht um einen üblichen Implementierungsfehler wie einen Speicherüberlauf oder unzureichend geprüfte Eingaben handelte. Es ging um einen semantischen Logikfehler auf hoher Ebene, konkret darum, dass ein Entwickler eine Ausnahme von der Regel fest im Code verankert hatte, die faktisch die gesamte Sicherheit außer Kraft setzte. Herkömmliche Sicherheitstest-Tools erkennen diesen Fehler nicht. Die fortschrittlichsten KI-Modelle können jedoch die Absicht des Entwicklers verstehen und erkennen, an welcher Stelle die Logik zusammenbricht, selbst wenn der Code funktional aussieht.
Hacker werden schneller, und KI beschleunigt sie zusätzlich
Hultquist erklärt, warum gerade Cyberkriminelle am stärksten von KI profitieren. Staatliche Geheimdienste arbeiten langsam und vorsichtig. Ransomware-Banden hingegen liefern sich einen Wettlauf mit der Zeit: Sie müssen an die Daten gelangen, sie verschlüsseln und verschwinden, bevor das Unternehmen sie ausschaltet. KI verschafft ihnen in diesem Wettlauf einen enormen Vorsprung. „Es ist ein Wettlauf zwischen Ihnen und ihnen“, sagte Hultquist. „Sie müssen sie aufhalten, bevor sie an die Daten gelangen, die sie zur Erpressung oder zum Start eines Ransomware-Angriffs nutzen können. KI ist dabei ein enormer Vorteil, weil sie sich dadurch viel schneller bewegen können.“
Und das ist nicht die einzige Art und Weise, wie Angreifer KI missbrauchen. Die GTIG beschreibt in ihrem Bericht ein weitaus umfassenderes Bedrohungsbild.
Google deckte noch weitere Dinge auf
Der GTIG-Bericht dokumentiert den Übergang vom Experimentieren zum industriellen Einsatz von KI bei Angriffsoperationen. Die Analysten identifizierten gleich mehrere Bereiche.
Malware-Entwicklung und Verschleierung. Russlandorientierte Gruppen entwickelten die Schadsoftware CANFAIL und LONGSTREAM, deren Code wiederholt große Blöcke funktionslosen Codes enthält. Dieser wurde absichtlich von KI generiert, um Sicherheitsscans zu täuschen. Die chinesische Gruppe APT27 wiederum setzte KI ein, um eine Anwendung zur Verwaltung eines Anonymisierungsnetzwerks zu entwickeln, über das sie Angriffe ausführt.
Autonome Schadsoftware PROMPTSPY. Diese Android-Hintertür ist noch fortschrittlicher. Sie kommuniziert nicht nur mit der Gemini API, sondern übermittelt ihr auch den aktuellen Zustand der Benutzeroberfläche des infizierten Telefons und lässt die KI entscheiden, was als Nächstes zu tun ist. Eine Schaltfläche drücken, über den Bildschirm wischen, die PIN ermitteln. Wenn der Benutzer versucht, die Anwendung zu deinstallieren, legt die Schadsoftware eine unsichtbare Ebene über die Schaltfläche „Deinstallieren“ und fängt jede Berührung ab, sodass es so wirkt, als würde das Telefon nicht reagieren.
Aufklärung und maßgeschneidertes Phishing. Die Angreifer fragen die KI, wie die Organisationsstruktur eines bestimmten Unternehmens aussieht, wer Zugriff auf die Finanzen hat und wer die IT verwaltet. Eine Gruppe bat das Modell sogar, anhand von Fotos zu erkennen, welchen Computer eine bestimmte Person verwendet, und so bei der Vorbereitung eines gezielten Angriffs auf dieses Gerät zu helfen.
Industrieller Missbrauch von KI-Diensten. Mit China verbundene Gruppen bauten automatisierte Prozesse zur Registrierung von Premium-Konten bei KI-Anbietern auf. Registrierung, Umgehung des CAPTCHA, Verifizierung per Telefonnummer, Bestätigung und Kündigung. Dann wieder von vorn. In großem Maßstab. Nur damit sie ununterbrochenen Zugang zu leistungsfähigen Modellen haben, ohne von irgendjemandem überwacht zu werden.
Anthropics Mythos und ein nervöses Washington
Dieser Bericht, der zugleich eine Warnung ist, erscheint zu einem Zeitpunkt, an dem die Cybersicherheitsgemeinschaft noch immer die Nachricht über Anthropics Modell Mythos verarbeitet. Dieses wurde vor einem Monat als derart leistungsfähig im Bereich Sicherheit und Hacking beschrieben, dass das Unternehmen sich weigerte, es zu veröffentlichen, und es nur einer kleinen Gruppe überprüfter Organisationen zugänglich machte.
Daraufhin startete Anthropic die Initiative Projekt Glasswing, zu der das Unternehmen Amazon, Apple, Google, Microsoft und JPMorgan Chase einlud. Ziel ist es, kritische Software vor den Auswirkungen zu schützen, die Mythos verursachen könnte. Die Beziehungen zur Regierung in Washington sind jedoch kompliziert. Das Unternehmen geriet wegen des militärischen Einsatzes seiner Technologien in einen öffentlichen und rechtlichen Konflikt mit dem Pentagon und direkt mit Trump.
OpenAI kündigte unterdessen diese Woche eine spezielle Version von ChatGPT für den Bereich Cybersicherheit an, die ausschließlich „Verteidigern, die für die Sicherheit kritischer Infrastruktur verantwortlich sind“, zur Verfügung steht.
Trumps Handelsministerium unterzeichnete Vereinbarungen mit Google, Microsoft und Musks Unternehmen xAI über die Überprüfung ihrer leistungsfähigsten Modelle vor deren öffentlicher Veröffentlichung. Die Ankündigung verschwand jedoch kurz darauf von der Website des Ministeriums. Dean Ball, ehemaliger Berater des Weißen Hauses für Technologiepolitik und Mitautor von Trumps KI-Konzept, kommentierte die gesamte Situation mit den Worten: „Ich sehe Regeln und Vorschriften nur ungern. Mir wäre es lieber, wenn die Dinge nicht reguliert würden. Aber ich denke, in diesem Fall brauchen wir das.“
Eine Billion Codezeilen, auf denen die weltweite digitale Infrastruktur beruht, kann nicht über Nacht repariert werden. Und bis das geschieht, werden Angreifer mit KI an ihrer Seite die Lücken finden, bevor jemand sie schließen kann.
Quellen: finance.yahoo.com und economictimes.indiatimes.com
