Russische Hacker nutzten ChatGPT, um in einem Gaming-Tool versteckte Malware zu entwickeln

Die Cybersicherheit sieht sich mit einer neuen Art von Bedrohung konfrontiert – russische Hacker haben begonnen, die künstliche Intelligenz ChatGPT als Programmierassistenten bei der Entwicklung von Schadsoftware einzusetzen. Die als „ScopeCreep“ bezeichnete Operation ist ein besorgniserregendes Beispiel dafür, wie staatlich unterstützte Angreifer generative KI-Technologien missbrauchen können, um ihre Cyberkampagnen zu beschleunigen und zu optimieren.

Was genau hat ScopeCreep getan?

Die Gruppe ScopeCreep wählte eine raffinierte Strategie, um ihre Malware über eine trojanisierte Version des beliebten Gaming-Tools Crosshair X zu verbreiten, das Spielern als Overlay dient. Dieser Ansatz ist besonders perfide, da er auf die Gaming-Community abzielt, deren Mitglieder häufig verschiedene Tools und Modifikationen herunterladen, um ihr Spielerlebnis zu verbessern. Benutzer, die die gefälschte Version dieses Tools herunterluden, installierten unwissentlich eine ausgeklügelte Malware auf ihren Windows-Systemen.

Die technische Raffinesse dieser Malware ist bemerkenswert. Nach dem Start setzt sie zunächst einen Loader ein, der weitere Payloads von einem entfernten Server herunterlädt. Anschließend weitet sie ihre Berechtigungen im System aus und richtet einen Persistenzmechanismus ein, um einen Neustart des Computers zu überstehen. Die Malware verwendet fortschrittliche Verschleierungstechniken, darunter DLL-Sideloading und Base64-Obfuskation. Besonders gefährlich ist ihre Fähigkeit, Windows Defender mithilfe von PowerShell-Befehlen zu deaktivieren und anschließend Anmeldedaten, Token und Cookies aus den Webbrowsern der Opfer zu stehlen.

Hacker nutzten ChatGPT

Was diese Operation außergewöhnlich macht, ist die Art und Weise, wie die Hacker ChatGPT nutzten. Sie verwendeten es zur iterativen Entwicklung und Optimierung ihres Codes, insbesondere zum Debuggen von Go-Code für HTTPS-Anfragen und zur Integration der Telegram API. Über einen Telegram-Kanal ließen sich die Hacker Benachrichtigungen über neue Opfer zusenden. Aus Sicherheitsgründen verwendeten sie mehrere temporäre ChatGPT-Konten, wobei sie jedes Konto nur für eine einzige Anfrage nutzten, um das Risiko einer Entdeckung ihrer Operation zu minimieren.

OpenAI identifizierte und sperrte in Zusammenarbeit mit Sicherheitspartnern glücklicherweise die schädlichen Konten schnell, noch bevor sich die Malware in der breiten Öffentlichkeit verbreiten konnte. Das Unternehmen arbeitete außerdem an der Entfernung der zugehörigen Code-Repositorien. Laut der offiziellen Stellungnahme von OpenAI wurde die ScopeCreep-Kampagne bereits in einer frühen Phase unterbrochen, wodurch ihr potenzieller Schaden erheblich begrenzt wurde. Dieser Vorfall dient jedoch als Warnsignal für den gesamten Bereich der Cybersicherheit und verdeutlicht die Notwendigkeit, zu beobachten, wie sich der Missbrauch von KI-Technologien durch Cyberangreifer entwickelt.