Künstliche Intelligenz hat sich in der kriminellen Unterwelt von der Versuchsphase in den Regelbetrieb verlagert. Das geht sowohl aus dem Halbjahresbericht über Bedrohungen des Sicherheitsunternehmens Flashpoint hervor, der die erste Hälfte dieses Jahres erfasst, als auch aus einer Analyse des japanischen Unternehmens Trend Micro. Beide Erkenntnisse weisen in dieselbe Richtung. Angreifer fragen sich nicht mehr, ob ihnen künstliche Intelligenz etwas nützt. Sie überlegen, wie sie mit möglichst wenig Geld möglichst viel aus ihr herausholen können.
Eigene Modelle
Die Analysten von Flashpoint werteten fast vier Petabyte an Material aus. Der Großteil stammt aus spezialisierten Foren, verschlüsselten Kanälen und von Servern, die den Angreifern gehören. Kriminelle Werkzeuge, die künstliche Intelligenz nutzen, tauchten dort in mehr als zweiundzwanzig Millionen Beiträgen auf.
Ein großer Teil dieser Werkzeuge ist von öffentlich zugänglichen Plattformen verschwunden. Die Gruppen haben nämlich begonnen, eigene Sprachmodelle mit entfernten Sicherheitsvorkehrungen auf einer von ihnen selbst kontrollierten Infrastruktur zu betreiben. Sie nutzen sie zur Auswahl potenzieller Opfer, zum Schreiben von Skripten zur Umgehung von Antivirenprogrammen, zur Vorbereitung betrügerischer E-Mails und zur Erstellung von Code, der Schwachstellen in Programmen ausnutzt. Von außen ist eine solche Tätigkeit nahezu unsichtbar, und die Sicherheitsteams haben dadurch einen Teil des Überblicks verloren, den sie früher hatten.
Die Lage verschlechtert sich
Innerhalb von sechs Monaten gelangte Malware, die auf den Diebstahl von Anmeldedaten ausgerichtet ist, auf 7,4 Millionen Computer weltweit. Das Ergebnis waren 1,7 Milliarden gestohlene Passwörter und weitere mit der Identität der Nutzer verbundene Daten. Am aktivsten war Schadsoftware aus den Familien Vidar, StealC und Lumma. Diese Programme werden im Abonnement angeboten und sammeln unbemerkt aktive Anmeldetoken aus Browsern auf infizierten Computern. Ein Angreifer mit einem solchen Token benötigt das Passwort des Opfers überhaupt nicht mehr.
Ähnlich beschleunigt hat sich die Ausnutzung von Softwarefehlern. Im ersten Halbjahr wurden mehr als einundzwanzigtausend davon veröffentlicht, und fast jeder fünfte wurde direkt mit funktionsfähigem Code zu seiner Ausnutzung bekannt gemacht. Bei 4 015 davon war ein solcher Code frei verfügbar. Mehr als 34 Prozent der Schwachstellen wurden als kritisch oder mit hohem Schweregrad eingestuft. Laut Flashpoint können Sicherheitsteams die Fehlerbehebungen daher nicht mehr allein nach Schweregrad priorisieren, weil sie ein solches Volumen schlicht nicht bewältigen können.
Erpressungsangriffe verzeichneten einen Anstieg. Die Zahl der bestätigten Opfer stieg um 45 Prozent auf mehr als sechstausend, davon entfielen rund 2 700 Fälle auf die USA. Am häufigsten wurden Fertigungsunternehmen zum Ziel, die 18 Prozent der Fälle ausmachten. Die meisten Opfer gehen mit 901 Angriffen auf das Konto der Gruppe Qilin, gefolgt von den Organisationen Akira, 0APT, The Gentlemen und Dragon Force. Die fünf größten Banden sind für 44 Prozent aller Angriffe verantwortlich.
Die gesamten Lösegeldzahlungen in Kryptowährungen sanken um etwa acht Prozent auf 820 Millionen Dollar, und der Anteil der Opfer, die zahlten, ging auf 28 Prozent zurück, was möglicherweise den historisch niedrigsten Wert darstellt. Auch der Zugang zu kompromittierten Netzwerken selbst wurde günstiger. Automatisierte Werkzeuge drückten den Durchschnittspreis für einen verkauften Zugang um 69 Prozent auf 439 Dollar.
Jailbreak als Dienstleistung
Trend Micro betrachtete dasselbe Phänomen von der anderen Seite, konkret das Angebot von Waren und Dienstleistungen unter den Kriminellen selbst. Das Forschungsteam des Unternehmens analysierte Dienstleistungen der Unterwelt, Schadcode-Proben sowie laufende Angriffskampagnen vom Ende des vergangenen Jahres. Es kam zu dem Schluss, dass sich die Aufmerksamkeit der Angreifer von Experimenten hin zu Zuverlässigkeit und niedrigen Kosten verlagert hat.
Am deutlichsten zeigt sich dieser Trend bei Diensten, die Beschränkungen kommerzieller Chatbots umgehen. In den Foren erscheinen weiterhin Angebote für unzensierte Werkzeuge, die künstliche Intelligenz nutzen, doch die meisten davon verschwinden schnell wieder. Erfolgreich sind diejenigen, die keine eigenen Modelle entwickeln, sondern den Schutz großer Plattformen zuverlässig überwinden können. Damit profitieren sie im Grunde parasitär von den Milliardeninvestitionen kommerzieller Unternehmen. Trend Micro führt für dieses Modell die Bezeichnung Jailbreak als Dienstleistung ein und weist darauf hin, dass Käufer für seine Nutzung keine besonderen Kenntnisse mehr benötigen.
Malware und Deepfake
Die Forscher registrierten auch die ersten Schadcode-Proben, die während der Ausführung Anfragen an ein Sprachmodell senden und sich abhängig von der Antwort selbst verändern. Jede Infektion kann dadurch etwas anders aussehen. Bislang handelt es sich eher um einen Hinweis als um eine verbreitete Praxis, weil solche Proben auf zahlreiche Einschränkungen stoßen und niemand sie in großem Umfang einsetzt. Sie zeigen jedoch, in welche Richtung ihre Urheber denken. Statt alles direkt in das Programm einzubauen, nutzen sie künstliche Intelligenz als externen Dienst, den sie bei Bedarf aufrufen.
Am weitesten fortgeschritten ist der Missbrauch synthetischer Bilder und Stimmen. Werkzeuge zum Austausch von Gesichtern, zum Klonen von Stimmen und zur Bearbeitung von Fotos sind heute günstig oder völlig kostenlos, darunter auch Anwendungen, die aus einem gewöhnlichen Bild eine nackte Person erstellen. Betrüger geben sich mit ihrer Hilfe als andere Personen aus, dringen in Unternehmen ein, stehlen Geschäftsinformationen oder rufen Familien an, um sie zu erpressen.
Trend Micro fügt hinzu, dass dadurch die gesamte Grundlage der Identitätsprüfung unter Druck gerät. Unternehmen werden überdenken müssen, wie sie Kommunikation und Zahlungen bestätigen, da weder Stimme noch Bild für sich genommen noch etwas beweisen.
Der Bericht von Flashpoint bringt die Kampfhandlungen im Nahen Osten mit einer Zunahme staatlich unterstützter Angriffe in Verbindung. Lieferketten, Banken und industrielle Steuerungssysteme wurden zu Zielen. Die Analysten entdeckten in diesen Kampagnen mehrere Arten destruktiver Malware, die Daten nicht für Lösegeld verschlüsselt, sondern sie direkt zerstört.
Die Verteidiger sind vorerst im Vorteil
David Sancho, der sich im Unternehmen mit der Erforschung von Bedrohungen beschäftigt, beschrieb den Ausblick für dieses Jahr als schrittweise und nicht katastrophal. Seiner Ansicht nach wird es keinen plötzlichen Ausbruch eines durch künstliche Intelligenz gesteuerten Chaos geben. Er erwartet vielmehr eine langsame und kontinuierliche Verbesserung bereits vorhandener Werkzeuge. Gerade dadurch wird die Unterwelt jedoch widerstandsfähiger gegen Eingriffe der Polizei. Sicherheitsunternehmen behalten vorerst ihren Vorteil bei der Erkennung, bei Bedrohungsinformationen und bei der automatisierten Untersuchung von Vorfällen. Dieser Vorsprung schrumpft jedoch, weil Angreifer dieselbe Technologie systematischer als früher einsetzen und die Schutzmechanismen bisweilen hinter dem Tempo zurückbleiben, mit dem künstliche Intelligenz auf der anderen Seite genutzt wird.
Quellen: siliconangle.com und securitybrief.co.uk
