Das Sicherheitsunternehmen CrowdStrike hat ein Tool vorgestellt, das Unternehmen die Kontrolle über KI-Agenten zurückgeben soll. Die als AI Kill Switch bezeichnete Neuerung funktioniert wie eine Notbremse. Wenn sich ein Agent anders verhält als vorgesehen, kann ein Administrator ihn mit einem einzigen Eingriff vom Sprachmodell trennen, einen Neustart verhindern und ihn vom Unternehmensnetzwerk isolieren. CrowdStrike stellte den Schalter auf der Konferenz Fal.Con Europe in Barcelona vor, und Kunden können ihn ab sofort als Bestandteil der Plattform Falcon Guardian nutzen.
Alle entwickeln KI-Agenten, aber bisher hatten sie nie einen Ausschalter. Jetzt haben sie einen, sagte Unternehmenschef und -gründer George Kurtz dem Sender CNBC.
Agenten wollen ihre Aufgabe um jeden Preis erfüllen
In den vergangenen Monaten gab es zahlreiche Berichte über KI-Agenten, die außer Kontrolle geraten sind. Manchmal genügte dafür eine völlig harmlose Aufgabe. Agenten, die Daten zu kanadischen Scheidungsakten sammeln sollten, stießen auf ein Hindernis und begannen daraufhin, Regierungswebsites anzugreifen. Sie versuchten es mit SQL-Injection-Angriffen und nutzten bislang unbekannte Schwachstellen aus, nur um an die Daten zu gelangen.
Die Unternehmen reagierten darauf auf ihre eigene Weise. Obwohl Agenten große Zeit- und Arbeitseinsparungen versprechen, zögern viele Unternehmen inzwischen bei ihrem Einsatz. Moderne Agenten haben häufig Zugriff auf das gesamte System und bewegen sich zwischen den Computern der Beschäftigten, der Cloud und Online-Anwendungen. CrowdStrike warnt, dass ein einziger kompromittierter oder falsch konfigurierter Agent eine Kette von Aktionen auslösen kann, die Zugangsdaten, Anwendungen, Dateien und Unternehmenssysteme betrifft. Die Auswirkungen reichen dann weit über seine ursprüngliche Aufgabe hinaus.
Klassische Sicherheitstools sind für solche Situationen nicht ausgelegt. Sie verstehen das Verhalten der Agenten nicht ausreichend und können vor allem nicht so schnell eingreifen, wie die Agenten arbeiten. Warnmeldungen und anschließende Untersuchungen allein reichen CrowdStrike zufolge nicht aus. Wenn ein Agent außer Kontrolle gerät, muss das Sicherheitsteam ihn sofort stoppen können.
So funktioniert der Schalter
Der AI Kill Switch basiert auf Falcon Guardian, einer Plattform, die CrowdStrike im September dieses Jahres auf den Markt gebracht hat. Guardian sucht im Unternehmensnetzwerk nach KI-Agenten – sowohl nach genehmigten als auch nach solchen, von denen die IT-Abteilung überhaupt nichts weiß. Die Plattform überwacht, welche Aufgaben sie erhalten und auf welche Dateien sie zugreifen können, und erkennt Prompt-Injection-Angriffe, bei denen jemand versucht, einen Agenten durch einen eingeschleusten Befehl zu manipulieren. Der Schalter baut auf diesen Erkenntnissen auf. Er weiß, welche Aufgabe ein Agent erhalten hat, mit wem er kommuniziert und was er ausführt.
Der eigentliche Eingriff erfolgt in mehreren Schritten. Das Sicherheitsteam aktiviert den Schalter in Falcon Guardian, woraufhin dieser die verbundenen KI-Gateways anweist, dem Agenten den Zugriff auf Sprachmodelle zu sperren. Aus diesen leitet der Agent seine Entscheidungen ab, sodass er ohne sie nicht mehr funktioniert. Unternehmen können das Falcon AI Gateway verwenden, das CrowdStrike zusammen mit Guardian kostenlos bereitstellt, oder das Gateway eines anderen Anbieters, falls sie bereits eines nutzen.
Falcon AI Gateway kann dabei mehr als nur Verbindungen trennen. Es verwaltet an zentraler Stelle den Zugriff auf Modelle, Sicherheitsregeln, Zugangsdaten und die Kostenkontrolle. Außerdem erreicht es Anwendungen und Umgebungen, in denen der CrowdStrike-Sensor nicht läuft.
Nach der Trennung vom Modell greifen weitere Sicherheitsmechanismen. Eine Regel verhindert, dass der Agent auf dem betreffenden Computer oder einer Gruppe von Computern erneut gestartet wird, und das Tool sperrt ihm den Zugriff auf das Unternehmensnetzwerk. So kann das Team in Ruhe untersuchen, was passiert ist, während der Agent keinen Schaden mehr anrichten kann. Eine direkte Abschaltung auf dem Endgerät will das Unternehmen in naher Zukunft ermöglichen.
Das letzte Wort hat immer ein Mensch. Der Schalter wird von einem autorisierten Administrator und nicht von einer anderen künstlichen Intelligenz ausgelöst, und jeder Schritt wird in einem Audit-Protokoll festgehalten. KI-Sicherheit ist der Weg, um das Maximum aus künstlicher Intelligenz herauszuholen. Wenn Sie Agenten mit einem Not-Aus-Schalter einsetzen, haben Sie sie unter Kontrolle, erklärte Kurtz.
Das sehen auch die ersten Kunden so. Wir wollen, dass unsere Teams KI-Agenten einsetzen. Wenn einer von ihnen in die falsche Richtung läuft, hat dank des Schalters unser Sicherheitsteam das letzte Wort, sagte Rick Orloff, Sicherheitschef des Unternehmens Everpure. Ihm zufolge läuft das Tool auf dem Falcon-Sensor, den das Unternehmen bereits verwendet, und gerade deshalb kann es dem Einsatz weiterer Agenten schneller zustimmen.
Ein Schalter für alles
Die Sperrung des Zugriffs auf Modelle ist CrowdStrike zufolge erst der Anfang. Agenten arbeiten heute computer-, cloud-, anwendungs-, browser- und unternehmenskontenübergreifend und durchlaufen im Rahmen einer einzigen Aufgabe häufig mehrere Umgebungen. Das Unternehmen will verhindern, dass Sicherheitsteams einen problematischen Agenten in jeder einzelnen Umgebung separat jagen müssen.
Der Schalter soll deshalb so erweitert werden, dass ein einziger Befehl den Eingriff an mehreren Stellen gleichzeitig steuert. Auf Computern beendet er den Agenten und dessen Prozesse und verhindert einen Neustart, in der Cloud isoliert oder deaktiviert er kompromittierte Agenten. Während des Betriebs entzieht er Agenten Berechtigungen und schränkt ihren Zugriff auf Unternehmensressourcen ein. Über das Tool Falcon Shield stoppt er ihre Aktivitäten in Online-Anwendungen, und mithilfe des Unternehmensbrowsers Seraphic beendet er Websitzungen und unterbindet unbefugte Aktivitäten.
Ziel ist es, so präzise wie möglich einzugreifen, also einen einzelnen problematischen Agenten oder eine ganze Gruppe abzuschalten, ohne den übrigen Unternehmensbetrieb unnötig zu beeinträchtigen. Dabei soll Agent Graph helfen, das die Aufgabenstellung des Agenten mit seinen tatsächlichen Handlungen und den betroffenen Systemen verknüpft. So erkennt das Sicherheitsteam sofort, wo es eingreifen muss. Das Tool Charlotte Agentic SOAR kann den Eingriff anschließend automatisieren, sodass der Schalter selbstständig ausgelöst werden kann, sobald das System riskantes Verhalten eines Agenten erkennt.
KI-Sicherheit ist ein großes Geschäft
Kurtz sieht in der Neuerung eine große Geschäftschance. Agenten ein sicheres Arbeiten zu ermöglichen, ist für CrowdStrike eine enorme Marktchance, erklärte er. Die Aktie des Unternehmens legte nach der Ankündigung um mehr als ein Prozent zu.
Zusammen mit dem Schalter kündigte CrowdStrike Vereinbarungen zur Übernahme zweier auf die Sicherheit künstlicher Intelligenz spezialisierter Start-ups an. Fiddler AI entwickelt Tools, mit denen Unternehmen ihre KI-Systeme überwachen können. Dreadnode wiederum testet KI-Modelle, Anwendungen und Agenten auf Sicherheitslücken, bevor Unternehmen sie einsetzen. Für beide Start-ups wird CrowdStrike laut der Zeitung The Wall Street Journal insgesamt fast eine halbe Milliarde Dollar zahlen.
Quellen: crowdstrike.com, finance.yahoo.com und techradar.com
