Das Sicherheitsteam von Anthropic kaufte fünfzehn günstige TV-Boxen mit Android, verband sie miteinander und ließ darauf ein KI-Sprachmodell laufen. Das System arbeitete sehr langsam, funktionierte aber. Der Versuch ist Teil einer Studie, der zufolge kleine Modelle möglicherweise nur noch Monate davon entfernt sind, sich wie ein Computervirus selbstständig von einem Gerät auf ein anderes kopieren zu können. Kritiker werfen dem Unternehmen jedoch vor, Angst vor etwas zu schüren, das bislang nicht existiert.
KI auf einer 55-Dollar-Box
Veröffentlicht wurde die Studie von einem Team, das bei Anthropic nach gefährlichen Fähigkeiten künstlicher Intelligenz sucht, bevor sie sich in der Praxis zeigen. Es wollte herausfinden, ob sich ein sogenannter KI-Wurm, also ein Programm, das sich ohne menschliches Eingreifen über ein Netzwerk verbreitet, auch in gewöhnlicher Unterhaltungselektronik einnisten könnte.
Große Modelle wie ChatGPT oder Claude laufen in riesigen Rechenzentren, wo ihre Entwickler sie überwachen und jederzeit abschalten können. Kleine offene Systeme hingegen kann jeder herunterladen und ausführen. Die Forscher griffen daher zu markenlosen TV-Boxen, die rund 55 Dollar kosten, nur über 4 GB Arbeitsspeicher verfügen und von den Herstellern kaum abgesichert werden.
Das Gemma-Modell von Google passte nicht auf eine einzelne Box, weshalb sie es in Teile aufteilten und jedes Gerät nur einen kleinen Abschnitt berechnete. Das Modell erzeugte ungefähr alle drei Sekunden ein Wort. Für ein Gespräch mit einem Menschen ist das unbrauchbar, für stille Hintergrundarbeit reicht es jedoch aus.
Ein Wurm in einem geschlossenen Netzwerk
Dann folgte der Haupttest. Das Team richtete ein isoliertes Netzwerk aus acht Computern ein, die Android-Geräte simulierten, und setzte auf einem von ihnen einen Wurm ein. Dieser sollte selbstständig die übrigen Rechner finden, sich auf sie kopieren, dort das Modell in Betrieb nehmen und sich weiterverbreiten.
Nur das chinesische Modell GLM-5.2 des Unternehmens Z.ai bewältigte die gesamte Aufgabe zuverlässig. In vier von fünf Versuchen übernahm es alle acht Computer, im fünften sieben. Kleinere Systeme kamen mit einzelnen Schritten zurecht, scheiterten jedoch an deren Kombination. Ein kleines Modell mit neun Milliarden Parametern konnte dennoch selbstständig künstliche Intelligenz auf acht von neun verschiedenen Hardwaretypen starten.
Der Test enthielt gewisse Erleichterungen. Auf die Computer konnte ohne Passwort zugegriffen werden, und das Steuerungssystem lief auf einem leistungsfähigeren externen Server außerhalb des Testnetzwerks. Die Autoren erinnern jedoch daran, dass sich das berüchtigte Botnetz Mirai, also ein Netzwerk infizierter und von Angreifern kontrollierter Geräte, einst allein mithilfe werkseitig voreingestellter Standardpasswörter verbreitete.
Langsam, aber schwer zu stoppen
Kleine Modelle verbessern sich den Forschern zufolge so schnell, dass sie bis Ende dieses Jahres das Niveau von GLM-5.2 erreichen könnten. Sie fügen jedoch selbst hinzu, dass es sich dabei um eine grobe Schätzung handelt.
Sie berechneten auch das mögliche Ausmaß einer Infektion. Als Vorbild diente ihnen das Botnetz Kimwolf, das mehr als zwei Millionen Geräte infizierte, vor allem TV-Boxen. In einem solchen Netzwerk könnten rund 133.000 Kopien des Modells laufen, insgesamt jedoch mit einer Rechenleistung von höchstens vierzig High-End-Grafikkarten. Ein einzelner Kopiervorgang würde ein bis zwei Tage dauern, sodass sich die Zahl der infizierten Geräte innerhalb von Tagen und nicht von Minuten verdoppeln würde. Das Hauptproblem besteht darin, dass ein solcher Wurm kein zentrales System besitzt, das sich abschalten ließe.
Gewöhnliche Computerwürmer greifen einen bestimmten Hardwaretyp an. Ein KI-Wurm könnte selbstständig mit einem unbekannten Gerät zurechtkommen und aus seinen eigenen Fehlern lernen. Als das Modell Notizen anlegte und sie an die nächste Kopie weitergab, stieg seine Erfolgsquote von 45 Prozent auf 84 Prozent. Ratschläge des wesentlich intelligenteren Modells Claude halfen ihm dagegen nicht, weil es nicht wusste, wonach es fragen sollte. Auch beim Verfassen betrügerischer Nachrichten zur Täuschung von Menschen schnitt es schlecht ab.
Kritiker: Der Versuch war auf Erfolg ausgelegt
Gregory Kurtzer, Gründer von Rocky Linux, wies darauf hin, dass die Modelle ausdrücklich angewiesen worden seien, sich zu verbreiten, und ohne Passwort offenen Zugang zu den Computern gehabt hätten. Seiner Ansicht nach wurde das Experiment so angelegt, dass es erfolgreich sein musste, und Angst allein sei kein Beweis. Ravid Shwartz-Ziv von der New York University merkte an, dass ein langsames Modell auf günstigen TV-Boxen als Schlagzeile nicht so viel Aufmerksamkeit erregen würde. Nach Ansicht vieler Fachleute warnt Anthropic erneut vor einer Bedrohung, die bislang nicht existiert.
Anthropic räumt diese Einschränkungen ein. Das Unternehmen bezeichnet die Ergebnisse lediglich als erste Anzeichen eines möglichen Risikos und nicht als einen bereits fertigen gefährlichen Wurm.
Wie man sich schützen kann
Den Forschern zufolge sind für die Abwehr keine neuen Technologien erforderlich. Ein sich verbreitender Wurm würde durch ungewöhnlichen Netzwerkverkehr auffallen, da er riesige Dateien zwischen den Geräten übertragen würde. Je schneller er sich verbreitete, desto leichter wäre er zu erkennen.
Beim Mirai-Botnetz erwies es sich als wirksam, dass Internetanbieter die Verbindung infizierter Kunden einschränkten und ihnen eine Anleitung zur Bereinigung des Systems anzeigten. Innerhalb von zwei Wochen verschwanden 92 Prozent der Infektionen, während es ohne Benachrichtigung der Nutzer nur 74 Prozent waren. Auch die Hersteller selbst können durch bessere Sicherheitsmaßnahmen helfen. In Großbritannien verbietet ein Gesetz bereits den Verkauf intelligenter Geräte mit werkseitig voreingestellten Standardpasswörtern. Eine vollständige Beseitigung des Wurms würde Experten zufolge jedoch die Zusammenarbeit aller betroffenen Internetanbieter erfordern, was in der Praxis kompliziert ist.
Quellen: reuters.com, fortune.com und finance.yahoo.com
