Zwanzig Minuten. Genau so viel Zeit benötigte das Modell Claude, um in einem der am besten abgesicherten Browser der Welt die erste schwerwiegende Sicherheitslücke aufzudecken. Als die Forscher von Anthropic Mozilla darüber informierten, bestand die Reaktion nicht aus einem höflichen Dankeschön. Es war ein dringender Anruf. „Was haben Sie noch? Schicken Sie uns mehr“, sagte Brian Grinstead, Ingenieur bei Mozilla. Und das war erst der Anfang.
Fehlersuche bei Mozilla
Ende 2025 bemerkte das Team von Anthropic, dass sein Modell Claude Opus 4.5 kurz davorstand, alle Aufgaben im CyberGym-Benchmark zu lösen, der die Fähigkeit von Sprachmodellen testet, bekannte Sicherheitslücken zu reproduzieren. Es wollte einen schwierigeren, realistischeren Test. Einen, der prüfen würde, ob KI Fehler finden kann, die noch niemand entdeckt hat.
Die Wahl fiel auf Firefox. Warum gerade dieser Browser? Mozilla betreibt seit über 30 Jahren ein Bug-Bounty-Programm und zahlt Forschern für jede schwerwiegende Sicherheitslücke bis zu 6.000 US-Dollar. Hunderte Millionen Menschen nutzen ihn täglich. Wenn die KI hier Fehler finden könnte, wäre das eine echte Bestätigung ihrer Fähigkeiten. Das Team setzte Claude Opus 4.6 auf die aktuelle Version von Firefox an und gab ihm eine klare Aufgabe: Finde Fehler, die noch niemand gemeldet hat. Zunächst konzentrierte es sich auf die JavaScript-Engine des Browsers. Sie verarbeitet nicht vertrauenswürdigen Code aus dem gesamten Internet und bietet potenziellen Hackern eine riesige Angriffsfläche.
Nach nur zwanzig Minuten Untersuchung meldete Claude, eine Use-After-Free-Schwachstelle gefunden zu haben. Dabei handelt es sich um einen Fehler bei der Speicherverwaltung, der es einem Angreifer ermöglichen könnte, Daten mit beliebigen schädlichen Inhalten zu überschreiben. Die Forscher überprüften den Fehler, reichten einen Bericht bei Bugzilla ein und fügten einen von Claude selbst verfassten Patch-Vorschlag bei. Und während all das geschah? Claude entdeckte unterdessen fünfzig weitere einzigartige Browserabstürze. Das Tempo war überwältigend.
Die Ergebnisse überraschten selbst Mozilla
Die Gesamtbilanz der zweiwöchigen Zusammenarbeit spricht für sich. Claude Opus 4.6 durchsuchte fast 6.000 C++-Dateien und reichte insgesamt 112 einzigartige Meldungen ein. Mozilla vergab 22 CVE-Kennungen und stufte 14 davon als hochgradig schwerwiegende Sicherheitslücken ein.
Was bedeutet das in der Praxis? Firefox behob im gesamten Jahr 2024 insgesamt 73 hochgradig schwerwiegende oder kritische Fehler. Claude fand 14 davon in zwei Wochen. Mozilla bestätigte, dass das Modell in dieser kurzen Zeit mehr schwerwiegende Sicherheitslücken aufdeckte, als die gesamte weltweite Sicherheitsgemeinschaft üblicherweise in zwei Monaten meldet. Alle Korrekturen wurden den Nutzern mit Firefox 148.0 bereitgestellt.
Interessanterweise entdeckte Claude nicht nur klassische Fehlertypen, die auch durch herkömmliches Fuzzing aufgedeckt würden. Er identifizierte zudem unterschiedliche Klassen logischer Fehler, die automatisierte Werkzeuge zuvor übersehen hatten.
Kann KI eine solche Sicherheitslücke auch ausnutzen?
Hier kommt der beunruhigende Teil der Geschichte. Das Team von Anthropic testete, ob Claude Sicherheitslücken nicht nur aufdecken, sondern auch einen funktionsfähigen Exploit erstellen kann, also ein Werkzeug, das ein Angreifer für einen echten Angriff verwenden würde.
Die Forscher führten den Test mehrere Hundert Mal durch und gaben dafür etwa 4.000 US-Dollar an API-Guthaben aus. Claude war nur in zwei Fällen erfolgreich. Das Modell ist somit deutlich besser darin, Fehler zu finden, als sie auszunutzen. Doch selbst dieser begrenzte Erfolg ist alarmierend. Die Exploits funktionierten nur in einer Testumgebung, in der einige Sicherheitsmechanismen eines realen Browsers fehlten. Die tatsächlichen Schutzmechanismen von Firefox hätten beide Angriffe blockiert.
Logan Graham, der das Frontier Red Team von Anthropic leitet, schrieb: Die Lücke zwischen der Fähigkeit der KI, Sicherheitslücken zu finden, und ihrer Fähigkeit, diese auszunutzen, wird wahrscheinlich nicht ewig bestehen bleiben.
Mozilla wird Claude einsetzen
Die Zusammenarbeit zwischen Anthropic und Mozilla hat gezeigt, wie eine solche Arbeit aussehen sollte. Mozilla hob drei Dinge hervor, die für die Vertrauenswürdigkeit der Meldungen entscheidend waren: minimale Testfälle, detaillierte Nachweise der Reproduzierbarkeit und vorgeschlagene Patches. Nach dieser Erfahrung begannen die Mozilla-Ingenieure selbst, mit Claude für interne Sicherheitszwecke zu experimentieren.
Die Tatsache, dass KI Software schützen kann, die von Hunderten Millionen Menschen genutzt wird, ist eine großartige Nachricht. Anthropic plant, seine Aktivitäten auf weitere Projekte auszuweiten, unter anderem auf den Linux-Kernel. Gleichzeitig gilt jedoch, dass das Zeitfenster für die Verteidiger nur vorübergehend geöffnet ist. Entwickler sollten diese Zeit nutzen und die Sicherheit ihrer Software stärken, bevor diejenigen davon Gebrauch machen, die andere Absichten verfolgen.
