Firefox gehört zu den am gründlichsten geprüften Browsern der Welt. Zwei Jahrzehnte Sicherheitsprüfungen, Tausende Stunden Fuzzing, Spitzenforscher aus aller Welt. Und dennoch hat das Modell Mythos Preview den Quellcode durchforstet und innerhalb kurzer Zeit 271 Sicherheitslücken ans Licht gebracht, die dort unbemerkt auf einen Angreifer oder eine KI gewartet hatten. Diesmal war die KI schneller.
Was ist eigentlich passiert und wo begann es?
Alles begann im Februar, als sich das Frontier Red Team von Anthropic mit Firefox zu beschäftigen begann. Sein Ansatz unterschied sich von Anfang an von klassischen Penetrationstests. Statt den Code manuell zu durchsuchen, setzte das Team Claude ein, damals noch das Modell Opus 4.6, und ließ es die JavaScript-Engine von Firefox analysieren.
Die Ergebnisse ließen nicht lange auf sich warten. Anthropic lieferte Mozilla Testfälle, mit deren Hilfe die Ingenieure jeden Fehler sofort reproduzieren und überprüfen konnten. Innerhalb weniger Stunden begannen sie mit der Behebung. Insgesamt deckte diese Zusammenarbeit 14 äußerst schwerwiegende Fehler auf und führte zur Veröffentlichung von 22 CVEs (Kennungen für Sicherheitslücken), die in der im März veröffentlichten Version Firefox 148 behoben wurden.
Zum Vergleich: Firefox durchläuft eines der intensivsten Sicherheitstestverfahren im Web. Dennoch fand das Modell Dinge, die Fuzzing, statische Analyse und menschliche Forscher jahrelang nicht entdeckt hatten.
Mythos fand weitere 271 Sicherheitslücken
Nach den Ergebnissen vom März setzte Mozilla die enge Zusammenarbeit mit Anthropic fort und erhielt Zugang zu einer neuen, damals noch unveröffentlichten Version des Modells namens Mythos Preview. Diesmal wurde es auf Firefox Version 150 angesetzt. Die daraus hervorgegangene Zahl ließ das Team nach eigenen Worten schwindelig werden. 271 Sicherheitslücken in einer einzigen Testrunde bei einer Software, die seit mehr als zwanzig Jahren ununterbrochen getestet wird.
„Bei einem derart widerstandsfähigen Ziel wäre im vergangenen Jahr bereits ein einziger solcher Fehler ein ernstes Signal gewesen. So viele auf einmal bringen einen dazu, innezuhalten und darüber nachzudenken, ob man überhaupt Schritt halten kann“, schrieb Bobby Holley, technischer Leiter von Firefox, in einem Blogbeitrag. Mozilla behob daraufhin alle gefundenen Fehler. Firefox 150, das diese Woche veröffentlicht wurde, ist daher die am besten abgesicherte Version des Browsers in seiner Geschichte.
Mythos ist jedoch nicht als Sicherheitstool konzipiert
Anthropics Mythos Preview ist kein spezialisierter Schwachstellenscanner. Es handelt sich um ein allgemeines Programmiermodell. Die Fähigkeit, Sicherheitslücken zu finden, ist nicht das Ergebnis eines gezielten Designs, sondern ein Nebenprodukt der Tatsache, dass das Modell Code wirklich gut lesen und analysieren kann.
Mythos kann vollständige, umfangreiche Codebasen im Kontext behalten, den Ausführungsablauf des Codes verfolgen und Unstimmigkeiten zwischen dem, was der Code tut, und dem, was der Entwickler beabsichtigt hat, aufdecken. Genau diese Fähigkeit, die bis vor Kurzem ausschließlich erfahrenen Sicherheitsforschern vorbehalten war, funktioniert nun automatisch.
„Noch vor wenigen Monaten konnten Computer das überhaupt nicht, und jetzt sind sie hervorragend darin“, sagt Holley. „Wir haben viele Jahre Erfahrung damit, die Arbeit der besten Sicherheitsforscher der Welt zu analysieren, und Mythos Preview ist noch leistungsfähiger.“ Mit anderen Worten: Was früher monatelange, teure menschliche Arbeit erforderte, schafft das Modell in einem Bruchteil der Zeit und zu einem Bruchteil der Kosten.
Warum dies den Verteidigern mehr nützt als den Angreifern
Die Cybersicherheit beruhte jahrelang auf dem Prinzip eines kostspieligen Gleichgewichts. Ein Angreifer musste nur eine einzige Lücke finden. Der Verteidiger musste alles schützen. Unternehmen wie Mozilla versuchten daher, Angriffe so teuer zu machen, dass sie nur von staatlichen Akteuren mit praktisch unbegrenzten Budgets finanziert werden konnten – und selbst diese würden es sich zweimal überlegen, ob sie eine so teure Waffe tatsächlich einsetzen. Mythos macht diese Rechnung komplizierter. Aber nicht zugunsten der Angreifer.
„Die Lücke zwischen dem, was eine Maschine entdecken kann, und dem, was ein Mensch entdecken kann, verschafft dem Angreifer einen Vorteil“, erklärt Holley. „Indem wir diese Lücke verkleinern, nehmen wir den Angreifern langfristig ihren Vorteil, weil wir alle Entdeckungen billiger machen.“ Sobald Verteidiger und Angreifer dieselben Werkzeuge nutzen können, gewinnt derjenige, der früher mehr Dinge behebt. Und die Verteidiger haben einen Anreiz, Sicherheitslücken zu schließen, die Angreifer nicht. Holley erklärte daher in Fettschrift: „Die Verteidiger haben endlich eine Chance zu gewinnen.“
Zugleich betonte er einen beruhigenden Punkt: Keine der 271 gefundenen Sicherheitslücken war von einer Art, die nicht auch ein erfahrener menschlicher Forscher hätte finden können. Spekulationen darüber, dass KI völlig neue Kategorien von Sicherheitslücken aufdecken könnte, die das menschliche Gehirn nicht einmal erfassen kann, haben sich bislang nicht bestätigt. „Software wie Firefox ist modular aufgebaut, damit Menschen über ihre Korrektheit nachdenken können. Sie ist komplex, aber nicht beliebig komplex“, schreibt Holley.
Open-Source-Code ist als Erstes an der Reihe. Und am schlechtesten aufgestellt
Firefox ist Open Source. Jeder kann den Quellcode herunterladen und einsehen. Das ist hervorragend für die Transparenz, bedeutet aber zugleich, dass jeder den öffentlich zugänglichen Code so analysieren kann wie Mythos oder ähnliche Modelle. Angreifer wie Verteidiger.
Mozilla ist sich dessen bewusst und teilt aktiv Wissen und Werkzeuge mit anderen Projekten aus dem Bereich der freien Software. Denn das Problem ist umfassender. Das moderne Internet beruht auf Tausenden Bibliotheken und Werkzeugen, die von einem oder wenigen Freiwilligen in ihrer Freizeit betreut werden. Diese Menschen haben keinen Zugang zu Mythos. Sie verfügen auch nicht über die Ressourcen, um Hunderte Fehlermeldungen zu bearbeiten, selbst wenn sie diese erhielten.
„Ein Programmierer, der 20 Jahre seines Lebens der Pflege von Code gewidmet hat, der in Produkten läuft, die von Milliarden Menschen genutzt werden, hat bislang keinen Zugang zu Mythos. Er sollte ihn haben.“ Das schrieb Raffi Krikorian, technischer Leiter von Mozilla, für die New York Times.
Bobby Holley bestätigt, dass die Situation große Unternehmen zu einem Kurswechsel zwingen wird. „Ich habe mit technischen Leitern sehr großer Unternehmen gesprochen, die sagen, dass sie Tausende Ingenieure von allen anderen Aufgaben abziehen, damit diese sich sechs Monate lang darauf konzentrieren“, sagt er. Kleine Projekte und ehrenamtliche Betreuer verfügen jedoch schlicht nicht über solche Kapazitäten.
Der Zugang zu Mythos steht nicht allen offen
Anthropic veröffentlichte Mythos Preview lediglich innerhalb einer geschlossenen Gruppe von zwölf Partnerunternehmen und erweiterte den Zugang auf mehr als 40 weitere Organisationen, die kritische Softwareinfrastruktur verwalten. Für die Öffentlichkeit ist das Modell bislang nicht verfügbar. Zur Initiative Project Glasswing gehören unter anderem Microsoft, Apple und Amazon.
Der Grund, warum Anthropic das Modell nicht allgemein zugänglich gemacht hat, ist ungewöhnlich. Nach eigenen Angaben des Unternehmens ist das Modell zu leistungsfähig, um sicher für alle veröffentlicht zu werden.
Mozilla ist dabei formell kein Teil von Project Glasswing. Das Unternehmen nahm direkt Kontakt zu Anthropic auf und durchlief als eines der ersten das, was Holley als unvermeidlichen Übergang für jede Software beschreibt. „Jede Software wird diesen Prozess durchlaufen müssen, denn in jeder Software sind unter der Oberfläche zahlreiche Fehler verborgen, die jetzt entdeckt werden können“, sagt er.
Quellen: theregister.com und wired.com
