OpenAI bereitet eine weitere Runde interner Sicherheitstests vor und hat dafür unerwartete Verbündete hinzugezogen. Es handelt sich um das geheimnisvolle Startup Cathedral, das von einer Gruppe ehemaliger junger Mitarbeiter Elon Musks aus der Regierungsbehörde DOGE gegründet wurde. Das Unternehmen rückte erst vor Kurzem ins öffentliche Bewusstsein, als es nach eigenen Angaben in die internen Systeme des Konkurrenten Anthropic eindrang.
Die Forscher von Cathedral werden laut OpenAI dessen Modelle künstlicher Intelligenz nutzen und gemeinsam mit den Teams des Unternehmens untersuchen, wo es Schwachstellen gibt. OpenAI begründet dies ganz einfach. Künstliche Intelligenz wird immer besser darin, Sicherheitslücken aufzuspüren, und wer Systeme verteidigt, muss sie einsetzen, bevor es die Angreifer tun.
Einbruch bei Anthropic in weniger als einem Tag oder in mehreren Tagen?
Cathedral wurde dadurch bekannt, dass es im Rahmen eines Programms, bei dem das Unternehmen für gefundene Fehler bezahlt, in die privaten Systeme von Anthropic eindrang. Vertreter des Startups sagten der Washington Post, sie hätten dafür weniger als zwölf Stunden gebraucht. Zu ihrem Erfolg lieferten sie auch eine Liste dessen, worauf sie zugreifen konnten, darunter Slack-Nachrichten, Stellenangebote und Sitzungsprotokolle.
Anthropic widerspricht jedoch ihrer Darstellung. Der Leiter der Cybersicherheit, Logan Graham, schrieb auf X, dass der Einbruch tatsächlich mehrere Tage gedauert habe. Ihm zufolge gelangten die Angreifer nicht in die sensibelsten Bereiche des Unternehmens, also weder an die Modellgewichte noch an die Unterhaltungen der Nutzer mit Claude. Graham wies außerdem darauf hin, dass Cathedrals Vorgehen ungewöhnlich gewesen sei und von den Regeln abgewichen sei, die Anthropic für die Fehlersuche festgelegt hatte. Die Hacker nutzten nämlich mehrere Schwachstellen in Software von Drittanbietern aus.
Da KI immer besser darin wird, Schwachstellen zu finden, müssen Verteidiger sie einsetzen, bevor Angreifer es tun. Wir planen unseren nächsten internen Sicherheitssprint bei OpenAI und arbeiten dabei mit Cathedral Systems zusammen, dessen Forscher unsere Modelle gemeinsam mit unseren Teams einsetzen werden, um unsere Abwehr auf die Probe zu stellen. Sie werden ihre besonderen Fachkenntnisse und Ansätze in unsere laufenden Bemühungen einbringen, mithilfe von KI Schwachstellen zu finden und zu beheben. Außerdem erhöhen wir die Prämien unseres Bug-Bounty-Programms, darunter eine mehr als Vervierfachung der Belohnungen für kritische Funde. Außergewöhnliche Entdeckungen können einschließlich Boni mit bis zu 172.000 US-Dollar belohnt werden. Wir werden unsere Modelle weiterentwickeln, sie zur Stärkung unserer eigenen Systeme einsetzen und vertrauenswürdigen Sicherheitsexperten einen breiteren Zugang ermöglichen. https://t.co/vcaoHROTt2
— OpenAI (@OpenAI) 3. November 2026
Höhere Prämien und Alarmstimmung wegen PHP
Die Zusammenarbeit mit Cathedral ist nur ein Teil des Plans. OpenAI kündigte zugleich an, die Prämien für Personen zu erhöhen, die Sicherheitslücken in seinen Systemen finden. Für die schwerwiegendsten Funde zahlt das Unternehmen mehr als das Vierfache der bisherigen Summe, und außergewöhnliche Entdeckungen können einschließlich Boni bis zu 172.000 US-Dollar einbringen. Das Unternehmen gab nicht an, von welcher Ausgangssumme es dabei ausgeht. Die Website Gizmodo erinnert daran, dass OpenAI bereits im März vergangenen Jahres eine Erhöhung der höchsten Prämie von 20.000 auf 100.000 US-Dollar angekündigt hatte. Ob sich die neue Erhöhung auf diesen Betrag bezieht, ist bislang jedoch unklar. OpenAI versprach auf X, seine Modelle weiter zu verbessern, sie zum Schutz der eigenen Systeme einzusetzen und geprüften Sicherheitsexperten Zugang zu ihnen zu gewähren.
Damit reagiert das Unternehmen auf ein Ereignis, das die Cybersicherheitsbranche ähnlich aufgeschreckt hat wie einst die Angst vor dem Jahr-2000-Problem. Ende Oktober entdeckten Forscher schwerwiegende Schwachstellen in PHP, einer jahrzehntealten Programmiersprache, auf der rund 70 Prozent aller Websites laufen. Regierungen und andere Organisationen weltweit nahmen ihre Websites vorsorglich vom Netz, um Angriffen vorzubeugen und kurzfristig einen Patch einspielen zu können.
Bei der Entdeckung der Fehler in PHP half ausgerechnet ein Modell von OpenAI. Das Unternehmen startete daraufhin eine weltweite Aktion mit dem Namen „Flickt den Planeten“, deren Ziel es ist, weitere Sicherheitslücken aufzuspüren und zu schließen, die sich in weitverbreiteter Software verbergen könnten. In einem Blogbeitrag schrieb OpenAI, die jüngsten Vorfälle in der Branche zeigten, wie schnell neue Bedrohungen entstehen können und warum es notwendig sei, kontinuierlich nach Schwachstellen zu suchen und sie zu beheben, bevor jemand sie ausnutzt.
Die jungen Männer von DOGE und ihr geheimnisvolles Unternehmen
Die Gründer des Startups, Gavin Kliger, Luke Farritor, Marko Elez und Jack Stein, gehörten zu Elon Musks jungen Mitarbeitern in der nur kurz bestehenden Behörde DOGE. Diese sollte zu Beginn der zweiten Amtszeit von Donald Trump die Bundesausgaben kürzen und drängte mehr als eine Viertelmillion Staatsbedienstete aus ihren Stellen.
Kliger, der Cathedral als Geschäftsführer leitet, arbeitete zuvor als Entwickler beim Unternehmen Databricks. Von Dezember bis April dieses Jahres war er laut seinem LinkedIn-Profil als Chief Data Officer des US-Kriegsministeriums tätig. Farritor absolvierte ein Praktikum bei SpaceX und erhielt 2024 ein Thiel-Stipendium. Er gehörte außerdem zu dem Team, das bei der Vesuvius Challenge 700.000 US-Dollar gewann, nachdem es mithilfe künstlicher Intelligenz eine antike Papyrusrolle entziffert hatte, die bei einem Vulkanausbruch verkohlt war.
Elez arbeitete bei SpaceX, bei X und bei xAI. Bekannt wurde er durch seinen Rücktritt bei DOGE, nachdem ihn das Wall Street Journal mit einem anonymen Konto auf X in Verbindung gebracht hatte, das voller rassistischer Beiträge war. Nachdem Vizepräsident JD Vance sich für ihn eingesetzt hatte, versprach Musk umgehend, ihn wieder einzustellen, und fügte hinzu, Irren sei menschlich und Vergeben göttlich. Beim vierten Gründer, Jack Stein, gelang es Journalisten nicht herauszufinden, wer genau er ist.
Cathedral wurde in diesem Jahr gegründet und nach einer von Andreessen Horowitz und Sequoia Capital angeführten Finanzierungsrunde über 160 Millionen US-Dollar von Investoren mit 1,4 Milliarden US-Dollar bewertet. Die Nachrichtenagentur Reuters berichtete im Juli unter Berufung auf ungenannte Quellen, das Unternehmen wolle sowohl die offensiven als auch die defensiven Cyberfähigkeiten des US-Militärs gegenüber Gegnern wie China stärken. In der Öffentlichkeit gibt das Startup jedoch nur sehr wenig über sich preis. Seine Website besteht lediglich aus einem weißen Schriftzug mit dem Firmennamen auf schwarzem Hintergrund, und sein Profil auf X enthält weder einen einzigen Beitrag noch ein Logo, sondern nur eine knappe Beschreibung über den Schutz wichtiger amerikanischer Infrastruktur.
Quelle: gizmodo.com
