OpenAI chystá další vlnu interního testování své bezpečnosti a přizvala si k tomu nečekané spojence. Jde o tajemný startup Cathedral, který založila skupina bývalých mladých spolupracovníků Elona Muska z vládního úřadu DOGE. Firma se do povědomí dostala teprve nedávno, když podle vlastních slov pronikla do interních systémů konkurenční společnosti Anthropic.
Výzkumníci z Cathedralu budou podle OpenAI využívat její modely umělé inteligence a spolu s jejími týmy zkoušet, kde má firma slabá místa. OpenAI to zdůvodňuje jednoduše. Umělá inteligence je stále lepší v hledání bezpečnostních děr, a kdo brání systémy, musí ji nasadit dřív než útočníci.
Průnik do Anthropicu za necelý den, nebo za několik dní?
Cathedral proslul tím, že se dostal do soukromých systémů Anthropicu v rámci programu, ve kterém firma platí za nalezené chyby. Zástupci startupu deníku Washington Post řekli, že jim to trvalo méně než dvanáct hodin. Ke svému úspěchu přidali i výčet toho, k čemu se dostali, mezi jinými zprávy ze Slacku, nabídky práce nebo přepisy schůzek.
Anthropic ale jejich verzi rozporuje. Šéf kybernetické bezpečnosti Logan Graham na síti X napsal, že průnik ve skutečnosti zabral několik dní. Podle něj útočníci nezasáhli nejcitlivější části firmy, tedy váhy modelů a konverzace uživatelů s Claudem. Graham také upozornil, že postup Cathedralu byl neobvyklý a vybočoval z pravidel, která Anthropic pro hledání chyb stanovil. Hackeři totiž stavěli na několika zranitelnostech v softwaru třetích stran.
As AI becomes more capable at finding vulnerabilities, defenders need to put it to work before attackers do. We’re planning our next internal security sprint at OpenAI and partnering with Cathedral Systems, whose researchers will use our models alongside our teams to challenge our defenses. They’ll bring differentiated expertise and approaches to our ongoing work to find and fix weaknesses with AI. We’re also raising bug bounty rewards, including more than quadrupling rewards for critical findings. Exceptional findings will be eligible for up to $172,000, including bonuses. We’ll keep advancing our models, using them to strengthen our own systems, and expanding access for trusted defenders. https://t.co/vcaoHROTt2
— OpenAI (@OpenAI) November 3, 2026
Vyšší odměny a poplach kolem PHP
Spolupráce s Cathedralem je jen jednou částí plánu. OpenAI zároveň oznámila, že zvedá odměny pro lidi, kteří v jejích systémech najdou bezpečnostní chyby. Za ty nejvážnější nálezy zaplatí víc než čtyřnásobek dosavadní částky a mimořádné objevy mohou i s bonusy vynést až 172 tisíc dolarů. Firma neupřesnila, z jakého základu počítá. Web Gizmodo připomíná, že OpenAI už loni v březnu oznámila zvýšení nejvyšší odměny z 20 tisíc na 100 tisíc dolarů, ale zda se nové navýšení vztahuje k této částce, zatím není jasné. OpenAI na síti X slíbila, že bude své modely dál zlepšovat, používat je k ochraně vlastních systémů a otevírat přístup k nim prověřeným odborníkům na obranu.
Firma tak reaguje na událost, která kybernetickou bezpečnost postavila na nohy podobně jako kdysi strach z problému roku 2000. Koncem října výzkumníci odhalili vážné zranitelnosti v PHP, desítky let starém programovacím jazyce, na kterém běží zhruba 70 procent webů. Vlády i další organizace po celém světě raději stáhly své stránky z provozu, aby předešly útokům a stihly narychlo nasadit opravu.
Chyby v PHP přitom pomohl najít právě model od OpenAI. Firma pak spustila celosvětovou akci nazvanou zalátej planetu, jejímž cílem je vyhledat a opravit další díry, které se mohou skrývat v rozšířeném softwaru. V blogovém příspěvku OpenAI napsala, že nedávné incidenty v oboru ukazují, jak rychle se dokážou objevit nové hrozby a proč je potřeba slabiny neustále hledat a opravovat dřív, než je někdo zneužije.
Mladíci z DOGE a jejich tajemná firma
Zakladatelé startupu Gavin Kliger, Luke Farritor, Marko Elez a Jack Stein patřili k mladým pomocníkům Elona Muska v krátce fungujícím úřadu DOGE. Ten měl na začátku druhého funkčního období Donalda Trumpa škrtat federální výdaje a z práce vytlačil přes čtvrt milionu státních zaměstnanců.
Kliger, který Cathedral vede jako výkonný ředitel, dříve pracoval jako vývojář ve firmě Databricks. Od prosince do dubna letošního roku působil podle svého profilu na síti LinkedIn jako hlavní datový ředitel amerického ministerstva války. Farritor prošel stáží ve SpaceX a v roce 2024 získal Thielovo stipendium. Byl také v týmu, který vyhrál 700 tisíc dolarů v soutěži Vesuvius Challenge, když s pomocí umělé inteligence rozluštil starověký papyrový svitek ohořelý při sopečné erupci.
Elez pracoval ve SpaceX, na síti X i v xAI. Proslavil se odchodem z DOGE poté, co ho deník Wall Street Journal spojil s anonymním účtem na síti X plným rasistických příspěvků. Musk ho po zastání viceprezidenta JD Vance obratem slíbil vzít zpátky a dodal, že chybovat je lidské a odpouštět božské. U čtvrtého zakladatele Jacka Steina se novinářům nepodařilo dohledat, kdo přesně to je.
Cathedral vznikl letos a po investičním kole za 160 milionů dolarů, které vedly fondy Andreessen Horowitz a Sequoia Capital, ho investoři ocenili na 1,4 miliardy dolarů. Agentura Reuters v červenci s odvoláním na nejmenované zdroje napsala, že firma chce posilovat útočné i obranné kybernetické schopnosti americké armády vůči soupeřům, jako je Čína. Na veřejnosti o sobě ale startup prozrazuje minimum. Jeho web tvoří jen bílý nápis s názvem firmy na černém pozadí a profil na síti X nemá jediný příspěvek ani logo, pouze strohý popisek o ochraně důležité americké infrastruktury.
Zdroj: gizmodo.com
