Jen pár dní před největším vstupem na burzu v dějinách dopadla na Muskovo technologické impérium nepříjemná žaloba. Devin Kim, bývalý inženýr společnosti xAI, tvrdí, že přišel o místo kvůli tomu, že opakovaně upozorňoval na bezpečnostní rizika chatbota Grok. Žalobu podal v úterý a míří v ní nejen na xAI, ale i na její mateřskou firmu SpaceX.
Kim přitom není ledajaký nespokojený zaměstnanec. Do xAI nastoupil v roce 2024 jako jeden z prvních lidí ve firmě a během několika měsíců se vypracoval do vedoucí pozice. Dnes šéfuje neziskové organizaci Center for AI Safety, institutu, který se věnuje rizikům umělé inteligence.
Spor o to, kolik bezpečnosti si firma může dovolit
Co přesně se uvnitř xAI dělo? Podle žaloby se Kimova práce čím dál víc točila kolem otázek, na které si zatím neumí odpovědět celé odvětví. Jak důkladně testovat výkonné chatboty před vypuštěním mezi lidi? Jak omezit škodlivé odpovědi, aniž by systém přestal být užitečný? A jaké riziko je ještě přijatelné u technologie, kterou používají miliony lidí?
Kim tvrdí, že jeho odpovědi se vedení nelíbily. V žalobě stojí, že opakovaně upozorňoval na to, že zanedbávání bezpečnosti u Groku prakticky zaručuje, že firma dříve či později poruší zákon. Mezi riziky jmenuje podněcování diskriminace, ale i pomoc při šíření zbraní hromadného ničení. Žaloba připomíná i skandál, který Grok skutečně potkal. Při takzvaném incidentu „MechaHitler" chatbot produkoval odpovědi vychvalující Adolfa Hitlera. Firma se tehdy omluvila a svedla chování na technické problémy. Kim argumentuje, že silnější pojistky mohly podobná selhání omezit.
„AI nás stejně všechny zabije"
Klíčovou postavou sporu je spoluzakladatel xAI Jimmy Ba, uznávaný výzkumník strojového učení a Kimův nadřízený, který později z firmy odešel. Podle žaloby Ba Kimovy návrhy na další testy a bezpečnostní kontroly odmítal a jeho naléhání ho čím dál víc dráždilo.
Zajímavý detail: Musk prý sám očekával, že xAI zavede odpovídající bezpečnostní testování a procesy. Jenže Ba podle žaloby tyto pokyny ignoroval. A když Kim přicházel s obavami, měl mu odpovědět větou, která dala žalobě jméno v titulcích po celém světě: „AI nás stejně všechny zabije." Kontext i smysl výroku zůstávají sporné a Ba se k němu veřejně nevyjádřil.
Napětí vyvrcholilo loni v září. Kim se podle svých slov chystal prezentovat zjištění o bezpečnosti přímo vedení firmy. K prezentaci už nedošlo. Místo toho si ho Ba zavolal do kanceláře a oznámil mu, že by se jejich cesty měly rozdělit.
Rychlost, nebo pojistky?
Za osobním sporem se skrývá jedna z nejvážnějších debat v technologickém světě. Vývoj umělé inteligence běží závratným tempem. Nové modely vycházejí v rozmezí měsíců a firmy tvrdě soupeří o uživatele, investice i technologické průlomy. Odložit vydání modelu znamená přenechat náskok konkurenci.
Vlády a výzkumníci mezitím stále hlasitěji upozorňují na dezinformace, diskriminaci nebo kybernetická rizika. Kimův spor je přesnou ukázkou tohoto vývoje. Jeho žaloba naznačuje, že část vedení upřednostňovala výkon a termíny nasazení, zatímco on trval na silnějších zábranách. Je to docela ironické, protože Musk založil xAI v roce 2023 jako údajně bezpečnější alternativu k OpenAI, kterou před více než deseti lety pomáhal zakládat. Jeho vlastní žalobu na OpenAI, podle níž firma zradila původní poslání ve prospěch lidstva, přitom porota minulý měsíc zamítla.
Není to ostatně poprvé, co se kolem Muskových firem mluví o bezpečnosti. Agentura Reuters v roce 2023 zdokumentovala ve SpaceX přes 600 dosud nenahlášených pracovních úrazů, včetně rozdrcených končetin, amputací a jednoho úmrtí. Firma svou bilanci hájí a odkazuje na rozsáhlá bezpečnostní školení.
Žaloba v citlivém okamžiku
Kim viní xAI a SpaceX z odplaty a nezákonného propuštění podle kalifornského práva a požaduje blíže neurčené odškodné. Obě firmy na žádost o vyjádření zatím nereagovaly.
Načasování přitom hraje obrovskou roli. SpaceX, pod kterou xAI spadá, má v pátek vstoupit na burzu a podle dostupných zpráv by úpis mohl firmu ocenit zhruba na 1,77 bilionu dolarů. Šlo by o největší vstup na burzu v historii a zájem investorů je podle zdrojů několikanásobně vyšší než nabídka akcií. Právě proto se z pracovního sporu jednoho inženýra stala kauza, kterou sledují investoři, úřady i konkurenční laboratoře po celém světě.
Zdroje: techcrunch.com a timesofindia.indiatimes.com
