Vztah mezi Pentagonem a společností Anthropic se dostal do vážné krize. Americké ministerstvo obrany zvažuje ukončení spolupráce s firmou, která stojí za AI modelem Claude, protože ta odmítá odstranit všechna omezení pro vojenské využití své technologie. Co přesně se děje za zavřenými dveřmi?
Spor vypukl po operaci proti Madurovi
Napětí vygradovalo po nedávné vojenské akci, při které americké síly zajaly venezuelského prezidenta Nicoláse Madura. Claude, AI model od Anthropic, byl během operace nasazen prostřednictvím partnerství s datovou firmou Palantir. Jenže pak se stalo něco nečekaného. Podle vysokého vládního činitele se vedení Anthropic ozvalo Palantiru s dotazem, zda byl Claude při zásahu skutečně použit. Tón hovoru naznačoval, že by s tím firma mohla mít problém – zvlášť když při akci došlo ke střelbě a lidé byli zraněni.
Anthropic to ale razantně popírá. Mluvčí společnosti jasně uvedl, že s Pentagonem ani s průmyslovými partnery o konkrétních operacích nemluvili. Tvrdí, že jejich rozhovory se točily výhradně kolem technických záležitostí a zásadních limitů v jejich politice používání.
"Všechny legální účely"
Pentagon tlačí na čtyři přední AI společnosti – Anthropic, OpenAI, Google a xAI – aby umožnily armádě používat jejich nástroje "ke všem legálním účelům". To zahrnuje i ty nejcitlivější oblasti: vývoj zbraní, sběr zpravodajských informací a bojové operace. Zatímco OpenAI, Google a xAI už souhlasily se zrušením standardních omezení pro běžné uživatele, Anthropic stojí na svém. Firma trvá na dvou červených čarách:
- Masové sledování amerických občanů
- Plně autonomní zbraňové systémy
Vládní činitel argumentuje, že kolem těchto kategorií existuje spousta šedých zón a že Pentagon nemůže fungovat, když musí s Anthropic vyjednávat o každém jednotlivém případu použití. Nebo když Claude nečekaně zablokuje určité aplikace.
Anthropic podepsala s Pentagonem loni v létě smlouvu v hodnotě až 200 milionů dolarů. Claude byl také prvním modelem, který Pentagon nasadil do svých utajovaných sítí. To z něj dělá strategického partnera, ale zároveň i problém, pokud spolupráce skončí. "Všechno je na stole," přiznal vládní činitel, včetně možnosti omezit partnerství nebo ho úplně ukončit. "Ale bude potřeba najít řádnou náhradu, pokud se rozhodneme, že je to správná odpověď." Sám ale připustil, že rychle nahradit Claude nebude snadné. "Ostatní modelové společnosti jsou prostě pozadu," když jde o specializované vládní aplikace.
Kulturní střet hodnot
Podle vládního zdroje je Anthropic ze všech AI laboratoří "nejideologičtější", pokud jde o potenciální nebezpečí technologie. CEO Dario Amodei je známý svými obavami z toho, kam by AI mohla zajít špatným směrem. Ale není to jen o vedení. Firma musí navigovat i vnitřní neklid mezi svými inženýry, kteří mají výhrady k práci s Pentagonem. Jak najít rovnováhu mezi národní bezpečností a etickými principy?
Mluvčí Anthropicu zdůraznil, že firma zůstává oddaná práci v oblasti národní bezpečnosti: "Proto jsme byli první společností s pokročilou AI, která umístila své modely do utajovaných sítí, a první, která poskytla přizpůsobené modely pro zákazníky z oblasti národní bezpečnosti."
Pentagon podle zdrojů vyjednává s OpenAI, Google a xAI o přesunu do utajovaného prostoru a trvá na standardu "všechny legální účely" jak pro utajované, tak neutajované použití. Jeden ze tří údajně už s těmito podmínkami souhlasil, další dva jsou flexibilnější než Anthropic.
Ustoupí Anthropic pod tlakem, nebo si Pentagon najde nového partnera? Nejde jen o kód a algoritmy. Jde o to, jaký svět chceme budovat.
Zdroje: axios.com a reuters.com
