Autonomní zbraně, masové sledování a AI: OpenAI uzavřelo smlouvu s Pentagonem

Trumpova administrativa nařídila všem federálním úřadům, aby okamžitě přestaly používat produkty firmy Anthropic. A ještě téhož večera Sam Altman, šéf OpenAI, oznámil, že jeho firma právě uzavřela smlouvu s Pentagonem. Načasování? Přinejmenším zarážející.

Anthropic a její červené linie

Měsíce před tím, než se věci dostaly do varu, vedl Anthropic s Pentagonem složitá jednání. Ministerstvo obrany chtělo přístup k umělé inteligenci Claude pro "všechny zákonné účely" bez výjimek. Anthropic ale trvala na dvou podmínkách: žádné masové sledování amerických občanů a žádné plně autonomní smrtící zbraně bez lidského dohledu.

Zní to rozumně, ne? Jenže Pentagon to viděl jinak. Ve středu večer doručil Anthropic svou "poslední a konečnou nabídku". Generální ředitel Dario Amodei ve čtvrtek odpověděl, že firma tuto dohodu "v dobrém svědomí nemůže přijmout".

V pátek odpoledne Trump na své síti Truth Social označil Anthropic za firmu plnou "levicových bláznů" a nařídil šestiměsíční přechodné období pro ukončení spolupráce. Ministr obrany Pete Hegseth šel ještě dál: označil Anthropic jako bezpečnostní riziko v dodavatelském řetězci. Toto označení se běžně používá pro zahraniční nepřátele, nikoli pro americké firmy. Anthropic to nazval "bezprecedentním krokem" a oznámila, že se bude bránit soudní cestou.

OpenAI přišlo s vlastní dohodou

Pár hodin po Trumpově výpadu Altman zveřejnil na síti X zprávu: OpenAI se s Pentagonem dohodla. Modely firmy budou nasazeny v utajovaných sítích ministerstva obrany. A co víc, Altman tvrdil, že dohoda obsahuje přesně ty záruky, o které Anthropic marně bojoval. "Dvě z našich nejdůležitějších bezpečnostních zásad jsou zákaz masového domácího sledování a lidská odpovědnost za použití síly, včetně autonomních zbraňových systémů," napsal Altman. Pentagon prý s těmito principy souhlasí a jsou zakotveny přímo ve smlouvě.

OpenAI navíc přidala třetí červenou linii, kterou Anthropic neměla: zákaz automatizovaných rozhodnutí s vysokými sázkami, jako jsou systémy sociálního kreditu. Sám Altman ale přiznal, že dohoda byla "rozhodně uspěchaná" a že "optika nevypadá dobře." Proč ji tedy podepsal? "Opravdu jsme chtěli situaci zklidnit a mysleli jsme, že nabídka je dobrá," vysvětlil na síti X.

Co přesně smlouva říká a jak fungují záruky

OpenAI ve svém blogovém příspěvku popsala, proč věří, že její dohoda je bezpečnější než jakákoli předchozí smlouva pro nasazení umělé inteligence v utajovaném prostředí.

Klíčem je vícevrstvý přístup. Modely se nasazují výhradně přes cloud, nikoli na hraničních zařízeních. To technicky znemožňuje jejich přímé propojení s autonomními zbraňovými systémy. OpenAI si zachovává plnou kontrolu nad svým bezpečnostním zásobníkem a prověření zaměstnanci firmy budou přímo zapojeni do provozu. Smlouva navíc výslovně odkazuje na platné zákony o sledování a autonomních zbraních tak, jak existují dnes, takže ani případná budoucí změna zákonů by neotevřela dveře k jejich obcházení.

Kritici ale nezůstali ticho. Analytik Mike Masnick upozornil, že smlouva odkazuje na Výkonný příkaz 12333, který NSA historicky využívala ke sledování komunikace zachycené mimo území USA, i když se týkala amerických občanů. OpenAI to odmítla jako nepochopení: "Nasazení přes cloudové API zajišťuje, že naše modely nemohou být přímo integrovány do zbraňových systémů nebo senzorů," vysvětlila Katrina Mulligan, vedoucí partnerství v oblasti národní bezpečnosti.

Reakce zaměstnanců a trhu: Kdo vyhrál?

Ironií osudu je, že zatímco OpenAI slavila smlouvu, trh reagoval jinak. Aplikace Claude od Anthropic vyskočila na druhé místo v americkém App Store hned v sobotu po oznámení dohody. Lidé zjevně ocenili, že Anthropic za svými principy stála.

Přes 60 zaměstnanců OpenAI a přes 300 zaměstnanců Googlu podepsalo otevřený dopis na podporu Anthropicu ještě před uzavřením dohody. Dopis varoval: "Pentagon jedná s Googlem a OpenAI, aby dosáhl toho, co Anthropic odmítla. Snaží se každou firmu rozdělit strachem, že ta druhá ustoupí."

OpenAI se k označení Anthropic jako bezpečnostního rizika postavila jasně: nesouhlasí s tímto krokem a dala to vládě najevo. Altman také vyzval Pentagon, aby stejné podmínky nabídl všem firmám v oboru, a vyjádřil přání, aby se situace s Anthropic vyřešila smírnou cestou.

Zdroje: theguardian.com a techcrunch.com