Co se stane, když umělá inteligence dostane přímý vliv na to, kam dopadnou rakety? V Íránu to teď zjišťujeme naživo. Trumpova administrativa totiž použila umělou inteligenci Grok od Elona Muska k navádění tisíců zásahů, a poprvé to černé na bílém přiznal vysoce postavený úředník ministerstva obrany.
Přiznání nezaznělo na tiskové konferenci ani ve výroční zprávě, ale vyplavalo z prohlášení v soudním sporu. Pentagon se v něm zastává Muska a jeho firmy xAI, kterou žaluje organizace NAACP kvůli znečišťování ovzduší v převážně černošských komunitách. A právě proto, aby ochránil Muskovo datacentrum, vytáhl Pentagon na světlo informaci, kterou by jinak nejspíš nechal pod pokličkou.
Co přesně stojí v soudním spisu
Pod prohlášení se podepsal Cameron Stanley, hlavní úředník ministerstva obrany pro digitální technologie a umělou inteligenci. Napsal, že další provoz Grok je „věcí nejvyšší národní bezpečnosti". A přidal konkrétní čísla, ze kterých zamrazí. Grok podle něj „umožnil americkým silám nasadit přes 2 000 střel a podobné munice na 2 000 různých cílů během 96 hodin" během operace s názvem Epic Fury. Stanley to označil za důkaz výrazně vyšší bojové výkonnosti, kterou přinesl takzvaný Grok Gov Model, tedy verze chatbota šitá na míru federálním úřadům.
Grok je jedním ze čtyř modelů umělé inteligence, které jsou podle Stanleyho „v současnosti schopné podporovat aplikace národní bezpečnosti". Zároveň patří mezi tři produkty vybavené k podpoře „kriticky důležitých operací" v přísně tajném prostředí. Stanley navíc tvrdí, že Grok Gov Model nabízí funkce, které „nenajdete u žádného jiného špičkového modelu umělé inteligence".
Je to zřejmě úplně první otevřené potvrzení od člena administrativy, že vláda využívá Muskovu umělou inteligenci k bombardování Íránu.
Mrtvé děti a podezření, že selhala technika i lidé
Tady je potřeba být přesný. Cíle pro operaci Epic Fury se neidentifikovaly jen samotným Grokem. Pomáhal s nimi systém Maven Smart System od Národní geoprostorové zpravodajské agentury, který pomocí umělé inteligence skládá data na přehledný panel a podporuje úředníky při rozhodování. Tyto produkty samy o sobě cíle nevytvářejí. Pracují v rámci Mavenu a hledají možné body zájmu pro vojenskou zpravodajskou službu. Konečné slovo má tedy stále člověk. Aspoň zatím.
A teď k tomu nejtěžšímu. Nasazení umělé inteligence na bojišti se dostalo pod drobnohled poté, co útoky vedené Spojenými státy zabily stovky civilistů včetně dětí.
Američtí vojenští vyšetřovatelé se domnívají, že americké síly nejspíš stojí za úderem na dívčí školu ve městě Minab. Zemřelo při něm nejméně 175 lidí, většinou dětí. Analytici i zástupci ochránců lidských práv to považují za nejkrvavější incident s civilními oběťmi od chvíle, kdy americké a izraelské síly začaly v únoru na zemi útočit.
Co stálo za tou tragédií? Někteří experti varují, že roli mohlo sehrát právě navádění pomocí umělé inteligence. K tomu se přidala lidská chyba, kdy nikdo neověřil, jestli jsou mapy cílů aktuální. Smrtící kombinace.
Spor o datacentrum, které „dýchá" do černošské čtvrti
Vraťme se k tomu, proč vlastně Pentagon tahle citlivá data vůbec vyklopil. Šlo mu o záchranu datacentra u Memphisu.
Trumpova administrativa žádá federální soud v Mississippi, aby smetl ze stolu žalobu organizace NAACP. Ta tvrdí, že xAI porušuje zákon o čistotě ovzduší, protože provozuje desítky plynových turbín bez potřebných povolení. Konkrétně jde nejméně o 57 turbín, které pohánějí datacentrum Colossus 2, a to bez kontroly emisí, kterou zákon vyžaduje.
Ministerstvo spravedlnosti chce případ zastavit s odkazem na to, že přístup k datacentru Colossus 2 je pro národní bezpečnost „nezbytný". Stanley ho popsal jako životně důležitý pro naváděcí, zpravodajské, pohotovostní i náborové úkoly. Datacentra prý dokážou zajistit „kritický nárůst" energetické kapacity v případě „ozbrojeného konfliktu nebo jiných mimořádných okolností". Pentagon by podle ministerstva spravedlnosti „vážně" utrpěl, kdyby soud zabránil tomu, aby se xAI dál nasazovala, ladila a vylepšovala vrámci úřadů.
Politici chtějí ruční brzdu
Část demokratů v Kongresu teď tlačí na to, aby se v armádě nasazování umělé inteligence omezilo. Reagují na to, že vrcholní úředníci odmítli vyšetřit civilní úmrtí, kterým mohly zabránit přísnější kontroly nad umělou inteligencí. Senátorka Kirsten Gillibrandová přišla s návrhem zákona, který by zaručil, že o životě a smrti budou nadále rozhodovat lidští velitelé. Použití umělé inteligence by úplně zakázal u jaderných zbraní, domácího sledování a autonomních zbraňových systémů.
„Ta nejzásadnější rozhodnutí, která ovlivňují naši národní bezpečnost a životy našich vojáků, musí vždy dělat lidé, ne stroje bez jakékoli odpovědnosti," uvedla. Varovala, že Pentagon míří k nasazování mimořádně mocné techniky bez rozumných pojistek, což může mít katastrofální následky. „Musíme jednat teď. Ne proto, abychom brzdili technologický pokrok, ale abychom nastavili jasná pravidla, která udrží lidi u kormidla a udělají využití umělé inteligence ve válce chytré a bezpečné."
Zdroje: theinformation.com, independent.co.uk a thehill.com
