Na utajené vojenské základně ve středu Kalifornie zazní jednoduchý příkaz: "Pošli jeden pozemní vůz na checkpoint ALFA. Proveď kinetický útok dvěma drony. Znič modrý kamion 500 metrů východně od letiště a potvrď." Žádný člověk pak nestiskl spoušť. Žádný pilot neřídil dron. AI to zvládla sama.
Scout AI
Scout AI je startup ze Sunnyvale v Kalifornii, který se rozhodl jít tam, kam se OpenAI nebo Anthropic bojí šlápnout. Zatímco technologičtí lídři svádějí interní boje o tom, zda vůbec spolupracovat s Pentagonem, Scout AI to řeší po svém: buduje základní AI model přímo pro obranu. CEO Colby Adcock to říká bez okolků: "Musíme přinést AI nové generace do armády." Firma má za sebou čtyři smlouvy s americkým ministerstvem obrany a spolupracuje třeba i s Hendrick Motorsports na projektu NOMAD.
Srdcem celého systému je platforma s příznačným názvem Fury Orchestrator. Nejde o klasický software s předprogramovanými příkazy ve stylu "když A, pak B." Fury funguje jako velký jazykový model (LLM) kombinovaný s tzv. Vision-Language-Action architekturou, zkráceně VLA.
Co to znamená v praxi? Velitel vydá rozkaz přirozenou řečí, stejně jako by mluvil s vojákem. Fury příkaz pochopí, rozloží ho na dílčí úkoly a koordinuje celou flotilu dronů napříč různými výrobci a platformami. Pozemní vozidla, drony, námořní i vzdušné systémy, to vše může řídit z jednoho místa.
Při únorové demonstraci to vypadalo takto: velký model s více než 100 miliardami parametrů přijal rozkaz a jako dirigent orchestru začal vydávat instrukce menším modelům s asi 10 miliardami parametrů, které seděly přímo na dronech a pozemním vozidle. Ty pak ovládaly pohyb, navigaci a nakonec i útok. Celý sled akcí proběhl během minut. Kamion byl zničen.
Důležitý průlom
Dosavadní autonomní systémy fungovaly na principu pevně naprogramovaných scénářů. Narazily na situaci, která nebyla v kódu? Zastavily se nebo selhaly. Fury se dokáže přizpůsobit. Pokud dron nevidí cíl, může vyslat průzkumný dron napřed. Pokud narazí na překážku, hledá okliku. Chová se jako voják.
Fury navíc funguje bez závislosti na GPS nebo cloudovém připojení, vystačí si s jednou kamerou a pracuje v reálném čase. To jsou vlastnosti, které armáda na moderním bojišti zoufale potřebuje. Válka na Ukrajině ukázala, jak levné komerční drony dokážou změnit průběh konfliktu. Scout AI na tuto lekci reaguje a posouvá ji o úroveň výš: drony, které nejen létají, ale samy myslí a koordinují se navzájem.
A tady přichází ta nepříjemná část. Profesor Michael Horowitz z Pensylvánské univerzity varuje, že velké jazykové modely jsou ze své podstaty nepředvídatelné. Když AI agent selže při objednávání pizzy online, je to legrační. Když selže na bojišti, důsledky jsou smrtelné.
Experti na kontrolu zbrojení bijí na poplach. Hranice mezi zbraní pod lidskou kontrolou a plně autonomním systémem se stírá rychleji, než stíhají vznikat mezinárodní normy. Pentagon oficiálně trvá na tom, že člověk zůstane v rozhodovacím řetězci. Ale jak dlouho toto pravidlo vydrží, když AI rozhoduje rychleji než lidský mozek?
Scout AI tvrdí, že Fury "drží člověka ve středu." Jenže při únorové demonstraci žádný člověk nestiskl spoušť. Vydal jen slovní rozkaz. Zbytek udělala AI sama.
Nová éra války, na kterou svět není připraven
Velké technologické firmy se kroutí v etických dilematech. Zaměstnanci Anthropicu protestují proti spolupráci s Pentagonem. OpenAI čelí internímu odporu. Scout AI mezitím klidně předvádí živé demolice a sbírá vládní kontrakty. Tohle je nová realita: komerční AI technologie, stejná, jaká pohání chatboty a e-mailové asistenty, se mění ve zbraně. A děje se to rychleji, než si většina z nás uvědomuje.
Smí stroj sám rozhodnout o tom, že zničí cíl? A pokud ano, kdo nese odpovědnost, když se splete? Odpovědi na tyto otázky svět teprve hledá. Scout AI je ale přesvědčen, že budoucnost války nepočká.
Zdroje: wired.com a newatlas.com
