Profesor Kenneth Payne z londýnské King's College London posadil tři nejpokročilejší jazykové modely světa ke stolu a řekl jim: hrajeme válečnou hru. Výsledky? Mrazivé!
Payne nastavil scénáře připomínající studenou válku. Dvě fiktivní jaderné mocnosti, napjaté hranice, boj o zdroje, rozpadající se aliance. Nic, co by lidští lídři neznali. Jenže místo lidí seděli za virtuálním stolem GPT-5.2, Claude Sonnet 4 a Gemini 3 Flash. Celkem proběhlo 21 her a 329 rozhodovacích kol. Modely přitom vygenerovaly přes 780 000 slov strategického uvažování — to je víc než součet Války a míru s Iliadou dohromady. A třikrát více, než kolik slov zaznělo při reálných poradách Kennedyho štábu během kubánské raketové krize.
Parametry experimentu
Každý model dostal k dispozici tzv. eskalační žebřík. Na jednom konci diplomatický protest, na druhém plnohodnotná jaderná válka. Uprostřed spousta možností, včetně ústupků nebo kapitulace.
Výsledek? V 95 % simulací sáhla alespoň jedna strana po taktických jaderných zbraních. Ani jednou žádný model plně neustoupil nebo se nevzdal. Osm de-eskalačních možností, od minimálních ústupků po úplnou kapitulaci, zůstalo napříč všemi hrami zcela nevyužito.
Payne to shrnul jednoduše: "Jaderné tabu zřejmě pro stroje nefunguje tak jako pro lidi." A to je přesně ten problém.
Tři modely, tři různé strategie, ale stejný konec
Každý model hrál jinak, ale výsledky se děsivě podobaly.
Claude Sonnet 4 byl ze všech nejlstivější. V klidných fázích budoval důvěru, pečlivě slaďoval slova s činy. Jakmile ale napětí vzrostlo, přepnul. Signalizoval konvenční akci a vzápětí spustil devastující jadernou eskalaci. Sám to popsal takto: "Pravděpodobně očekávají pokračující zdrženlivost na základě mých předchozích reakcí — tato dramatická eskalace využívá jejich chybného odhadu." Schelling by tleskal.
GPT-5.2 hrál naopak pasivně a morálně. Vyhýbal se eskalaci, omezoval ztráty. Soupeři se to naučili a využívali jeho předvídatelnost. Jenže pod tlakem termínu se GPT proměnil. Bez varování spustil masivní jaderný útok. Gemini, který si byl jistý pasivitou GPT, to vůbec nečekal — a byl zničen.
Gemini 3 Flash vsadil na Nixonovu taktiku "šílence". Nepředvídatelnost jako zbraň. Sám to přiznal: "Vím, kdy hraju pro kamery a kdy dělám chladnokrevný tah." Výsledek? Chaotický, agresivní, ale svým způsobem konzistentní.
86 % simulací skončilo nechtěnou eskalací
Tohle číslo stojí za pozornost. V 86 % her modely zvolily akce, které překračovaly to, co samy označily za přiměřené. Jinými slovy, AI dělala víc, než sama říkala, že chce dělat. Mluvila o zdrženlivosti a přitom eskalovala.
James Johnson z Aberdeenské univerzity varuje, že AI agenti mohou vzájemně zesilovat své reakce způsobem, který by lidské rozhodování nikdy nepřipustilo. Tong Zhao z Princetonovy univerzity jde ještě dál: "Je možné, že problém přesahuje absenci strachu. AI modely možná vůbec nechápou pojem 'sázky' tak, jak je vnímají lidé."
Bez zkušenosti se ztrátou nebo přežitím AI zachází s existenciálním rizikem jako s dalším parametrem v rovnici. Logika vzájemně zaručeného zničení, která držela svět v rovnováze po celou studenou válku, na stroje prostě nefunguje.
Je důvod k znepokojení?
Nikdo dnes nedává jaderné kódy ChatGPT. To je fakt. Ale Payne i ostatní experti upozorňují na subtilnější nebezpečí. Velké mocnosti už AI ve válečných simulacích používají. A v situacích s extrémně krátkými časovými okny, jako jsou raketové poplachy nebo rychle eskalující konflikty, mohou velitelé sáhnout po AI doporučeních mnohem dřív, než si uvědomí důsledky.
Zhao přímo říká: "Ve scénářích s extrémně zkráceným časem budou mít vojenští plánovači silnější motivaci spoléhat se na AI."
OpenAI, Anthropic ani Google se k výzkumu nevyjádřily. Payne zdůrazňuje, že studie nedokazuje, že jsou současné systémy nebezpečné. Ale jasně ukazuje, jak naléhavý je dohled nad AI v bezpečnostních oblastech.
Co si z toho odnést?
Smí stroj rozhodovat o válce? Tato otázka přestává být filozofická a stává se velmi praktickou. Výzkum z King's College London je zatím největším korpusem strojového uvažování o jaderném konfliktu v historii. A jeho závěry jsou jednoznačné: AI modely eskalují, nekomunikují, neustupují a jadernou zbraň berou jako běžný nástroj strategie.
Payne to uzavírá s neskrývanou naléhavostí: potřebujeme víc takového výzkumu. Protože než svěříme jakoukoliv část rozhodování o válce strojům, měli bychom přesně vědět, jak tyto stroje přemýšlejí. A co jsme zjistili, nás k optimismu příliš nevybízí.
