V neděli ráno se nad datovými centry Amazonu v Dubaji rozsvítilo nebe. Ne metaforicky. Doslova. Drony vypálené v rámci íránské odvetné vlny zasáhly dvě zařízení Amazon Web Services (AWS) ve Spojených arabských emirátech a jedno v Bahrajnu. Jiskry, oheň, výpadky proudu. A najednou bylo jasné, že válka na Blízkém východě není jen geopolitický problém. Je to problém i každého, kdo ukládá data v cloudu.
Drony útočily i na datacentra
Americké a izraelské letectvo zahájilo ofenzivu proti Íránu o víkendu. Írán odpověděl vlnami raket a dronů namířených na americké základny a spojence v regionu, včetně UAE, Kataru, Kuvajtu a Saúdské Arábie. Amazon v pondělí potvrdil, že drony způsobily strukturální poškození, přerušily dodávky energie a v některých případech si vyžádaly hasicí zásahy, které přinesly další škody způsobené vodou.
Firma zákazníkům doporučila zálohovat data a zvážit přesun pracovních zátěží do jiných AWS regionů mimo Blízký východ. Situace v regionu prý zůstává "nepředvídatelná".
Vili Lehdonvirta, profesor technologické politiky na Aalto University, označil tyto útoky za první případ, kdy byla cloudová infrastruktura tohoto druhu "sražena vojenskou akcí". Zároveň dodal, že to nebylo úplně překvapivé. Datová centra velkých cloudových poskytovatelů se stala lákavými cíli pro každého, kdo chce narušit fungování státu nebo armády. Zvlášť proto, že americké a spojenecké vojenské síly stále více využívají komerční cloud a umělou inteligenci jako součást svých operací.
Miliardy v ohrožení
Technologičtí giganti vsadili na Blízký východ obrovské peníze. Microsoft se zavázal investovat do UAE celkem 15,2 miliardy dolarů v letech 2023 až 2029, přičemž přes 7 miliard už utratil. Součástí je i miliardová investice do místní firmy G42.
Amazon Web Services plánoval vybudovat nový datový region v Saúdské Arábii za více než 5 miliard dolarů. Google Cloud a saúdský Veřejný investiční fond se dohodli na společném projektu za 10 miliard dolarů. Oracle investuje 1,5 miliardy do cloudové infrastruktury v království. Celý region se přitom aktivně snažil přilákat zahraniční kapitál a budovat vlastní technologické zázemí. Saúdská Arábie, UAE, Katar. Všichni chtěli být centrem umělé inteligence. A pak přišly drony.
AI rozhoduje o životě a smrti?
Jenže válka s Íránem přinesla ještě znepokojivější otázku. Experti upozorňují, že USA a Izrael pravděpodobně využily umělou inteligenci k výběru cílů při úderech na íránském území. Peter Asaro, odborník na AI a robotiku z newyorské New School, poukazuje na extrémně krátkou plánovací fázi a obrovský počet zasažených cílů.
"Automatizací procesu dokážete rychle sestavit dlouhé seznamy cílů, mnohem rychleji než lidé," říká Asaro. Ale pak přichází ta skutečně děsivá otázka: "Do jaké míry tito lidé skutečně přezkoumávají konkrétní cíle, ověřují jejich legalitu a vojenskou hodnotu, než dají souhlas?" Asaro varuje, že smysluplná lidská kontrola nad válečnými rozhodnutími může pomalu mizet. AI systémy fungují na neprůhledných, utajovaných platformách. Nikdo zvenčí neví, jak přesně dospívají ke svým závěrům. A když se něco pokazí, kdo ponese odpovědnost?
Jako příklad zmínil školu ve městě Minab, zasaženou v sobotu. Zahynulo přes 150 lidí. Írán viní USA a Izrael, ani jedna ze stran útok nepotvrdila. Škola stála v těsné blízkosti dvou zařízení Islámských revolučních gard, ale od vojenské základny byla oddělena nejméně deset let. Chyba člověka, nebo chyba algoritmu? Zatím nikdo neví.
AI vs. války
Diskuse o regulaci autonomních zbraní probíhají přes deset let. Letos mají státy rozhodnout, zda zahájí plnohodnotná jednání o mezinárodní smlouvě. Zatím žádná specifická dohoda o AI ve válce neexistuje, i když mezinárodní právo samozřejmě platí i pro tyto systémy. Válka s Íránem tak otevřela hned dvě fronty najednou. Tu fyzickou, kde drony ničí servery a ohrožují miliardové investice. A tu filozofickou, kde se ptáme, jestli jsme ještě vůbec schopni říct, kdo nebo co vlastně rozhoduje o tom, kdo zemře.
Technologické firmy budou muset přehodnotit, jak a kde staví svou infrastrukturu. Bezpečnostní analytici budou muset přehodnotit, co vlastně znamená "chráněné" datové centrum. A my všichni bychom se měli ptát, jestli chceme žít ve světě, kde o válečných cílech rozhoduje algoritmus, jehož logiku nikdo neumí vysvětlit.
Zdroje: bbc.com a cnbc.com
