Šéfové největších firem zabývajících se umělou inteligencí přijeli na summit G7 do francouzského Évian-les-Bains s jedním společným vzkazem pro světové lídry: musíte rychle najít způsob, jak spravovat AI. V čem se ale Sam Altman z OpenAI, Demis Hassabis z Google DeepMind a Dario Amodei z Anthropicu vůbec neshodli, je odpověď na otázku, co přesně to má znamenat.
Tři dny jednání ve francouzských Alpách vyvrcholily pracovním obědem, který trval dvě a půl hodiny. Vedle prezidentů a premiérů u stolu seděla celá špička technologického průmyslu. A nad celým setkáním visel jeden velmi nepříjemný stín.
Spor, o kterém nikdo nechtěl mluvit nahlas
Necelý týden před summitem donutila Trumpova administrativa firmu Anthropic odříznout přístup ke svým nejpokročilejším modelům Fable 5 a Mythos 5. Washington uvalil na tyto modely exportní omezení s odkazem na národní bezpečnost poté, co dostal hlášení, že bezpečnostní pojistky umělé inteligence lze obejít. Firma raději z technických důvodů vypnula přístup k modelům úplně, aby příkazu vyhověla.
Pro ostatní země G7 to byl šok. Najednou se ocitly bez přístupu k technologii, kterou Anthropic sám popisuje jako nebývale schopnou v hledání a zneužívání softwarových zranitelností. A v Evropě i v Silicon Valley se rozhořela obava, že Bílý dům je ochotný odstřihnout od nejnovějších modelů i spřátelené státy.
Zajímavé je, že podle lidí obeznámených s jednáním tento incident u oběda nikdo nezmínil přímo. Jeden zástupce průmyslu ho označil za „slona v místnosti“. Všichni o něm věděli, nikdo o něm nechtěl mluvit.
Máme jen pár let, varovali šéfové firem
Hassabis, Altman i Amodei se shodli alespoň na jedné věci. Vlády mají velmi málo času, aby AI dostaly pod kontrolu. Konkrétní termíny se ale lišily. Hassabis mluvil o třech až pěti letech. Amodei byl mnohem naléhavější a tvrdil, že jsme rok až dva od modelů, které budou lepší než lidé úplně ve všem. Altman to shrnul slovy, že za rok nebo dva budeme mít systémy s ohromující silou.
A teď to nepříjemné. Všichni tři sice zdůraznili obrovské přínosy, které to přinese, zároveň ale otevřeně mluvili o stinných stránkách. A nešlo o pracovní místa nebo nerovnost, ty padly jen okrajově. Šlo o bezpečnostní hrozby. Kybernetické útoky, bioterorismus, jadernou oblast a válčení.
Amodei dokonce varoval, že pokud bude současný směr pokračovat, mohla by se AI stát hlavním zdrojem hospodářské i vojenské moci států. Pro lídry mimo Spojené státy nepříliš uklidňující myšlenka, protože všechny přední firmy v oboru sídlí právě v Americe. DeepMind je sice v Londýně, vlastní ho ale Google.
Kde se názory rozchází
Když přišlo na otázku, jak technologii spravovat, Amodei vyzval k vytvoření koalice demokratických zemí vedené Spojenými státy. Ta by hlídala přístup k technologii a izolovala společné protivníky, mezi nimiž jmenoval Čínu. Podle něj by spolupráce měla zahrnovat řízený přístup k nejpokročilejším modelům i obchod s čipy a součástkami, ze kterého by byla Čína vyloučena. Altman to odmítl. Jakmile budou nastavené pojistky, řekl, musíme se přiklonit k lidské svobodě. Chceme, aby z technologie těžil každý člověk na světě a sám si přišel na to, jak ji využít.
Rozcházeli se i v tom, jakou roli mají hrát samotné firmy. Hassabis navrhoval orgán, který by zvyšoval důvěru, něco jako těleso pro technické standardy podporované předními laboratořemi. To by mělo mezinárodní charakter, ale vedly by ho Spojené státy, a každé čtvrtletí by mohlo přizpůsobovat svá pravidla podle nově odhalených rizik. Hassabis dodal, že na něčem takovém už pracuje.
Altman naopak varoval, že laboratoře by neměly mít přílišnou moc. „Existuje hrozba zákeřnější než technická rizika této technologie,“ řekl. „Je to hrozba, že se velmi reálná rizika AI stanou ospravedlněním pro soustředění moci do rukou několika málo lidí.“ A lídrům vzkázal jasně: nepřenášejte svou zodpovědnost na laboratoře, jako je ta moje.
Macron: Pokud Amerika může vypnout vypínač, je to problém
Mezi pozvanými nebyli jen Američané. U oběda zasedlo kolem tuctu technologických šéfů. Francouzskou firmu Mistral zastupoval Arthur Mensch, byli tu lidé z kanadské Cohere, italské Domyn, britské Synthesia i německé Black Forest Labs. Spojené státy vedle prezidenta Trumpa reprezentovali ministr financí Scott Bessent, ministr obchodu Howard Lutnick a ministr zahraničí Marco Rubio.
Francouzský prezident Emmanuel Macron prohlásil, že spor kolem Anthropicu „vyjasnil, o co jde“ pro Ameriku i její spojence. Varoval, že pokud může Washington „ze dne na den vypnout vypínač“, poškodí to americké firmy v hodnotě bilionů dolarů, které ve světovém závodě o AI vedou. Macron volal po přísnějších pravidlech a varoval před nebezpečím, že si demokracie nebudou navzájem pomáhat. Slíbil, že v nadcházejících měsících vznikne platforma pro spolupráci mezi demokraciemi, která společně stanoví jednotné standardy.
K obavám se přidal i indický premiér Narendra Modi. Podle lidí obeznámených s diskusí ho znepokojilo odstřižení Anthropicu a zdůraznil, že demokratické země musí mít přístup k modelům, aby mohly chránit svou kritickou infrastrukturu.
Mensch z Mistralu pak upozornil na to, o čem se podle něj mluvilo opakovaně, hlavně ze strany neamerických účastníků. Tedy jak si země mohou zajistit dodavatelský řetězec technologií, který budou samy ovládat. „Když máte propletený dodavatelský řetězec, jste si jistí, že vás vaši partneři nemůžou odstřihnout?“ ptal se.
Amodei: Odolejte pokušení rozštěpit se
Sám Amodei přitom vyzval lídry, aby „odolali pokušení rozštěpit se“ ve svých přístupech k pravidlům pro AI. A to ve chvíli, kdy podle uniklých interních chatů jeho vlastní zaměstnanci reptali, že je Bílý dům nespravedlivě napadá. „Jsme šikanovaní na základě špatných pocitů?“ napsal jeden zaměstnanec Anthropicu. „V jakém bodě to začne vypadat, že prostě nechtějí, abychom existovali?“ ptal se jiný v interní konverzaci.
Amodei řekl, že rozumí snaze zemí zabránit tomu, aby se AI dostala do nesprávných rukou, ale demokratické národy by podle něj měly držet při sobě. A v tomhle bodě ho překvapivě podpořil i jeho dlouholetý rival Altman. Altman zdůraznil, že nástroje pro kybernetickou obranu by měly dostat všechny země v místnosti. Hassabis se také přidal.
Kanadský premiér Mark Carney souhlasil, že Spojené státy by mohly takovou koalici vést. A šéf globálních záležitostí OpenAI Chris Lehane podle vlastních slov vnímal, že i neameričtí lídři v místnosti uznali, že právě USA by mohly hrát hlavní roli při stanovení standardů.
Starmer a Meloni přidali svá témata
Britský premiér Keir Starmer se vyhnul přímé odpovědi na otázku, zda má být správa AI postavená na zadržování technologie, nebo na širokém přístupu. Místo toho zdůraznil potřebu souhlasu veřejnosti. Souhlasil, že standardy jsou naléhavé vzhledem k tempu vývoje, a dodal: „Pokud se bojí lídři AI, bojí se i politici.“ Zároveň varoval, že je nutné chránit děti i svobodu projevu. „Pokud nedokážeme obojí, ztratíme souhlas veřejnosti,“ řekl.
Italská premiérka Giorgia Meloni přišla s tématem, které Řím prosazuje už od svého předsednictví G7 v roce 2024. Zaměřila se na zodpovědnost za AI a na otázku, jak v umělé inteligenci definovat pravdu. Podle italského diplomata jde o to, že je stále těžší rozeznat, co je pravda a co je podvrh. Téma vodoznaků u obsahu vytvořeného umělou inteligencí přitom Meloni probírala i s japonskou premiérkou Sanae Takaiči v Římě.
Evropa přitom dávala pozor, aby spor kolem Anthropicu zbytečně nerozdmýchávala. Brusel postupoval opatrně, mimo jiné proto, že od americké vlády nepřišlo žádné oficiální oznámení o exportních omezeních, jen prohlášení samotného Anthropicu. „Jsme připraveni se zapojit a řešit tato bezpečnostní rizika společně s našimi spřízněnými partnery,“ řekl mluvčí Evropské komise Thomas Regnier. Jeden evropský diplomat to shrnul takto: „Otázkou je obnovit důvěru, potřebujeme znovu vytvořit kruh důvěry.“
Zdroje: cnbc.com, afr.com, politico.eu a news.sky.com
