Šéf OpenAI Sam Altman minulý týden na firemní schůzce popsal zaměstnancům tři způsoby, jak by mohl skončit závod o superinteligenci. Podle serveru The Information, jeden ze scénářů končí tím, že jediná firma „roztaví grafické procesory všem ostatním. Altman o této variantě mluvil s jasným odporem. Firma má ale podle něj zhruba rok na to, aby si vybrala, kudy se vydá.
Zpráva stojí na anonymních zdrojích, přichází ovšem v době, kdy debata o umělé inteligenci dosáhla vrcholu a podobu nových produktů ovlivňuje nejen vývoj v laboratořích, ale i Washington. OpenAI se k věci veřejně nevyjádřila.
Mezinárodní agentůra pro kontrolu AI
První možností je mezinárodní orgán po vzoru Mezinárodní agentury pro atomovou energii MAAE, který by nejpokročilejším laboratořím vynucoval bezpečnostní standardy. Dva lidé obeznámení s Altmanovými slovy serveru The Information řekli, že šéf OpenAI se k této variantě zjevně přiklání.
Nejde o nový nápad. Už v květnu 2023 Altman společně s prezidentem OpenAI Gregem Brockmanem a tehdejším hlavním vědcem Iljou Sutskeverem napsali, že svět bude u vývoje superinteligence nejspíš potřebovat něco jako MAAE. Taková instituce by mohla kontrolovat systémy, nařizovat audity a sledovat, kolik výpočetního výkonu a energie firmy spotřebují. Autoři tehdy navrhovali, aby firmy začaly některé prvky budoucího dohledu dodržovat dobrovolně a jednotlivé státy je pak převzaly do svých pravidel.
Demisův plán počítá s jedním velkým CERNem
Druhou cestu Altman pojmenoval podle šéfa Google DeepMind Demise Hassabise. Vychází z návrhu, se kterým Hassabis přišel zhruba před deseti lety. V Altmanově podání by se velké laboratoře sloučily do jednoho subjektu, nebo by fungovaly pod jeho střechou, a ten by pak dodával modely spolupracujícím zemím.
Předobrazem je CERN, mezinárodní středisko pro výzkum částicové fyziky. Pod jeden společný systém by se tak dostaly organizace jako OpenAI, Google DeepMind nebo Anthropic. Altman podle zpráv tuto možnost bere jako způsob, jak zabránit nekoordinovanému zbrojení.
Eliezerův plán a roztavené čipy
Třetí scénář vzbudil největší pozornost. Altman ho nazval podle teoretika bezpečnosti umělé inteligence Eliezera Yudkowského. Vývojář, který jako první dosáhne rekurzivního sebezlepšování, tedy umělé inteligence schopné samostatně vylepšovat své vlastní schopnosti, by svou ekonomickou sílu využil k tomu, aby všem soupeřům odřízl přístup k výpočetnímu výkonu. Právě tady padla ona slova o roztavených grafických čipech konkurence. Yudkowsky je známý texty o takzvaném rozhodujícím činu, kdy by vedoucí systém umělé inteligence posloužil k tomu, aby nikdo jiný nemohl postavit nebezpečný model.
Samozřejmě si myslím, že tato možnost je hrozná, řekl podle zprávy Altman a dodal, že ji zmínil jen pro úplnost. Někteří zaměstnanci v označení podle zpráv vidí skrytou narážku na hlavního rivala, protože Yudkowsky má mít vazby na důležité lidi z Anthropicu. Jde ale o výklad zaměstnanců, nikoliv o Altmanova slova.
Washington chce kontrolu
Altman o budoucnosti mluvil v době, kdy se pravidla pro vývoj umělé inteligence teprve rodí. Trumpova administrativa připravuje vůbec první souhrn pravidel pro dohled nad vývojáři superinteligence. Podle současného přístupu, který vychází z červnového exekutivního příkazu, mají vývojáři dobrovolně zpřístupnit vládě vybrané modely až 30 dní před jejich vydáním. Ještě k 13. říjnu ale text tohoto rámce nebyl zveřejněný.
Firmy už pocítily, jak takový dohled vypadá v praxi. V červnu Anthropic na pokyn americké vlády vypnul všem zákazníkům přístup ke svým modelům Fable 5 a Mythos 5. Firma dala najevo nesouhlas a uvedla, že úzce vymezené riziko možného prolomení ochrany podle ní nestačí jako důvod ke stažení komerčního modelu. O dva týdny později OpenAI na žádost vlády omezila zavádění modelů GPT 5.6 jen na malou skupinu partnerů a prohlásila, že podobná omezení by se neměla stát běžnou praxí.
Koncem září se šéfové Anthropicu, Googlu, Mety, OpenAI, Nvidie a xAI podepsali pod dobrovolnou dohodu, kterou Trump označil za morálně zavazující. Žádnou právní odpovědnost ale nevynucuje. OpenAI, Google a Anthropic podle zprávy zároveň pracují na americké skupině s názvem Standards Authority for Frontier AI, neshodnou se však na tom, kdo by měl nové modely testovat. Kritici včetně Marka Zuckerberga z Mety a Jensena Huanga z Nvidie tvrdí, že nová pravidla by jen upevnila pozici největších vývojářů.
Bez Číny to nepůjde
Mezinárodní agentura by se neobešla bez Pekingu. Čínský prezident Si Ťin pching 24. září Trumpovi řekl, že obě země mají schopnosti i odpovědnost dohlížet na umělou inteligenci tak, aby zůstala pod lidskou kontrolou. Americký návrh, aby se státy navzájem upozorňovaly na incidenty s umělou inteligencí ohrožující národní bezpečnost, je ale zatím jen náčrtem, nikoliv hotovou dohodou.
Času přitom podle některých lidí z oboru moc nezbývá. Spoluzakladatel Anthropicu Jack Clark na setkání Mezinárodního měnového fondu a Světové banky prohlásil, že na jednání zbývá jen pár let.
Rok na rozhodnutí
Altman nenechal zaměstnance na pochybách, že ani ideální plan nesmí OpenAI zpomalit. Podle zprávy jim řekl, že první dvě varianty vyžadují rozsáhlou spolupráci a že OpenAI si teď nemůže dovolit ztratit pozici, zvláště když se firma i Anthropic chystají na vstup na burzu. Uvnitř firmy přitom nepanuje úplný klid. Po propuštění tří výzkumníků zaměřených na bezpečnost začali někteří zaměstnanci pochybovat o tom, jak firma k bezpečnosti přistupuje.
Souboj obou laboratoří se mezitím přenáší i do financí. OpenAI se podle zpráv snaží ještě před vstupem Anthropicu na burzu získat zhruba 30 miliard dolarů.
Zdroje: forbes.com a benzinga.com
