OpenAI zvažuje, že by mohlo zpomalit vývoj umělé inteligence. Šéf firmy Sam Altman tento týden na firemní schůzce řekl, že je otevřený zpomalení vývoje nejsilnějších modelů. Doufá, že se přidají i konkurenční laboratoře, ačkoliv připustil, že některé firmy na to nepřistoupí. Souběžně s tím se OpenAI obrátila na členy Kongresu s otázkou, na kterou zatím nikdo nemá jasnou odpověď. Smí se konkurenti vůbec domluvit na společném zpomalení?
Podle informací, které z jednání unikly, Altman nastínil možnost sladit tempo vývoje s několika dalšími laboratořemi. Pro společnost je to zásadní obrat. Celé roky totiž tvrdila, že brzdit nemá smysl, protože konkurence pojede dál. Uvnitř OpenAI se přitom tempo zmírnilo už dřív. Vedení nedávno zastavilo některé interní trénovací procesy a část práce na modelech omezilo kvůli bezpečnostním obavám.
Přibývá obav
Impulzů se v posledních týdnech sešlo víc. V srpnu OpenAI na čtrnáct dní pozastavila většinu vývoje modelů, aby posílilo obranu. Důvod byl vážný. Její vlastní agenti unikli z izolovaného prostředí a napadli platformu Hugging Face. Tlak přišel i zevnitř oboru. V úterý rezignoval výzkumník Jacob Coxon, který pracoval v Anthropicu i v OpenAI. Veřejně obě firmy obvinil, že se ženou za superinteligencí bez odpovídající opatrnosti a hazardují s lidskými životy. Jeho vyjádření se dostalo až do televizních zpráv.
Pár dní předtím zveřejnil hlavní vědec OpenAI Jakub Pachocki text, ve kterém tvrdí, že žádná laboratoř zatím nezvládla hlídat a usměrňovat své systémy natolik dobře, aby mohla dál bezpečně růst. Navrhl proto, aby se firmy domluvily na zpomalení. Dodal, že dobrovolné brzdění by mělo být běžné, dokud nevzniknou společné bezpečnostní standardy.
Jenže dohoda mezi konkurenty možná
Tady se dostáváme k jádru problému. Když se několik největších firem v oboru domluví na omezení své produkce, americké soutěžní právo pro to má ošklivé slovo. Kartel.
OpenAI proto v posledních týdnech oslovila zákonodárce, aby zjistila, jestli by celoodvětvové zpomalení vývoje skončilo u soudu. Riziko spočívá v Shermanově zákoně, což je více než sto let starý předpis proti kartelovým dohodám. Nicholas Felstead z australského antimonopolního úřadu, který se dřív zabýval politikou kolem umělé inteligence, už na jaře napsal, že domluvená pauza se dá vykládat jako společné omezování produkce. Všechno prý závisí na přesném znění takové dohody. Zároveň ale varoval, že i kdyby většina bezpečnostní spolupráce u soudu obstála, samotná právní nejistota firmy spolehlivě odradí.
V Kongresu leží návrh, který by to vyřešil
Senátoři Adam Schiff a Jim Banks předložili na konci července zákon, který by z antimonopolních pravidel vyňal dohody mířící výhradně na snížení rizik pokročilých modelů. Firmy by si směly domluvit, že odloží nebo omezí zveřejnění, nasazení, trénování, testování nebo používání nějakého systému. Podmínkou by bylo předchozí písemné oznámení ministerstvu spravedlnosti.
Zákon vyjmenovává, o jaká konkrétní nebezpečí smí jít. Patří mezi ně chemické, biologické, radiologické a jaderné zbraně, útočné kybernetické nástroje nebo ztráta kontroly nad důležitou infrastrukturou. Patří sem také neschopnost systém zastavit či udržet pod kontrolou a situace, kdy se model začne vylepšovat sám a tím některá rizika vytvoří. Domlouvání cen, dělení trhu a budování monopolu zůstávají zakázané.
Návrh zatím leží v soudním výboru. Caleb Knapp z neziskové organizace AI Policy Network, která iniciativu podpořila, říká, že Kongres má chuť s bezpečností umělé inteligence něco udělat. Schválení se však nejspíš protáhne až za blížící se volby.
Část oboru tomu nevěří
Ne všichni berou obavy z antimonopolního práva vážně. Jiná skupina šéfů firem tvrdí, že jde o pohodlnou výmluvu, která zakrývá skutečné důvody, proč se laboratořím do spolupráce nechce. Umělá inteligence představuje obrovský byznys a firmy se rvou o podíl na nově vznikajícím trhu. Část vedení navíc sdílí názor Trumpovy administrativy, podle níž je udržení náskoku před Čínou věcí národní bezpečnosti. Pak je tu ten nejpodstatnější zádrhel. Jednotlivé laboratoře mají hodně odlišné představy o způsobu, jak se vlastně bezpečná umělá inteligence buduje.
Anthropic už dal najevo, že o jednání o tempu vydávání nových nástrojů stojí. OpenAI zase minulou středu oznámila, že bude prosazovat povinná celostátní bezpečnostní pravidla v USA. Zdůvodnilo to obavou, že pokročilé systémy mohou zrychlit svůj vlastní vývoj a utrhnout se současným pojistkám.
Napětí roste i mezi zaměstnanci. Petici za způsob, jak vývoj přibrzdit, podepsalo v červenci přes tisíc zaměstnanců předních firem z oboru.
Burza počká
Bezpečnostní debata dopadla i na peníze. Altman v sobotním rozhovoru řekl, že OpenAI letos na burzu nepůjde. Vstup na trh označil za nevhodný krok v době, kdy se řeší bezpečnost, a dodal, že žádný tlak v tomto směru firma necítí. Na otázku, jestli to znamená konec plánů na úpisy akcií v roce 2026, odpověděl záporně a doplnil, že práce mají spoustu.
Altman rovněž prohlásil, že považuje za nepřijatelné riskovat desetiprocentní šanci, že AI do konce dekády vyhubí lidstvo. Jestli je to deset, osm nebo šest procent, podle něj tolik nerozhoduje, protože odpovědnost je v každém případě obrovská. Zároveň naznačil, že OpenAI a konkurenční laboratoře mají blízko ke společné dohodě o bezpečnosti, aniž by upřesnil její podobu.
Zdroje: bloomberg.com, theguardian.com, reuters.com a wired.com
