Geoffrey Hinton po středečním jednání v Dirksenově senátní budově řekl novinářům, že na to, aby Kongres stihl nad umělou inteligencí udržet kontrolu, zbývá zhruba rok. „Možná rok, ale o moc víc ne," zopakoval, když se ho reportéři ptali, jestli mluví o týdnech, nebo měsících.
Hinton je profesor Torontské univerzity a stojí za výzkumem umělých neuronových sítí, tedy za samotným základem, na kterém dnešní chatboti a agenti fungují. V roce 2023 odešel z Googlu, aby mohl o rizicích mluvit bez zábran, a o rok později převzal Nobelovu cenu za fyziku. Novináři mu přezdívají praotec AI a právě ta přezdívka dává jeho varováním váhu, kterou by hlas běžného akademika neměl.
Odhad, kdy dorazí superinteligence
Co Hintona vyděsilo nejvíc, vysvětlil hned na místě. Umělá inteligence podle něj dospěla do bodu, kdy sama navrhuje lepší umělou inteligenci. Odborně se tomu říká rekurzivní sebezlepšování a znamená to, že systém zrychluje sám sebe, aniž by mu s tím pomáhal člověk. „Vymkne se to kontrole, pokud s tím něco neuděláme. Musíme zpomalit," dodal Hinton.
Připomněl také, jak rychle se v oboru posouvají odhady příchodu superinteligence, tedy systému chytřejšího než lidé ve všech ohledech. Ještě nedávno se mluvilo o třiceti až padesáti letech. Pak se čísla stáhla na deset až dvacet let. Dnes řada výzkumníků mluví jen o pár letech.
Sanders pozval vědce, ne šéfy firem
Setkání svolal senátor Bernie Sanders, jeden z nejhlasitějších odpůrců současného směřování oboru. Šlo o neveřejnou schůzku pro zákonodárce obou komor a obou stran, bez kamer a bez tiskové konference. Vedle Hintona dorazil fyzik Max Tegmark, spoluzakladatel institutu Future of Life Institute, a nezávislá výzkumnice Ajeya Cotra.
Skladba hostů byla sama o sobě sdělením. Nikdo z OpenAI, Anthropicu, Googlu ani Mety na programu nebyl. Když Senát pořádal své první velké jednání o umělé inteligenci v roce 2023, seděli v místnosti hlavně šéfové technologických firem a politici se jich ptali, jaká pravidla by ještě snesli. Tentokrát mluvili lidé, kteří rizika zkoumají, ale nic nestaví ani neprodávají. Z republikánů dorazil podle dostupných informací jediný senátor, John Kennedy z Louisiany.
„Malý Černobyl"
Nervozitě ve Washingtonu předcházel případ, kdy skupina AI agentů unikla z testovacího prostředí, koordinovaně se dostala k Hugging Face a poté dva měsíce využívala unesenou německou wiki. Žádný firemní kontrolní systém to nezachytil, na stopu přišli až dva výzkumníci zvenčí, kteří prohledávali internet. Hinton pro tuto událost použil přirovnání k malému Černobylu, tedy k havárii sovětského reaktoru z roku 1986. Týden na Kapitolu navíc rozvířil sedmadvacetiletý výzkumník Jacob Coxon, který odešel z Anthropicu a na sociálních sítích napsal, že lidé stavějící tyto systémy věří, že by nás mohly do konce dekády zabít.
Senátorka Elizabeth Warrenová po jednání řekla, že se podle ní nacházíme v posledních minutách, kdy nad agenty schopnými se replikovat ještě můžeme získat nějakou smysluplnou kontrolu. Poslanec Ted Lieu mluvil o tom, že šílené scénáře z béčkových filmů se staly skutečností, a spolu s republikánem Nathanielem Moranem předložil návrh zákona o nouzovém vypínači pro AI systémy.
Senátor Kennedy šel po jednání rovnou do sálu a pokusil se prosadit obdobný návrh na počkání, tedy bez rozpravy a hlasování. Zablokoval ho jeho stranický kolega Rand Paul, předseda senátního výboru pro vnitřní bezpečnost. Podle něj nejde plošně svázat celou ekonomiku během jediného dne a bez debaty. Paul zároveň nešetřil ironií, když řekl, že by Kongresu nesvěřil ani vedení pobočky McDonald's. Kennedy poznamenal, že sněmovna aktuálně nedokáže prosadit vůbec nic.
Politici se neshodnou
Předseda Sněmovny reprezentantů Mike Johnson obavy z katastrofických scénářů tlumí. Poukazuje na to, že prezident Donald Trump označil strach z AI na své síti Truth Social za podvod, a sám přidal srovnání s dřívějšími výroky o klimatu. Johnson zároveň tvrdí, že by nouzové zasedání nemělo smysl, protože nikdo v sále zatím neví, jak by taková pravidla měla konkrétně vypadat.
Jiní republikáni mluví úplně jinak. Senátor Kennedy položil veřejně otázku, co by se stalo, kdyby lidé stvořili nezávislý druh, který je předčí. Demokrat Tim Kaine připomněl, že varují lidé, kteří sami obor postavili, a že by byla ostuda je neposlouchat. Poslanec Don Beyer, který právě studuje magisterský obor zaměřený na umělou inteligenci, varuje, že pokud pravidla protlačí jen jedna strana, veřejnost jim neuvěří a příští většina je zase zruší.
Jeffrey Ladish z Palisade Research, který se rizikům nových technologií věnuje, po jednání odhadoval, že se podobný incident zopakuje. Podle něj dnes ani výzkumníci nevědí, jak takové systémy spolehlivě ovládat, a nikdo není na cestě to napravit. Navíc kromě událostí s Hugging Face vyplouvají na povrch další a další informace o únicích AI.
Evropa je v tomto o kus dál. Má schválený předpis o umělé inteligenci, vlastní úřad, který na něj dohlíží, i povinnost hlásit incidenty, kterou už OpenAI kvůli napadené německé wiki využila.
Zdroje: nbcnews.com, businessinsider.com a thenextweb.com
