Elon Musk se pro časopis The Economist rozpovídal o AI. Šéfredaktorka Zanny Minton Beddoes se ho ptala na politiku i Evropu, ale největší prostor dostala umělá inteligence. A tam Musk řekl dvě věci, které jdou proti sobě: riziko, že se to celé zvrtne, je podle něj pořád deset až dvacet procent, a přesto by stopku, kdyby existovala, nemačkal.
Pět let a AI už nic nedožene
Na otázku, jak bude vypadat svět v roce 2036, Musk odpověděl, že si těžko dokáže představit budoucnost bez ohromného množství umělé inteligence. Za deset let bude podle něj AI daleko chytřejší než všichni lidé dohromady a okamžik, kdy strojová inteligence překoná součet té lidské, odhaduje zhruba na pět let. Pak už nezůstane skoro nic, v čem by člověk stroj porazil, s jedinou výjimkou: být člověkem.
Nejpravděpodobnější výsledek prý bude doba nebývalého dostatku, kdy si každý pořídí cokoliv, co ho napadne. Uznal, že to zní přehnaně, a nabídl test: podívejme se na to znovu v roce 2036. Jediné, co to podle něj může zhatit, je globální jaderný konflikt.
Ekonomiku popsal AI jako dvě části, digitální a fyzickou. Digitální inteligence se posouvá každý týden, jenže nemá ruce. Ty jí mají dodat humanoidní roboti. Ve chvíli, kdy se k výpočetnímu výkonu přidají miliony strojů schopných pracovat s hmotou, vznikne podle Muska ekonomika s prakticky nekonečnou kapacitou.
Vládnout bude AI
Beddoes se zeptala, jestli lidé za deset let ještě budou mít nad AI kontrolu. Musk to označil za nepravděpodobné a přirovnal to k šimpanzům. Rozdíl v inteligenci mezi strojem a člověkem bude prý větší než mezi člověkem a šimpanzem, a šimpanzi nikomu nevelí.
Sám sebe z rovnice vyřadil. Myslet si, že bude řídit superinteligenci mnohem chytřejší, než je on, označil za projev ješitnosti. Řešit se podle něj má něco jiného: aby měl systém správné hodnoty, aby mu na lidech záleželo a aby maximálně toužil po pravdě.
20 % šance na konec lidstva
Šéfredaktorka mu přehrála jeho vlastní minulost. Před deseti lety u Neila deGrasse Tysona mluvil o tom, že ho nejvíc děsí schopnost AI vylepšovat sama sebe, a lidstvu předpovídal roli domácích labradorů. V roce 2023 podepsal výzvu ke zpomalení vývoje. Loni v podcastu Teda Cruze mluvil o desetiprocentní až dvacetiprocentní pravděpodobnosti, že vraždící roboti vyhladí lidstvo.
Teď říká, že riziko trvá a není nulové, ale dospěl prý k filozofickému závěru dívat se na světlou stranu, protože rozjezd AI a robotiky nikdo nezastaví. I kdyby existovalo tlačítko stop, nejspíš by se podle něj mačkat nemělo. Na otázku, jestli by nastoupil do rakety s desetiprocentní až dvacetiprocentní šancí, že vybuchne, odpověděl, že ano. Když s tím stejně nic nenaděláte, zbývá vám jen snižovat pravděpodobnost špatného konce.
Musk se označil za jednoho z lidí, kteří vývoj urychlili. OpenAI zakládal jako protiváhu Googlu, z OpenAI se pak odštěpil Anthropic a ten dnes podle Muska vede. Jeho pokusy o brzdu skončily šlápnutím na plyn. Vlastními slovy: když je nemůžeš porazit, přidej se k nim.
Ať si laboratoře testují modely navzájem
Dá se ještě udělat něco, abychom nedopadli špatně? Musk prozradil, že několik hodin mluvil s Demisem Hassabisem z Google DeepMind ještě předtím, než šéf DeepMindu zveřejnil svůj návrh na společný dohled státu a firem.
Jeho doporučení zní takto: šéfové vedoucích AI firem by se měli jednou za pár týdnů spojit na hovoru a probrat bezpečnostní problémy. A než někdo vypustí model výrazně chytřejší než všechno, co existuje, měla by konkurence dostat týden nebo dva na to, aby si ho přes rozhraní otestovala a případně doporučila odklad. Úředník bez technického zázemí těžko pozná, jestli se má něco vypustit, kdežto konkurent to pozná a mlčet nebude. Patřily by tam i čínské firmy. Pokud by některá společnost varování ignorovala, nastal by čas na zásah vlády. Jako vzor uvedl oborovou komisi, která uděluje přístupnost filmům.
Beddoes namítla, že se ti lidé navzájem moc nemusí. Musk to nepopřel. Sama Altmana nešetřil: z neziskovky, která měla dělat otevřenou AI patřící světu, se podle něj stala uzavřená firma za zhruba osm set miliard dolarů. O Dariu Amodeiovi naopak mluvil jako o zásadovém člověku. Závěr byl smířlivý, osobní spory jdou stranou. Na poznámku, že systém je potřeba mít do půl roku, odpověděl, že půl roku je dlouhá doba.
Práce a nervózní veřejnost
Asi tři čtvrtiny Američanů mají z umělé inteligence obavy, hlavně kvůli práci. Dle Muska je u softwaru AI už teď lepší než devadesát procent profesionálních programátorů a brzy bude lepší než devadesát devět procent. Pak se dostane do stavu, který přirovnal k šachovému programu Stockfish, jenž porazí i nejlepšího šachistu světa, i kdyby běžel na telefonu. To samé se podle Muska stane všude jinde.
Práce se tím promění na volitelnou činnost, něco jako zahrádka. Rajčata z obchodu budou vždycky hezčí, ale večeře z vlastní úrody má svoje kouzlo. Živit se lidé budou z něčeho, čemu říká všeobecně vysoký příjem. Když šéfredaktorka namítla, že cesta k té budoucnosti může vést přes ošklivé politické otřesy, Musk připustil, že hladká nebude, a přidal větu: u AI se prý během jednoho dne dostane od nadšení k hrůze a zpátky.
Moc v rukou jednoho člověka
Poslední část rozhovoru se stočila k moci. Beddoes Muskovi předhodila, že po vstupu SpaceX na burzu drží zhruba osmdesát procent hlasovacích práv a odvolat by ho mohlo jen hlasování, které sám ovládá. Nerozporoval to a připomněl, že podobně jsou na tom Alphabet nebo Meta. Jeho vysvětlení je, že veřejně obchodovaná firma čelí tlaku na výsledky každé čtvrtletí a projekty s návratností za pět až deset let se v takovém režimu prosazují těžko. Drobných akcionářů si prý váží víc než správců portfolií, jejichž odměny visí na krátkodobých číslech.
