Šéfové firem vyvíjejících umělou inteligenci varovali před jejími riziky už mnohokrát. Tak přímo jako Paul Christiano ale lidem do očí ještě nikdo neřekl, že právě oni kvůli AI nejspíš zemřou. Člen správní rady OpenAI, který zasedá v jejím výboru pro bezpečnost, přednášel v Torontu a publiku oznámil, že je podle všeho čeká smrt kvůli nehodě způsobené umělou inteligencí.
„Pro většinu lidí v tomto sále bude nejpravděpodobnějším důvodem smrti nehoda způsobená umělou inteligencí,“ prohlásil Christiano během letošních Hintonových přednášek, které každoročně pořádá nadace AI Safety Foundation. Akci moderoval nositel Nobelovy ceny Geoffrey Hinton, kterému se přezdívá kmotr umělé inteligence. Christiano na ní přednesl úvodní příspěvek.
Až o nás budou rozhodovat stroje
Christiano svůj výrok nemyslel jako nadsázku. Mluvil o takzvaném převzetí moci umělou inteligencí, tedy o situaci, kdy systémy AI sledují vlastní cíle a o dění na Zemi rozhodují stejně, jako o něm dnes rozhodují lidé.
„Kdybychom je chtěli zastavit vy, já nebo třeba Donald Trump, měli bychom stejnou šanci, jako kdybychom se snažili zastavit americkou armádu,“ popsal bývalý výzkumník OpenAI.
Na přednášce také naznačil, jak rychle by k tomu mohlo dojít. Podle něj se to může stát během následujících šesti měsíců, v mírnější variantě do tří let. „Kdybychom AI vyvíjeli co nejrychleji a tou nejjednodušší cestou, převzetí moci by bylo zhruba jako hod mincí,“ vysvětlil.
Firmy brzdí a riziko přesto roste
Christiano přiznal, že tomuto hodu mincí se firmy zatím vyhýbají, protože vývoj nejvýkonnějších modelů záměrně zpomalují. Tento přístup doporučil šéf Anthropicu Dario Amodei poté, co jeho bývalý zaměstnanec obvinil Anthropic i OpenAI, že hazardují s našimi životy. Ani to ale podle Christiana nestačí. I když politici zareagují rozumně, riziko podle něj zůstává mimořádně vysoké.
Jeho tón za poslední měsíce zostřil. Když v září nastupoval do správní rady OpenAI, odhadoval čtyřprocentní šanci, že lidé ztratí kontrolu nad AI do roka, a patnáctiprocentní do tří let. Sám tehdy uznal, že jde o jeho osobní odhady. V prohlášení zveřejněném při nástupu napsal, že pokud lidstvo postaví superinteligenci bez toho, aby ji spolehlivěji naučilo řídit se lidskými záměry, očekává trvalou ztrátu kontroly. „Pokud se to stane, většina lidí může zemřít,“ dodal. Riziko by podle něj snížila jen spolupráce uvnitř jednotlivých zemí i mezi státy.
Podobně mluvil i v rozhovoru pro populární technologický podcast, kde uvedl, že pravděpodobnost úplné ztráty kontroly nad umělou inteligencí v příštím roce rychle stoupá. Zmínil přitom nezanedbatelnou šanci, že se svět během půl roku dostane do velmi nebezpečné situace.
Strach z AI sílí už měsíce
Obavy z toho, kam umělá inteligence směřuje, rostou už delší dobu a lidé z vedení největších firem je spíše přiživují. Šéf OpenAI Sam Altman připustil, že lidstvo nad touto technologií může ztratit kontrolu. Společnost Anthropic zase upozornila, že její modely by někdo mohl zneužít k výrobě chemických zbraní.
Ne všichni ale vidí budoucnost tak černě. Výzkumník a spisovatel Gary Marcus už dříve upozornil, že AI může zesílit vážná nebezpečí, jako jsou kybernetické útoky, biologické zbraně a šíření dezinformací. Jeho pohled na hrozbu je ale výrazně střízlivější než Christianovo varování, že většinu přítomných v sále jednou zabije nehoda způsobená umělou inteligencí.
Zdroje: theinformation.com, fastcompany.com a businessinsider.com



