Mark Zuckerberg zveřejnil esej o délce šesti a půl tisíce slov s názvem „Budoucnost je pro všechny“. Popisuje v něm svět, kde má každý člověk vlastního AI agenta, který mu spravuje kalendář, hlídá zdraví a pomáhá rozjet podnikání. O šest dní později se k textu vrátila redakce TechCrunch ve svém podcastu Equity a shodla se, že Zuckerbergově vizi budoucnosti věří jen málokdo.
Tři pilíře, na kterých Zuckerberg staví
Zuckerberg celý text postavil na jediné otázce: Kdo bude mít k superinteligenci přístup a k čemu ji nasměrujeme? Odpověď na ni podle něj rozhodne o tom, zda tato technologie skončí v rukou několika vybraných institucí, nebo se dostane k široké veřejnosti.
Z toho vyvozuje tři zásady: prosperita podle něj vzniká tehdy, když lidé získají větší vliv; hlavním smyslem superinteligence není pouhá automatizace, nýbrž inovace; a bezpečí nezajistí jeden benevolentní, dokonale seřízený model, ale rovnováha sil.
Právě v tomto bodě se Zuckerberg vymezuje vůči zbytku odvětví. Píše, že nechápe, proč někdo, kdo věří, že umělá inteligence zlikviduje většinu pracovních míst a připraví lidstvo o smysl života, s vývojem takové technologie vůbec spěchá. Představu, že jediná bezpečná cesta vede přes extrémní koncentraci moci na jednom místě, navíc považuje za fundamentálně chybnou. Historie podle něj nenabízí jediný příklad, kdy by absolutní moc o lidstvo dobře pečovala jen proto, že byla dostatečně osvícená.
Agent, který za vás pracuje 24/7
Část eseje připomíná katalog slibů. Každý člověk by měl podle Zuckerberga získat výjimečně schopného osobního agenta, který zná jeho cíle a pracuje bez ustání. Tento asistent má zlepšovat vztahy, zdraví, kariéru, finance i chod domácnosti, a uvolnit tak lidem čas na věci, které je skutečně baví. Uživatelská data bude chránit plně soukromý režim, do něhož nepronikne ani samotná Meta. Šéf technologického obra to srovnává se šifrováním v aplikaci WhatsApp. Systém půjde ovládat z jakéhokoli zařízení, chytré brýle nevyjímaje.
Zuckerberg tyto možnosti ilustruje na příkladu své rodiny. Jeho vlastní agent mu filtruje zajímavé informace, pomáhá testovat nové nápady, monitoruje spánek a koriguje ho během tréninku. Jeho dcera zase ráda peče, takže jí asistent každý víkend připravuje recepty, objednává potřebné ingredience a v průběhu pečení jí radí. Osmiletá dcera podle Zuckerberga navíc již dnes dokáže za jediný večer naprogramovat vlastní nápad a vytvořit video, na jehož produkci by on sám dříve potřeboval celé měsíce.
K tomu slibuje učitele a trenéry s doktorátem z jakéhokoli oboru a s nekonečnou trpělivostí. Dále zmiňuje nástroje pro rozjezd firem bez nutnosti shánět investory či budovat velké týmy, a v neposlední řadě vědecký přínos, který očekává od otevřených biologických modelů z projektu Biohub. Základní verze těchto nástrojů mají být pro miliardy lidí zdarma. Ti, kteří budou vyžadovat vyšší výpočetní kapacitu, si ji pak budou moci dokoupit v dynamické aukci.
Právník pro jednoho, nebo pro všechny
Zuckerberg mluví i o rizicích. Zavrhuje běžnou představu, že stačí dost času a technologii vyladíme do jednoho dobrotivého modelu. Lidstvo není monokultura, píše, lidé mají protikladné hodnoty a žádné technické řešení je nesladí naráz. Jakákoli jediná superinteligence by tedy musela některé hodnoty postavit nad jiné.
Místo toho nabízí myšlenkový pokus. Když bude mít superinteligentního právníka jeden člověk, získá u soudu nespravedlivou výhodu i v případě, že má věcně smůlu. Když ho budou mít všichni, soudy podle Zuckerberga rozhodnou spravedlivěji a rychleji než dnes. Stejnou logiku aplikuje na počítačovou bezpečnost. Jeden držitel takové schopnosti se dostane skoro do každého systému, zatímco široce rozdaná schopnost systémy naopak zpevní.
Co se práce týče, sází na to, že rozvoj schopností lidí může držet krok s automatizací, a jmenuje profese, které dnes nikdo nedělá. Jednočlenná studia navrhující nábytek nebo hračky, tvůrce světů a zážitků, osobní biology míchající léčbu na míru. Firmy se podle něj zmenší, ale bude jich víc.
Věnuje se i datovým centrům, protože z nich má Meta na domácí půdě největší politický problém. V Richland Parish v Louisianě prý letos učitelé dostali odměnu padesát tisíc dolarů z vyšších daňových příjmů a podle superintendenta se do okresu stěhují lidé z celé země. Meta zároveň slibuje vlastní zdroje energie, aby nezdražila elektřinu místním, a do roku 2030 chce vracet do krajiny víc vody, než spotřebuje.
Čína podle Zuckerberga spouští gigawatt jaderného výkonu každý druhý týden a americká výhoda v čipech nevydrží, pokud USA nezvládnou stavět rychleji. Kontroly vývozu čipů podle něj fungují a mají pokračovat. Cokoli, co zpomalí americké laboratoře i o měsíc, považuje za riziko. Nabízí proto řešení. Laboratoře by měly státu dávat rozpracované trénovací verze modelů a lidi, kteří pomohou zabezpečit kritickou infrastrukturu, aniž by se odkládalo vydání modelů pro veřejnost.
Kritika míří na vypravěče, ne na příběh
V podcastu Equity rozebral Kirsten Korosec, Rebecca Bellan a Anthony Ha, proč text vyvolal takovou nevoli. Odvolávají se přitom na kolegu Russella Brandoma, podle něhož je manifest ukázkovým příkladem toho, proč lidé nemají AI rádi.
Bellanová to interpretuje jako pokus uspět na jiném bitevním poli. Meta se podle ní neprosadila mezi uzavřenými špičkovými modely a nedominuje ani těm otevřeným, proto vsadila na téma posílení pozice jednotlivce. Její model Glimmer má uživatelům hlídat rozvrh, psát zprávy či třídit soubory. Funguje nepřetržitě a lokálně i bez připojení k internetu. Naproti tomu pokročilejší model Muse Spark si technologický gigant ponechává v uzavřeném režimu jako zdroj příjmů pro financování větších projektů.
Hlavní potíž však podle Bellanové spočívá v Zuckerbergově minulosti. V éře rozmachu sociálních sítí totiž sliboval, že každý dostane prostor pro komunikaci s přáteli. Místo slibovaného propojení však uživatelé dostali spíše frustraci a všudypřítomnou reklamu. Novinářka v této souvislosti připomíná také uniklá interní pravidla, která chatbotům společnosti Meta umožňovala vést romantické konverzace s nezletilými uživateli.
Ha dodává, že Meta investuje do umělé inteligence obrovské prostředky a v loňském roce plnila média nabídkami pro vědeckou komunitu, přesto ji nikdo neřadí mezi špičkové výzkumné laboratoře. Společnost neboduje ani na poli asistentů, které by uživatelé sami vyhledávali. Manifest tak podle něj slouží především jako pokus o obsazení strategického území, na kterém firma dosud neuspěla.
Korosecová v této souvislosti hovoří o přehnaně optimistickém, až naivním tónu celého textu. Zuckerberg podle ní vykresluje umělou inteligenci jako čistý dar lidstvu, zcela však mlčí o finančních nákladech. Právě proto se podle ní na manifest snesla tak silná vlna kritiky a odmítnutí.
Ha nicméně uznává jednu věc: Zuckerbergova otázka, proč tvůrci očekávající katastrofu přesto pokračují ve vývoji, je zcela legitimní. Vyvozuje z ní ovšem jiný závěr než samotný autor. Nejde podle něj o důkaz skvělé budoucnosti, ale spíše o projev rozporuplného chování lidí, kteří před riziky varují, a zároveň vývoj neustále urychlují. Zbytek textu podle Haova názoru skepsi veřejnosti neprolomí, protože polovina slibů zůstává v abstraktní rovině tvořivosti a inovací.
Podobné vlny nevole podle redakce vyvolává také šéf OpenAI Sam Altman. Ten nedávno představil vizi, podle níž by si rodiče nechávali od ChatGPT generovat personalizované podcasty o zájmech svých dětí na ranní cestu do školy. Reakce veřejnosti však byla zcela jednoznačná: „Co si takhle raději s vlastním dítětem normálně promluvit?
Bellanová si nakonec chtěla model Glimmer vyzkoušet. Na svůj MacBook jej však nenainstalovala, jelikož tento model vyžaduje specifický hardware, jímž běžný uživatel doma nedisponuje. Korosecová to okemntovala slovy: „Není to pro každého. Zatím ne.“
