Šéf Nvidie Jensen Huang v úterý v San Francisku prohlásil, že pro umělou inteligenci není potřeba žádný nový zákon. Řekl to na konferenci Dreamforce, kterou pořádá firma Salesforce, v rozhovoru s jejím šéfem Marcem Benioffem před zhruba dvanácti tisíci lidmi. Ve stejný den na stejném pódiu vystoupili i Dario Amodei z Anthropicu a Sam Altman z OpenAI, každý s jiným receptem na to, jak zabránit tomu, aby se vývoj AI vymkl kontrole. Z jednoho dne se tak stala ukázka toho, jak hluboko rozpor mezi AI lídry sahá.
Bezpečnost je prý práce pro inženýry, ne pro politiky
Umělá inteligence podle Huanga není žádná cizí mysl, jak ji popsal jeden z bezpečnostních výzkumníků OpenAI, ale hardware a software, který postavili lidé. A co lidé postavili, to také uřídí. „Bezpečnost je inženýrský problém, ne právní,“ řekl Huang. „Vyvíjíme přece software. Vyvíjíme výpočetní systémy. Je to složitý výpočetní systém, ale pořád jen výpočetní systém.“
Z toho vyvozuje, že stačí tlak trhu. Když si firma není jistá, jak její produkt funguje, co umí a jestli je bezpečný, prostě ho nevydá. „Tempo si nastavíte tak, abyste měli jistotu, že vypouštíte něco, co trh ocení. Tržní síly už tady jsou. Nepotřebujeme žádné nové zákony. Nepotřebujeme nová pravidla,“ prohlásil.
Jeho návod zní, abyste běželi, jak nejrychleji umíte, a když vám v nějakou chvíli začne firma nebo produkt utíkat z ruky, zastavte se a dejte to do pořádku. Rozhodnutí, kdy ta chvíle nastala, ale zůstává výhradně na firmě, která zrovna sprintuje.
Spor rozjela esej o zpomalení
Huang tím reagoval na návrh, který o víkendu zveřejnil šéf Anthropicu Dario Amodei. Ten vyzval přední laboratoře, aby si domluvily pomalejší tempo u nejvýkonnějších modelů a získaly tak čas na testování a kontroly. Amodei připustil, že něco takového by mohlo narazit na zákony o hospodářské soutěži, protože domluva konkurentů na termínech vydání je běžně problém. Proto mluvil o tom, že by k tomu mohla být potřeba pomoc státu nebo výjimka z pravidel hospodářské soutěže.
Huang tenhle nápad smetl ze stolu jako naprosto zbytečný. Podle něj firmy už teď mají všechno, co k bezpečnému vývoji potřebují, od pravidel pro bezpečnost výrobků až po vlastní testovací týmy. Odmítl i představu, že by rychlost a opatrnost stály proti sobě. Označil to za falešnou volbu. K temným předpovědím dodal, že v roce 2030 neumřeme.
Amodei na pódiu dál obhajoval svůj návrh a rozvedl ho do tří bodů, jak tempo krotit.
Altman připustil strach
Sam Altman přiznal, že veřejnost má právo se bát, protože modely pokročily rychleji, než kdo čekal. Když ChatGPT vyšel, sotva udržel rozhovor. Dnes programuje složité softwary. „Svět by měl věřit, že uděláme správnou věc, protože je správná a protože si uvědomujeme, o co jde,“ řekl Altman. Zmínil i obavu, že by pár firem mohlo získat příliš velký vliv na ekonomiku a začít lidem vnucovat svůj pohled na svět. Dodal ale, že ve schopnost své firmy i celého oboru zvládnout to nebezpečí pevně věří.
Připojil se i Mark Zuckerberg, který na síti X napsal, že každá laboratoř má odpovědnost i vlastní zájem trénovat modely bezpečně a může si k tomu sáhnout po vlastních opatřeních. Argumentoval tím, že firmy k opatrnosti tlačí sami uživatelé, protože nikdo nebude používat pomocníka, který neposlouchá zadání nebo jedná proti zájmům svého majitele.
Kritika přišla z obou politických stran
Senátor Bernie Sanders řekl, že rozhodování o umělé inteligenci skončilo v rukou hrstky nejbohatších lidí světa. Steve Bannon, bývalý poradce prezidenta Trumpa, prohlásil, že technologickým oligarchům se v hlídání sebe samých věřit nedá. Proti ponechání dohledu na firmách se postavil i Yoshua Bengio. Ozval se i člověk z oboru. Spoluzakladatel Anthropicu Jack Clark řekl BBC, že nechat obor úplně bez pravidel znamená házet kostkou s obrovskými riziky.
Prezident Trump se přitom vyjádřil opačně. Volání po dalších mantinelech kritizoval a obavy o bezpečnost AI označil za podvod.
Napětí posledních dnů rozjel příspěvek bývalého výzkumníka Anthropicu, který tvrdil, že AI by do konce desetiletí mohla vyhladit lidstvo.
Firmy si tedy chystají vlastní pravidla
Altman připustil, že po jeho svědectví v Kongresu v roce 2023 čekal, že zákonodárci sestaví alespoň základní pravidla pro nejpokročilejší systémy. Nestalo se tak. Podle něj se zákonodárcům nedaří držet krok, aniž by přibrzdili vývoj, a nové americké zákony v dohledné době nečeká.
Firmy si tedy musí poradit samy. Zástupci OpenAI a Anthropicu uvedli, že začali pracovat na oborové dohodě o bezpečnostních standardech. Chris Lehane z OpenAI minulý týden řekl, že jeho firma buduje dobrovolnou dohodu společně s Anthropicem a laboratoří Google DeepMind, s podporou státu i bez ní.
Huang do debaty vstupuje z pozice, která se od ostatních liší. Nvidia dodává výpočetní techniku většině vývojářů, včetně OpenAI a Anthropicu, takže každé zpomalení vývoje by se jí promítlo do růstu. Sám dlouhodobě prosazuje modely s volně dostupnými váhami jako protiváhu uzavřeným laboratořím a zorganizoval otevřený dopis, který varuje politiky před jejich omezováním.
Zdroje: techcrunch.com, bbc.com, politico.com a bloomberg.com
