Inženýr čínské firmy DeepSeek Liou Šeng-jü (Liu Shengyu) popsal na svém blogu, jaké to je stavět technologii, která ho nejspíš připraví o práci, kterou má rád. A proč nevěří Anthropicu ani OpenAI, že by nejpokročilejší umělou inteligenci někdy zpřístupnily všem a udrželi je cenově dostupné.
Liou patří mezi lidi, kteří psali důležitou součást posledního modelu firmy, tedy DeepSeek V4.1. Dělá takzvané kernely, tedy nízkoúrovňový kód, který běží přímo na grafických čipech a určuje, jak rychle se model trénuje a odpovídá. Je to řemeslo pro hrstku specialistů.
Z AI se stala konkurence
Ještě před rokem mu umělá inteligence pomáhala hledat v dokumentaci a chytat chyby v kódu. Dnes už umí číst kód pro grafické karty a sama ho zrychlovat. Má radost z toho, jak dobře V4.1 dopadl, ale zároveň píše, že operátory napsané umělou inteligencí budou nejspíš stejně dobré jako ty jeho, nebo lepší. Vzniká z toho smyčka, kterou sám pojmenoval, že čím lépe svou práci odvede, tím rychleji se modely trénují a tím dřív ho nahradí. „Lidé nikdy neváhali, když šlo o to vyrobit si vlastní zkázu,“ napsal a hned si položil otázku, proč tedy ty kernely pořád vylepšuje.
Prvním důvodem je radost z práce. Psaní kernelů přirovnal ke hraní videohry. Když vymyslí nový postup nebo když mu kód běží rychleji než předtím, cítí podle vlastních slov nadšení srovnatelné s běžcem, který si zlepšil osobní rekord. A když jeho kód předčí i oficiální verzi od výrobce čipů, je na to pyšný. I kdyby polevil nebo do vývoje schválně házel klacky pod nohy, konkurenční firmy pojedou dál a on skončí nahrazený tak jako tak. Radši než aby tu práci udělal za něj někdo jiný, udělá ji sám. Když jsou podle něj všichni takhle odhodlaní přivodit si vlastní konec, nezbývá mu než se toho také účastnit.
O místo strach nemá. Obává se něčeho jiného, že mu zůstane zaměstnání, ze kterého se vytratí ruční část, a z člověka, který kód sám píše, se stane někdo, kdo hlavně dohlíží na agenty. Přirovnal to k šikovné pletařce, která musí odložit jehlice a vzít stroj, protože ho mezitím pořídil celý obor.
Liou v příspěvku píše, že rozum a cit u sebe většinou drží odděleně, ale občas se ta druhá stránka ozve. Vzpomíná, jak brečel, když se stěhoval z bytu, ve kterém bydlel sotva rok, protože se nedokázal rozloučit se vzpomínkami. Loučení s obdobím, kdy kernely psali lidé a spoléhalo se na lidskou vynalézavost, podle něj bolí mnohem víc. Čtenářů se ptá, jestli to znají také, tedy že musí s umělou inteligencí pracovat, aby si uhájili živobytí, a přitom vědí, že jim to sebere tu část práce, kterou mají nejraději.
Nevěří západním laboratořím
Druhá polovina textu se týká toho, kdo bude nejvýkonnější systémy ovládat. Liou varuje před tím, aby skončily v rukou několika firem, protože by se tím podle něj prohloubily rozdíly mezi lidmi. Kdo by měl přístup k nejschopnějším modelům, získal by náskok, který se ostatním těžko dohání. Dodal, že by se tím ztížil i vzestup po společenském žebříčku. Z toho vyvozuje přesvědčení, že špičková inteligence by měla být otevřená a levně dostupná všem. „Nevěřím, že to udělá Anthropic nebo OpenAI,“ napsal a postavil jejich uzavřený přístup proti tomu, jak DeepSeek zveřejňuje váhy svých modelů.
Nejvíce naráží na Anthropic. Liou napsal, že si obzvlášť nepřeje, aby právě tato firma ovládla nejpokročilejší umělou inteligenci nebo AGI, tedy systémy na úrovni lidského rozumu či nad ní. S vlastní poznámkou, že to schválně přehání, to přirovnal k situaci, jako kdyby atomovou bombu získal Hitler dříve než spojenci. Víra v otevřený a všem přístupný vývoj patří podle jeho slov mezi důvody, proč zůstal v DeepSeeku.
Příspěvek napsal ve vypjaté době
Text zapadl do sporu, který se mezitím rozjel na obou stranách Pacifiku. Týden předtím odešel z Anthropicu kvůli obavám o bezpečnost výzkumník Jacob Coxon, který dříve pracoval i v OpenAI. Na síti X napsal, že firmy míří rovnou k superinteligenci, která se sama zlepšuje, a hazardují přitom s životy lidí. Na to v sobotu navázal šéf Anthropicu Dario Amodei výzvou, aby přední laboratoře zvolnily tempo. Schopnosti modelů podle něj rostou rychleji, než je firmy stíhají prověřovat. Do debaty se zapojili i Sam Altman nebo Elon Musk.
Právě proti téhle výzvě ke zvolnění se Liou vymezuje a v Číně není jediný. Podle deníku SCMP tam volání amerických firem po pomalejším tempu vyvolalo sílící odpor. Zaznělo krátce před očekávaným setkáním prezidentů Si Ťin-pchinga a Donalda Trumpa, které se má konat 24. září a kde by bezpečnost umělé inteligence mohla být jedním z hlavních témat. Čínské laboratoře mezitím tlačí na pilu. Po DeepSeeku na sebe upozornila firma Moonshot AI s modelem Kimi K3 a připomněla, jak rychle se čínské týmy posouvají.
Zdroje: weixin.qq.com, yahoo.com, timesofindia.indiatimes.com a neoteo.com
