Anthropic zdokonaluje své modely umělé inteligence zhruba dvakrát rychleji než před rokem a za velkou částí tohoto zrychlení stojí sama umělá inteligence. K takovému závěru došla nezisková organizace METR z kalifornského Berkeley, která několik týdnů procházela interní data firmy a vyptávala se jejích zaměstnanců. Zjištění patří k nejjasnějším důkazům, že umělá inteligence urychluje vlastní vývoj, a otevírají debatu o tom, jak blízko jsou systémy, které se dokážou zlepšovat samy bez lidské pomoci. Zvláštní je, že právě během zkoumání vyzval šéf Anthropicu Dario Amodei celé odvětví, aby zpomalilo a bezpečnostní opatření stihla dohnat vývoj.
Jedenáct týdnů uvnitř Anthropicu
Organizace METR, celým názvem Model Evaluation and Threat Research, nepřišla nezvaná. Anthropic sám pozval její výzkumníky, aby prošli interní data a mluvili se zaměstnanci. Zkoumání trvalo zhruba jedenáct týdnů od poloviny srpna do konce října. Organizace hledala odpověď na dvě otázky, přičemž ji zajímalo, zda se tempo růstu schopností interních modelů zrychlilo a jak velký podíl na tom má umělá inteligence. Výzkumníci sami uvedli, že dostali k datům bezprecedentní přístup.
Výsledek překvapil i zkušené pozorovatele. Schopnosti modelů Anthropicu ve srovnávacích testech rostou od října 2025 zhruba 1,9krát rychleji než předtím. K letošnímu říjnu firma podle organizace METR zlepšuje modely v přesně zadaných úlohách přibližně dvakrát rychleji než v období od března 2024 do října 2025. Za poslední rok tak udělala zhruba tolik pokroku jako dříve za dva roky. Odhad provází velká nejistota a autoři by se nedivili, kdyby skutečné zrychlení leželo někde mezi jedenapůlnásobkem a dvaapůlnásobkem dosavadního tempa.
Podstatné je, co za zrychlením nestojí. Organizace METR s jistotou vyloučila, že by šlo o růst výpočetního výkonu použitého k tréninku. Ten přitom tradičně nejvíce určuje, jak dobře model funguje. Výzkumníci odhadují, že zhruba 80 procent zrychlení má na svědomí využívání umělé inteligence k vylepšování jí samé.
Zaměstnanci hlásí dvanáctinásobnou produktivitu
Svůj obrázek si organizace METR skládala i z neformálních anket mezi zaměstnanci. Lidé, kteří pracují s nejschopnějším interním modelem firmy, v průměru uváděli, že jsou zhruba dvanáctkrát produktivnější než bez pomoci umělé inteligence. To je asi dvakrát více, než hlásili jen o pár měsíců dříve při práci s modelem Mythos 5. Výzkumníci ovšem upozorňují, že tato čísla nejsou příliš spolehlivá.
Většinu práce zatím stále dělají lidé, kterým umělá inteligence pomáhá. Umělá inteligence podle zprávy ještě nedokáže zcela samostatně a výrazně přispět k nejdůležitějším částem tréninku modelů. Výzkumníci z Anthropicu ale popsali výrazné známky vývoje, které naznačují, že by se to mohlo brzy změnit. Experti z organizace METR varují, že pokud začne umělá inteligence vylepšovat sama sebe, zrychlení se může dále násobit. Žádné úzké hrdlo, například nedostatek výpočetního výkonu nebo dat, které by pokrok brzdilo, přitom nenašli.
Zpráva nešetří výhradami. Zrychlení se může týkat jen přesně zadaných úloh, které lze automaticky ohodnotit, nikoliv neuspořádaných úkolů z reálného světa. Je také možné, že Anthropic dřívější pokrok podhodnotil a nové číslo proto vypadá větší. Na druhou stranu organizace METR porovnala veřejnou i neveřejnou verzi srpnové zprávy firmy o rizicích a dospěla k závěru, že ta veřejná míru zrychlení spíše podhodnocuje.
Velkou část pokroku pohánějí modely, které veřejnost ještě neviděla. Anthropic za posledních šest měsíců dokončil trénink tří modelů, které zatím nevydal. Pod krycími jmény Model 2, Model 3 a Model 4 dokončily trénink v červenci, na přelomu srpna a září a na přelomu září a října.
Většinu důkazů firma začernila
Na zprávě je stejně výmluvné to, co v ní chybí. Anthropic měl podle dohody právo pasáže mazat a využil ho vydatně. Organizace METR firmě předala zhruba stostránkovou zprávu a pro veřejnou verzi z ní Anthropic odstranil většinu důkazů, které výzkumníci považovali za nejvypovídající. Několik žádostí o data firma rovnou zamítla. Veřejnost se tak podle organizace METR musí na úsudek výzkumníků spoléhat mnohem více, než by bylo vzhledem k závažnosti tématu ideální.
Spoluzakladatel Anthropicu Sam McCandlish se za rozhodnutí postavil. Uznal, že rozsáhlé mazání ztěžuje kontrolu práce organizace METR, ale podle něj by zveřejnění přesných příčin zrychlení prozradilo citlivé obchodní informace a dalo konkurenci návod k dalšímu urychlení vývoje. Firma prý v nejbližších týdnech vydá vlastní zprávu o tempu pokroku a představí nové kroky pro posílení bezpečnosti.
Kritiky dráždí i další detail. Anthropic zrušil část hodnocení, která měla prověřit, kolik výpočetního výkonu věnuje bezpečnosti a kolik zlepšování schopností modelů. Firma to zdůvodnila tím, že se chce zatím soustředit na posouzení rizik a k ověření se vrátí později.
Kritici mluví o pokrytectví
Rozpor mezi slovy a činy Anthropicu dobře ukazuje zářijová esej šéfa firmy. Dario Amodei v ní napsal, že pokrok umělé inteligence pohání hlavně rostoucí schopnost systémů stavět svou další generaci. Varoval, že bez kontroly může tento proces předběhnout naši schopnost systémům rozumět a ovládat je, a proto se k němu má přistupovat velmi opatrně. Ve stejném textu prosazoval nezávislé hodnotitele přímo uvnitř předních laboratoří a organizaci METR výslovně zmínil jako vhodného kandidáta.
Daniel Kokotajlo, bývalý výzkumník OpenAI, který dnes vede AI Futures Project, firmu ostře zkritizoval. Obvinil Anthropic z bezohledného hazardování s lidskými životy a za nepřijatelné označil to, když se firma kvůli mazání odvolává na rychlejší konkurenci, přestože sama téměř vůbec nezpomaluje. Marius Hobbhahn, šéf Apollo Research, řekl, že zpráva naznačuje ještě rychlejší tempo, než předpovídal vlivný scénář AI 2027, který počítá s průlomem k sebezdokonalování na začátku roku 2027. Ryan Greenblatt z organizace METR přiznal, že se v odhadech vážně mýlil a na letošní rok čekal mnohem menší zrychlení.
Podobným směrem míří i konkurence. Společnost OpenAI v září oznámila, že chce do března 2028 postavit AI výzkumníka, který by sám posouval vývoj hlubokého učení. Brianna Rosen z Institutu pro politiku a strategii AI vidí problém v tom, že o automatizaci výzkumu fakticky rozhodují firmy, nikoliv vlády, přičemž zpráva podle ní nebyla o důkazech dostatečně průhledná. Newyorský poslanec Alex Bores zašel nejdále a vyzval Kongres, aby rekurzivní sebezdokonalování umělé inteligence zakázal, pokud možno ještě letos.
Zpráva přichází pro Anthropic v citlivé chvíli. Firma ze San Francisca chce ještě tento měsíc vstoupit na burzu a mohlo by jít o vůbec největší úpis akcií v historii. Hobbhahn si ze zprávy odnesl jednoduchý vzkaz, že se lidé mají připravit na šílenství, protože všechno půjde velmi rychle, pravděpodobně mnohem rychleji, než dokáže společnost a politika držet krok.
Zdroje: reuters.com, theverge.com a apnews.com
