Většina výzkumníků AI: Technologický průmysl vkládá miliardy do slepé uličky
Nedávný průzkum provedený Asociací pro pokrok v oblasti umělé inteligence (AAAI) mezi 475 výzkumníky v oblasti AI odhaluje překvapivou shodu: většina odborníků se domnívá, že dominantní strategie technologického průmyslu – investice miliard do škálování současných AI modelů a infrastruktury – pravděpodobně nepovede k dosažení umělé obecné inteligence (AGI).
Zjištění z průzkumu
Ohromujících 76 % dotázaných výzkumníků uvedlo, že je "nepravděpodobné" nebo "velmi nepravděpodobné", že by pouhé škálování existujících generativních modelů a datových center vedlo k AGI, která je široce považována za konečný cíl mnoha subjektů v tomto oboru. "Rozsáhlé investice do škálování, které nebyly doprovázeny srovnatelnými snahami o pochopení toho, co se vlastně děje, mi vždy připadaly jako špatně umístěné," uvedl Stuart Russell z Kalifornské univerzity v Berkeley.
Odborníci jako Stuart Russell poznamenávají, že přibližně před rokem se mnoha lidem v oboru stalo zřejmým, že zisky z konvenčního škálování dosáhly svého vrcholu. Navzdory masivním investicím přináší další zvyšování velikosti modelů a výpočetního výkonu klesající výnosy. Průmysl investoval během roku 2024 do financování generativní AI více než 56 miliard dolarů, přičemž společnosti jako Microsoft plánují vynaložit jen na rok 2025 na infrastrukturu AI 80 miliard dolarů. Přesto poslední verze velkých jazykových modelů vykazují výrazně menší zlepšení než předchozí iterace.
Potřeba alternativních přístupů
Některé společnosti zkoumají efektivnější metody – například OpenAI využívá "test-time compute", kdy AI tráví více času uvažováním před rozhodnutím – ale tyto nejsou považovány za všelék. Pro skutečný průlom budou pravděpodobně zapotřebí fundamentální inovace přesahující metodu hrubé síly založenou na škálování. Roste také znepokojení ohledně spotřeby energie a dopadu na životní prostředí, neboť technologičtí giganti podepisují smlouvy na vyhrazené jaderné elektrárny jen proto, aby mohli provozovat své rozšiřující se flotily datových center.
Nedávný vývoj toto skeptické hodnocení potvrzuje. Zprávy naznačují, že nejnovější model OpenAI GPT ukázal malé nebo žádné zlepšení oproti svému předchůdci. Generální ředitel Google Sundar Pichai veřejně prohlásil, že snadné zisky z jednoduchého škálování jsou "u konce", i když někteří lídři nadále prosazují větší modely bez ohledu na výsledky. Microsoft začal omezovat plánovaná rozšíření datových center uprostřed ekonomické nejistoty a pochybností o pokračující návratnosti takových investic.
Nutnost nových přístupů
Prezidentský panel AAAI o budoucnosti výzkumu AI zdůrazňuje, že pro dosažení smysluplného pokroku bude potřeba fundamentálních inovací v základním výzkumu. Panelová diskuse AAAI identifikovala několik klíčových oblastí, které vyžadují větší pozornost, včetně:
- Nových přístupů k učení a uvažování, které přesahují současné paradigma statistického učení.
- Efektivnějších a energeticky úspornějších architektur AI.
- Hlubšího pochopení toho, jak současné modely fungují a jak je můžeme zlepšit.
Mezi předními výzkumníky nyní panuje široká shoda, že pouhé vkládání dalších peněz do většího hardwaru a objemnějších datových souborů nepřinese AGI ani udržitelný transformativní pokrok. Průmysl čelí rostoucímu tlaku – a zároveň příležitosti – prosazovat nové algoritmické inovace, spíše než se spoléhat výhradně na přístupy založené na škálování. Jak poznamenal jeden z výzkumníků citovaných v průzkumu AAAI: "Potřebujeme se vrátit k základům a promyslet, co inteligence skutečně je a jak ji můžeme modelovat způsoby, které nejsou založeny pouze na hromadění dat a výpočetní síly."
