Co se stane, když i jedna z nejbohatších technologických firem světa narazí na to, že si nemůže koupit dost výpočetního výkonu? Přesně tohle teď zažívá Meta. Google jí omezil přístup ke svým modelům umělé inteligence Gemini, protože Metě nedokázal dodat tolik kapacity, kolik chtěla. Informaci přinesl deník Financial Times s odvoláním na tři zdroje obeznámené s děním.
Google to Metě oznámil přibližně v březnu. Tehdy firma řekla, že nedokáže pokrýt celou kapacitu Gemini, kterou si Meta chtěla koupit. Výpadek zabolel. Některé interní projekty Mety se kvůli němu zdržely a část prací uvízla.
Meta měla největší smůlu
Omezení nedopadlo jen na Metu. Google přitvrdil i vůči dalším svým zákazníkům, ale ti to pocítili mírněji. Meta to schytala nejtvrději, a má to svůj důvod. Její poptávka po modelech Googlu byla mimořádně vysoká, takže když přišlo seškrtání, dolehlo na ni nejcitelněji.
Meta sázela na Gemini z prostého důvodu. Fungovalo jí líp než vlastní otevřené modely Llama. Nasadila ho hlavně tam, kde jde o bezpečnost: na automatické mazání škodlivého obsahu a likvidaci podvodných příspěvků. Postupně ale začala víc spoléhat na svůj nový model Muse Spark, protože se chce zbavit závislosti na cizích modelech.
Co dělá firma, když jí dojde palivo? Začne ho dávkovat. Po omezení od Googlu vyzvala Meta své lidi, aby s AI tokeny zacházeli úsporněji. Token je základní jednotka, kterou se měří spotřeba umělé inteligence, tedy způsob, jakým model zpracovává zadání a tvoří odpovědi. Tlak na šetření přišel v nevhodnou chvíli. Umělá inteligence je dnes pro šéfa Mety Marka Zuckerberga hlavní prioritou a stojí na ní jeho představa o budoucnosti firmy. Meta přitom cloudové výpočty sama neprodává, takže si výkon musí kupovat jinde. O to víc ji omezení od Googlu zabolelo.
Výkonu mají všichni nedostatek
Příběh Mety ukazuje něco většího. Firmy sypou do čipů a datových center miliardy, a přesto pořád nemají dost výpočetní síly na to, aby pokryly rostoucí zájem o služby s umělou inteligencí.
Vidět je to i na číslech samotného Googlu. Tržby divize Google Cloud vyšplhaly v prvním čtvrtletí do konce března na dvacet miliard dolarů. Šéf Alphabetu Sundar Pichai ale přiznal, že vyšší růst zabrzdil právě nedostatek výpočetního výkonu. Objem nevyřízených zakázek cloudové divize se kvůli tomu mezi čtvrtletími málem zdvojnásobil.
A tak Google shání kapacitu, kde se dá. Začátkem června se dohodl s firmou SpaceX Elona Muska, že jí bude za výpočetní výkon platit 920 milionů dolarů měsíčně. Jde o součást cloudové dohody za třicet miliard dolarů, která poběží do poloviny roku 2029.
Meta mezitím prochází bolestivým úsporným režimem. Začátkem roku oznámila zaměstnancům plán propustit deset procent lidí, tedy zhruba osm tisíc míst, aby vyrovnala své velké výdaje. Dalších sedm tisíc pracovníků přesunula na nové pozice spojené s umělou inteligencí.
Zdroje: ft.com a bloomberg.com
