Když před AI varují někteří odborníci, určitě to stojí za povšimnutí. Pokud ale před ní varuje šéf Microsoftu, jehož firma do umělé inteligence nalila miliardy dolarů, měli bychom se mít na pozoru. A přesně to se stalo v neděli 12. července, když CEO Microsoftu Satya Nadella na svém blogu publikoval článek, ve kterém tvrdí, že firmy za AI neplatí jen penězi. Aniž si to totiž uvědomují, platí i něčím daleko cennějším, a to vlastním know-how. Celou záležitost označil za „obrácený informační paradox“.
Obrácený informační paradox
Nadella vychází z teorie ekonoma Kennetha Arrowa. Ten kdysi popsal, že prodejce informace riskuje, že o ni přijde už tím, že ji zájemci ukáže. Umělá inteligence však tento paradox posouvá ještě dál. V tomto případě totiž riskuje kupující, tedy firma. Nadella v článku zdůrazňuje, že za inteligenci platíte dvakrát: „…jednou penězi a podruhé znalostmi, které musíte odhalit, aby vám AI byla užitečná.“ A to je naprostá pravda. Čím lepší výsledky od modelu chcete, tím víc informací mu musíte dát.
A tady nastává problém. Zatímco firmy mají pocit, že jim placené nástroje usnadňují práci, skutečnost je složitější. AI se totiž učí přesně z toho, co do ní zadáte, tedy z promptů, nástrojů a oprav, jimiž uživatel vede model k lepšímu a přesnějšímu výsledku. A právě v těchto opravách se podle Nadelly ukrývá firemní know-how, které by jinak zůstalo neveřejné a pro konkurenci nedostupné. Firmy ho však prostřednictvím AI dobrovolně odevzdávají, protože čím více toho o nich AI ví, tím lepší výsledky jim poskytuje.
Dvojí metr
Nadella svou úvahou míří i na tvůrce AI modelů. Považuje za ironické, že AI společnosti trénují své modely na veřejných datech z celého internetu, ale zároveň uživatelům smluvně zakazují takzvanou destilaci, tedy učení vlastních modelů z výstupů těch komerčních.
Přesně z takového jednání obvinila OpenAI čínskou společnost DeepSeek. Ta měla údajně destilovat modely OpenAI pro vylepšení vlastních AI modelů. Paradoxní však je, že velké AI společnosti se takové „destilace“ denně dopouští na svých uživatelích. Proto by podle Nadelly měli mít stejnou možnost i zákazníci.
Co s tím? Nadella má radu
Nadella firmám radí, aby si zachovaly kontrolu nad svými daty, prompty a zpětnou vazbou, vybudovaly si vlastní „učicí prostředí“ a především se neupínaly pouze na jednoho dodavatele AI. Ideální je tak prostředí, ve kterém budou firmy moci přepínat mezi modely různých poskytovatelů.
Tato Nadellova doporučení však neunikla jeho kritikům, kteří v nich vidí určité prospěchářství. Nadella je totiž CEO Microsoftu, který provozuje jednu z největších cloudových platforem na světě, a právě vlastní „učicí prostředí“ si mohou firmy vytvořit v jeho cloudové platformě Microsoft Azure.
Na poplach bijí i další odborníci
Nadella ale není sám, kdo na tuto problematiku upozorňuje. Podobná varování zazněla už dřív třeba od investora Jasona Calacanise nebo šéfa Palantiru Alexe Karpa. A podle TechCrunche už firmy reagují, protože roste zájem o open-source modely provozované na vlastním hardwaru. A co víc, zvládnou zhruba 90 % práce, kterou odvádějí velké modely, ale za zlomek ceny.
Jak se firmy v budoucnu rozhodnou s AI pracovat, je stále otázkou. Nicméně to, kdo vlastní znalosti vzniklé při používání AI, se stává jedním z nejdůležitějších témat celého odvětví.
Zdroj: SN Scratchpad, TechCrunch, Business Standard
