Tajemný startup TypeSafe AI vydal svůj první model. Jmenuje se Jev a od všeho, co dnes běžně známe pod zkratkou AI, se liší v jedné věci. Neumí psát text. Nenapíše žádnou odpověď v chatu, žádný e-mail ani žádný kód. Místo toho dostane popis situace a předem připravené otázky, na které vrátí odpovědi v přesně daném tvaru, a ke každé přidá vyjádření míry své jistoty v podobě čísla. Protože slovy nic nevypisuje, nemůže si podle autorů nic vymyslet.
Model, který jen rozhoduje
Dnešní jazykové modely fungují tak, že skládají odpověď slovo po slově a každé další slovo odhadují z předchozího. Proto umí napsat cokoliv, ale zároveň si umí cokoliv i vymyslet. Model Jev je postavený jinak. Dostane na vstupu popis stavu, například údaje o zákazníkovi nebo obsah nějakého požadavku, k tomu sadu otázek, a všechny odpovědi spočítá v jediné operaci.
Odpovídat umí na tři druhy otázek. Ano nebo ne s vyjádřením pravděpodobnosti, výběr z předem zadaných možností, nebo ohodnocení na škále. Nic jiného. Když programátor předem určí, že odpověď má být jedna ze čtyř možností, model nemůže vrátit nic jiného. Dle firmy funguje Jev jako chytrá podmínka uvnitř programu. Tam, kde by bylo možné ručně napsat pravidlo, které by však bylo příliš nespolehlivé, nastoupí model a rozhodne.
Právě odsud plyne to, že Jev nedokáže halucinovat. Neposkládá si neexistující jméno funkce ani si nevymyslí číslo, protože nikdy nic neskládá. Tvar odpovědi je předem daný a firma tvrdí, že chyba je matematicky vyloučená. Zároveň dodává, že toto tvrzení by šlo vyvrátit jediným protipříkladem, kdyby se ho někomu podařilo najít.
Bezkonkurenční rychlost a cena
Rychlost je druhá vlastnost, kterou chce TypeSafe zaujmout. Odpověď od Jeva podle firmy dorazí za 70 až 500 milisekund, tedy zhruba za dobu mrknutí oka. Velké modely, se kterými se srovnává, potřebují na odpověď od tří sekund až po řádově minuty, pokud mají zapnuté přemýšlení. Rozdíl podle TypeSafe představuje čtyřicetinásobek až dvousetnásobek.
Podobně vypadá i cena. Za milion vstupních tokenů si firma účtuje přibližně čtyři setiny centu, což jsou zhruba dva dolary za padesát miliard znaků textu. Výstupy nezpoplatňuje vůbec s odůvodněním, že jsou tak levné, že se je nevyplatí ani měřit. U běžných modelů přitom právě výstup stojí nejvíce, obvykle asi pětinásobek vstupu.
V testech, které TypeSafe zveřejnil, vyšlo, že Jev odbaví stejnou práci skoro dvěstěkrát rychleji a přibližně čtyřsetkrát levněji než velké modely. Firma u těchto čísel říká, že jde o horní hranici toho, co se dá v praxi čekat.
Výhody jsou vykoupeny poměrně přísnými omezeními. Model nezpracuje obrázky, nemá žádné chatovací rozhraní a jeho paměť na jeden dotaz je asi třicetkrát menší než u dnešních velkých modelů. Nabídnout mu můžete nanejvýš dvě stě padesát pět možností na výběr, u větších množin se situace musí řešit ve dvou kolech.
Určený je proto jako doplněk k velkým modelům, nikoliv jako jejich náhrada. Typicky má třídit a směrovat požadavky, vytahovat z dat údaje, hodnotit záznamy nebo hlídat výstupy jiné umělé inteligence a zachycovat pokusy o obcházení pravidel.
Jev přizná nejistotu
Šéf TypeSafe Diogo Almeida tvrdí, že největší potíž dnešní umělé inteligence není hloupost, ale přehnané sebevědomí. Modely podávají každou odpověď, jako by byla stoprocentně správná. Celou dobu jsme modely ladili na lidi a jak se lidem zavděčit, v tom jsou dnes lepší než lidé sami, říká.
Problém pak vypadá takto. Pokud model zvládne nějaký úkol v pětadevadesáti případech ze sta, ale nikdy neuvede, ve kterých pěti se spletl, nedá se na něj spolehnout ani v jednom případě. Firma musí vše nechat zkontrolovat člověkem, a tím pádem padá úspora času a peněz. Jev proto ke každé odpovědi dodává pravděpodobnost a míru jistoty, a to tak, aby čísla odpovídala skutečnosti. Vyšší jistota znamená vyšší úspěšnost. Programátor si pak může nastavit hranici. Úkoly, které ji překročí, systém udělá sám, a ty pod ní pošle člověku. Almeida to shrnuje tak, že díky tomu lze konečně procesy automatizovat, místo aby se nic neautomatizovalo.
Model se trénoval novou metodou, kterou ve firmě pojmenovali učení pro zkalibrovaná rozhodnutí. Zatímco běžné modely se učí podle toho, která odpověď se více líbí lidem, Jev se učil tak, aby jeho odhady pravděpodobnosti odpovídaly realitě.
Doom a závod po Wikipedii
K oznámení přidal tým dvě ukázky, na kterých je vidět, co se s tak rychlým rozhodováním dá dělat. V první Jev hraje Doom. Dostává popis herní situace a desetkrát za sekundu se rozhoduje, jak postupovat. Hodina takového hraní stojí zhruba sedm dolarů, což překvapilo i autory.
Druhá ukázka je závod po Wikipedii, kdy se z jedné stránky musíte dostat na jinou pouze přes odkazy, které cestou potkáte. Na každém kroku jsou na výběr stovky až tisíce odkazů a model nesmí zvolit žádný, který na stránce ve skutečnosti není. Jev podle firmy docházel k cíli v méně krocích než jazykové modely, se kterými se poměřoval.
Za Jevem je bývalý výzkumník OpenAI
TypeSafe AI vznikl v roce 2024 a dva roky pracoval v utajení. Vede ho Diogo Almeida, který předtím působil ve výzkumu v OpenAI a podílel se na vývoji učení z lidské zpětné vazby, na studii o InstructGPT i na vývoji ChatGPT a GPT-4. Firmu zakládal spolu s Erikem Gafnim a Sashou Sheng.
Almeida o svých čtyřech letech v OpenAI mluví se zvláštním odstupem. Podle vlastních slov si tehdy myslel, že chatovací modely dovedou obor k obecné umělé inteligenci, ale postupně si uvědomil, že něco zásadního chybí. Jeho otázka zní, proč modely, které jsou v konverzaci lepší než lidé, zatím nepřinesly téměř žádnou skutečnou automatizaci. Odpověď, kterou si dal, je taková, že většina umělé inteligence by neměla mluvit s lidmi, ale tiše běžet uvnitř programů.
Jméno Jev je poklonou ekonomovi Williamu Stanleymu Jevonsovi, který si v devatenáctém století všiml, že úspornější parní stroje spotřebu uhlí nesnížily, ale naopak zvýšily, protože se najednou vyplatilo používat je všude. Ve firmě čekají totéž. Každé desetinásobné zlevnění inteligence podle nich otevře desetinásobek nových způsobů využití.
Zdroje: typesafe.ai a forbes.com
