Liquid AI vydala dva modely s otevřenými vahami, které místo psaní odpovědi hodnotí předem zadané možnosti. d1-3B přijímá text a obrázky, experimentální d1-omni-600M text doplněný buď obrázky, nebo zvukem. Pro klasifikační úlohy vracejí přímo strukturované pravděpodobnosti, takže aplikace nemusí následně zpracovávat vygenerovanou textovou odpověď.
Tři způsoby, jak položit rozhodovací otázku
Základem d1 je jediný průchod modelu, během něhož vyhodnotí možnosti dodané v požadavku a vrátí kalibrované pravděpodobnosti. Přitom negeneruje žádné tokeny. Rozhraní nabízí tři typy otázek, které se liší tím, zda aplikace potřebuje binární rozhodnutí, výběr kategorie, nebo hodnocení na uspořádané škále.
Noul je určen pro otázku ano/ne a výsledkem je pravděpodobnost v rozsahu od 0 do 1. Použít jej lze například při detekci spamu nebo schvalování volání nástrojů. Choice naproti tomu rozděluje pravděpodobnosti mezi pojmenované možnosti: požadavek zákaznické podpory může přiřadit k fakturaci, technické podpoře nebo správě účtu.
Score pracuje s uspořádanou hodnoticí škálou a vrací pozici váženou pravděpodobnostmi. Mezi jeho možné úlohy patří odhad závažnosti, naléhavosti či kvality odpovědi. Více otázek přitom může sdílet tentýž vstup i inferenční požadavek, například pro společné určení záměru zákazníka, výběr příslušného týmu a hodnocení naléhavosti.
Rozsah použití vymezuje právě seznam možností zadaný volajícím. d1 nevytváří volný text a není určen pro vícekolovou konverzaci, shrnování, generování kódu ani otevřené otázky a odpovědi.
Dvě architektury pro různé vstupy
d1-3B vychází z LFM2.5-VL-3B a používá architekturu decoder-only pro zpracování textu a obrazu. Experimentální d1-omni-600M má 600 milionů parametrů a základem je LFM2.5-Encoder-350M. U něj Liquid AI používá obousměrný enkodér doplněný obrazovými a zvukovými komponentami; podporovaným vstupem je text ve spojení buď s obrázky, nebo se zvukem.
Latence na GeForce a zařízeních Jetson
Liquid AI u d1-3B uvádí při zpracování jedné otázky latenci 8 ms na NVIDIA GeForce RTX 4090 a 9 ms na AMD MI325X. Pro MI325X firma zveřejnila také propustnost 1 106 vstupních stavů za sekundu při jejich sdružování. Jde o údaj pro dávkové zpracování, zatímco uvedené latence se vztahují k jedné otázce.
Na NVIDIA Jetson AGX Thor podle Liquid AI trvá jedna otázka 16 ms a tři otázky ve společném požadavku 20 ms. Pro NVIDIA Jetson AGX Orin firma uvádí 26 ms a pro NVIDIA Jetson Orin Nano 50 ms, v obou případech při jedné otázce.
Textové testy a srovnání s modely Decider
Na veřejné části Decision Index v0.2.1, souhrnného benchmarku rozhodovacích modelů, dosahuje d1-3B podle Liquid AI skóre 48,57. Firma jej označuje za vedoucí model mezi těmi s méně než 10 miliardami parametrů. Výkon zároveň popisuje jako srovnatelný s Decider 35B-A3B, který označuje za dvanáctkrát větší.
Konkrétní číselné srovnání nabízí sada sedmi veřejných textových benchmarků. Liquid AI v ní uvádí průměrné skóre 82,9 pro d1-3B oproti 81,1 u Decider 4B. Testované oblasti zahrnují porozumění textu a klasifikaci záměru, dále detekci toxicity, odpovídání na medicínské otázky a porozumění napříč jazyky.
U experimentálního d1-omni-600M Liquid AI uvádí skóre 15,95 v Decision Index v0.2.1. Ve specializovaných textových úlohách zveřejnila hodnotu 95,8 pro detekci toxicity Civil Comments a 79,5 pro rozpoznávání parafrází PAWS-X.
Hostované API vrací výběr i míru jistoty
Hostovaný model je přístupný přes endpoint system_one. Volání obsahuje vstupní stav, typované otázky a případně obrázky; odpověď zahrnuje rozdělení pravděpodobností, zvolenou odpověď a míru jistoty. Aplikace může nastavit explicitní prahy, automaticky zpracovat případy s vysokou jistotou a nejednoznačné vstupy předat jinému modelu nebo člověku.
Jeden požadavek může obsahovat až osm obrázků a 10 000 obrazových bloků o velikosti 32 × 32 pixelů. Hostované API nabízí placenou variantu d1 s podporou obrazu a textovou variantu d1:free, přičemž Liquid AI účtuje zpracování obrazu jako 1,5 tokenu za blok.
Otevřené váhy, llama.cpp a kamerové demo
Oba modely jsou dostupné na Hugging Face pod licencemi pro otevřené váhy. Součástí vydání je podpora llama.cpp pro hardware Apple, AMD, Qualcomm a NVIDIA, včetně formátu NVIDIA NVFP4. Jetson AI Lab zveřejnil modelové karty pro nasazení na koncových zařízeních.
Liquid AI také poskytuje živé demo s deseti příklady využívajícími kameru. Patří mezi ně hry ovládané gesty a moderace obsahu, při níž model provádí jeden průchod na každý snímek.
