Mistral předvedl, jak jeho model Large 4 z krátkého zadání vytvořil interaktivní simulátor kvantové chemie. Podle společnosti model napsal výpočetní program, zkontroloval jeho číselné výsledky a propojil výpočet s 3D vizualizací rozpadu molekuly.
Od výběru vazby k výpočtu energií
Model přezdívaný Le Chonk měl podle Mistralu sám vybrat chemickou vazbu k natahování i molekulové orbitaly, které zobrazí. Ve zveřejněném postupu pak spustil výpočet pro různé délky vazby a kontroloval, zda se vypočtené energie ustálí a jejich průběh dává smysl.
Výpočet využíval metodu Self-Consistent Field (SCF). Ta aproximuje elektronovou strukturu molekuly postupným zpřesňováním odhadu hustoty elektronů, dokud energie a hustota nekonvergují.
Posuvník mění molekulu i energetický graf
Součástí demonstrace Mistralu byl graf energie a zobrazení orbitalů, které se při natahování vazby přesouvají k odděleným částem molekuly. Posuvník současně aktualizoval geometrii, zobrazení orbitalů a vazby i energetický graf.
Ukázka zachycuje jeden úspěšný běh. Neukazuje však opakovatelnost, četnost selhání ani číselnou přesnost výsledků.
Možnosti modelu a výsledky hodnocení
Large 4 používá architekturu směsi expertů (mixture-of-experts) s přibližně 1,05 bilionu parametrů, z nichž se při zpracování tokenu aktivuje přibližně 52 miliard. Přijímá text a obrázky, vytváří text a kód a podporuje kontext až milion tokenů.
Model nabízí tři režimy uvažování určené k vyvážení kvality, rychlosti odezvy a spotřeby tokenů. V souhrnném indexu širšího hodnocení DataCamp obsadil Large 4 32. místo ze 44 modelů; hodnotitel zaznamenal silnější výsledky v kybernetické bezpečnosti a právních úlohách a výsledek uprostřed pole ve financích.
Přístup přes API i vlastní provoz
Large 4 je dostupný přes Mistral Studio a Mistral API. Váhy ve formátu FP8 jsou také na Hugging Face pro vlastní provoz. API stojí 0,70 dolaru za milion vstupních a 2,10 dolaru za milion výstupních tokenů.
Licence umožňuje přístup k vahám a lokální nasazení. Firmy, které chtějí Large 4 nabízet jako komerční cloudovou službu, však potřebují samostatnou dohodu s Mistralem.
