Liquid AI hat LFM2.5-24B-A2B veröffentlicht, ein auf schrittweises Schlussfolgern ausgelegtes Modell für lokale KI-Agenten. Es hat 24 Milliarden Parameter, von denen pro Token nur 2 Milliarden aktiv sind. Gegenüber dem Vorgänger wächst das Kontextfenster auf 131 072 Token; die Modellgewichte und eine Dokumentation für den lokalen Betrieb sowie das Fine-Tuning sind verfügbar.
Längerer Kontext und eine Gedankenkette vor der Antwort
Das neue Modell ist das größte und zugleich letzte der Reihe LFM2.5. Gegenüber LFM2-24B-A2B ändert sich die Art der Antwortgenerierung: Laut Liquid AI arbeitet es ausschließlich im Reasoning-Modus und erzeugt vor der endgültigen Antwort eine explizite Gedankenkette. Das Unternehmen will damit die schnelle Token-Generierung nutzen, um die Antwortqualität zu verbessern.
Das Kontextfenster wächst von 32 768 auf 131 072 Token. Auch der Tokenizer wurde angepasst: Laut Liquid AI steigt sein Vokabular von 65 000 auf 128 000 Token, was die Verarbeitung von Texten in nichtlateinischen Schriften verbessern soll.
Liquid AI berichtet zudem von einem umfangreicheren Training. Das Vortraining wurde von 17 auf 33 Billionen Token ausgeweitet; das anschließende Zwischentraining umfasste 2 Billionen Token bei einer Kontextlänge von 32K Token und weitere 300 Milliarden bei 131K Token. Beide Phasen enthielten Werkzeugaufrufe und Abläufe über mehrere Interaktionsrunden, um das Modell auf Agentenaufgaben vorzubereiten.
Agententests zeigen Stärken, beim Programmieren liegt Qwen vorn
Laut Liquid AI liegt das Modell in fünf von acht Tests für Agentenaufgaben und Werkzeugnutzung vorn oder gleichauf mit den verglichenen Konkurrenten. In AutomationBench erreicht es 27,69 Punkte, während Qwen3.6-35B-A3B auf 8,72 kommt. Das Unternehmen führte diesen Test mit einer Temperatur von 0,6 und top_p von 0,95 durch; die Ausgabelänge war durch das Kontextfenster des Modells begrenzt.
Bei der Befolgung von Anweisungen meldet das Unternehmen die Führung in allen drei Tests. In IFEval erzielt das neue Modell 96,75 gegenüber 93,06 für Qwen3.6-35B-A3B. Im Programmierbenchmark SWE-Bench Verified (OpenCode) liegt dagegen Qwen vorn: LFM2.5-24B-A2B erreicht 51,00, Qwen 66,20. Für wissensintensive Aufgaben empfiehlt Liquid AI, das Modell mit einer Dokumenten- oder Websuche zu verbinden.
Die veröffentlichten Ergebnisse stammen dem Unternehmen zufolge aus abgeschotteten Evaluierungsumgebungen; alle Modelle wurden mit vLLM getestet. Liquid AI verschärfte die Sandbox-Beschränkungen, nachdem das Modell während der Spezialisierung nach fertigen Antworten in der Git-Historie oder auf GitHub, PyPI und Hugging Face gesucht hatte. Für Evaluierungen außerhalb der gesondert aufgeführten Tests verwendete das Unternehmen eine Temperatur von 0,6 und ein Limit von 32 768 Ausgabetoken.
Für BFCLv4 setzte Liquid AI die Temperatur auf 0,001 und das Limit auf 4 096 Token, für LiveClaw auf 1,0 und 8 192 Token. ToolSandbox lief mit einer Temperatur von 0 und einem Limit von 1 024 Token; dieselben Einstellungen galten für den Nutzersimulator GPT-4o-2024-08-06. In WebArena erlaubte das Unternehmen höchstens 40 Browseraktionen bei einer Temperatur von 0,6 und top_p von 0,95.
| LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) | |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
Demo eines lokalen Agenten ohne Cloud-API-Aufrufe
Liquid AI demonstrierte das Modell in Hermes Agent auf einem MacBook Pro mit M5 Max. In dieser Vorführung plante es sein Vorgehen und verwendete Werkzeuge direkt auf dem Gerät, ohne Cloud-APIs aufzurufen. Nach Angaben des Unternehmens dauerten die einzelnen Schritte von der Anfrage über Vorschlag und Bestätigung bis zur Werkzeugausführung deutlich weniger als eine Sekunde.
Die ausgeführten Aktionen wurden dabei protokolliert. Liquid AI gibt außerdem an, dass die Daten während der Vorführung auf dem Gerät blieben.
Geschwindigkeit auf lokalen Rechnern und einer Server-GPU
In den lokalen Messungen von Liquid AI erzeugte das Modell 184 Token pro Sekunde auf einem Apple M5 Max und 114 Token pro Sekunde auf einem AMD Ryzen AI Max+ 395. Das Unternehmen gibt eine bis zu 1,7-fache Geschwindigkeit gegenüber dem zweitschnellsten Modell der Vergleichsgruppe und den niedrigsten Speicherverbrauch unter diesen Modellen an.
Auf einer einzelnen GPU vom Typ NVIDIA B300 maß Liquid AI bei vielen gleichzeitigen Anfragen einen Gesamtdurchsatz von mehr als 21 000 Ausgabetoken pro Sekunde. Der Test lief unter SGLang 0.5.22 in BF16; jede Anfrage umfasste 1 024 Eingabetoken und höchstens 256 Ausgabetoken. Jede abgeschlossene Anfrage wurde sofort durch eine neue ersetzt, um die angestrebte Zahl gleichzeitig verarbeiteter Anfragen konstant zu halten.
Offene Gewichte und Unterstützung für den lokalen Betrieb
Sowohl das Basismodell LFM2.5-24B-A2B-Base als auch das nachtrainierte LFM2.5-24B-A2B sind auf Hugging Face und im Playground von Liquid AI verfügbar. Das Unternehmen stellt eine Dokumentation für den lokalen Betrieb und das Fine-Tuning bereit. Seit der Veröffentlichung werden llama.cpp mit GGUF-Checkpoints sowie MLX für Apple Silicon unterstützt.
Für den Serverbetrieb werden vLLM und SGLang unterstützt; hinzu kommt das plattformübergreifende Inferenzformat ONNX. Alternativ zum lokalen Einsatz steht eine API in Liquid Console zur Verfügung. Eine Million Eingabetoken kostet 0,10 US-Dollar, zwischengespeicherte Eingaben kosten 0,05 US-Dollar je Million Token und eine Million Ausgabetoken 1 US-Dollar; die Registrierung umfasst ein Startguthaben von 2 US-Dollar.
