Was bringt Mistral 3?
Das französische Unternehmen Mistral AI hat soeben seine neue Modellfamilie namens Mistral 3 vorgestellt. Diese Familie umfasst das große Modell Mistral Large 3 und neun kleinere Modelle unter dem Namen Ministral 3. Alle diese Modelle sind offen, was bedeutet, dass ihre Gewichte unter der Apache-2.0-Lizenz öffentlich verfügbar sind. Dadurch kann sie jeder herunterladen und verwenden. Die Modelle unterstützen multimodale Funktionen wie die Verarbeitung von Text und Bildern und funktionieren in vielen Sprachen, darunter auch Tschechisch.
Mistral Large 3 basiert auf einer Mixture-of-Experts-Architektur (MoE) mit 41 Milliarden aktiven Parametern und insgesamt 675 Milliarden Parametern. Das Training erfolgte auf 3.000 NVIDIA-H200-Grafikprozessoren. Dieses Modell erreicht eine hohe Effizienz, da es für jedes Token nur die benötigten Teile des Netzwerks aktiviert. Es verfügt über ein Kontextfenster von 256.000 Token, wodurch lange Dokumente verarbeitet werden können. Den Benchmarks zufolge belegt es unter den offenen Modellen ohne fortgeschrittenes Schlussfolgern den zweiten Platz in der LMArena-Rangliste.
Die kleineren Ministral-3-Modelle sind mit 3 Milliarden, 8 Milliarden und 14 Milliarden Parametern erhältlich. Jede Größe gibt es in drei Varianten: Base (grundlegendes vortrainiertes Modell), Instruct (für Konversationen und Assistenten optimiert) und Reasoning (für komplexe logische Aufgaben). Diese Modelle erreichen eine hohe Genauigkeit, beispielsweise 85 % im AIME-2025-Test bei der Variante mit 14 Milliarden Parametern. Sie sind für den Betrieb auf einer einzelnen GPU ausgelegt und eignen sich dadurch für Geräte ohne permanente Internetverbindung, etwa Laptops, Roboter oder Drohnen.
Vorteile für Unternehmen und Entwickler
Laut Guillaume Lample, Mitgründer und leitender Wissenschaftler bei Mistral AI, beginnen Unternehmen häufig mit großen geschlossenen Modellen, wechseln dann jedoch aufgrund niedrigerer Kosten und höherer Geschwindigkeit zu kleineren, angepassten Versionen. Mistral 3 bietet genau das – die Möglichkeit zur Anpassung an spezifische Aufgaben wie Dokumentenanalyse, Codeerstellung oder die Automatisierung von Arbeitsabläufen. Ministral 3 generiert weniger Token als vergleichbare Modelle, was den Energieverbrauch senkt und die Geschwindigkeit erhöht.
Mistral AI arbeitet mit Unternehmen wie Helsing an Modellen für Drohnen zusammen, die Sehen, Sprache und Aktionen kombinieren, sowie mit Stellantis an einem Assistenten für Autos. Darüber hinaus arbeitet das Unternehmen mit der HTX-Agentur in Singapur an Modellen für Roboter, Cybersicherheit und Brandschutz. Diese Modelle laufen offline, was für Orte mit eingeschränkter Konnektivität wie abgelegene Gebiete oder studentische Projekte entscheidend ist.
Optimierung und Verfügbarkeit
Mistral AI arbeitet eng mit Nvidia zusammen, um die Modelle für deren Hardware zu optimieren. Mistral Large 3 erreicht auf dem System GB200 NVL72 eine zehnfache Beschleunigung gegenüber der vorherigen Generation NVIDIA H200. Das bedeutet niedrigere Kosten pro Token und eine höhere Energieeffizienz. Die kleineren Ministral-3-Modelle sind für Edge-Geräte wie Nvidia Spark, RTX-Computer, Laptops oder Jetson-Geräte optimiert.
Darüber hinaus arbeitet Mistral mit vLLM und Red Hat an komprimierten Formaten wie NVFP4, wodurch Large 3 auf einem einzelnen Knoten mit 8x A100 oder H100 betrieben werden kann. Die Modelle sind auf Plattformen wie Mistral AI Studio, Amazon Bedrock, Azure Foundry, Hugging Face, Modal, IBM WatsonX, OpenRouter, Fireworks, Unsloth AI und Together AI verfügbar. Nvidia NIM und AWS SageMaker sollen bald hinzukommen.
Mistral AI bietet zudem Dienstleistungen für das individuelle Training von Modellen mit spezifischen Daten an, was Unternehmen dabei hilft, maßgeschneiderte Lösungen zu entwickeln. Die Modelle unterstützen Frameworks wie TensorRT-LLM, SGLang und vLLM für eine effiziente Bereitstellung von der Cloud bis zum Edge.
Multimodale Fähigkeiten
Alle Modelle der Mistral-3-Familie verarbeiten nicht nur Text, sondern auch Bilder, wodurch sie sich für Aufgaben wie Bildbeschreibungen oder kombinierte Analysen eignen. Sie unterstützen mehr als 40 Sprachen, was für den weltweiten Einsatz von Vorteil ist. Large 3 ist beispielsweise das erste offene Modell, das multimodale und mehrsprachige Funktionen in einem Paket vereint und mit Modellen wie Llama 3 von Meta oder Qwen3-Omni von Alibaba vergleichbar ist.
Die kleineren Ministral-3-Modelle verfügen über ein Kontextfenster von 128.000 bis 256.000 Token, wodurch lange Gespräche oder Dokumente verarbeitet werden können. Die Reasoning-Varianten erzielen in Tests wie GPQA eine hohe Genauigkeit und übertreffen dabei vergleichbare Modelle ihrer Klasse.
Diese Modellfamilie wurde so konzipiert, dass sie für alle zugänglich ist – von Entwicklern bis hin zu Großunternehmen. Mistral AI betont, dass KI nicht nur von einigen wenigen großen Laboren kontrolliert werden sollte, und stellt deshalb alles offen zur Verfügung.
Weitere Quellen: techcrunch.com
