Das Allen Institute für künstliche Intelligenz, bekannt als Ai2, hat seine bislang leistungsstärkste Modellfamilie namens Olmo 3.1 vorgestellt. Diese Entwicklung folgt kurz nach Olmo 3 und konzentriert sich auf Effizienz, Transparenz und Steuerbarkeit. Anstatt neue Architekturen zu entwickeln, verlängerte das Team einfach den bestehenden Trainingsprozess mithilfe von bestärkendem Lernen (Reinforcement Learning). Das bedeutet, dass das Modell länger aus Fehlern und Erfolgen lernt, wodurch es komplexe Aufgaben wie Mathematik oder mehrstufige Problemlösungen besser bewältigen kann.
Warum das Training verlängern?
Bei offenen Modellen für künstliche Intelligenz wird das Training aufgrund der hohen Kosten häufig zu früh beendet. Dies führt dazu, dass die Modelle bei anspruchsvollen Schlussfolgerungen oder beim Befolgen von Anweisungen zurückbleiben. Ai2 beschloss, erneut der Frage nachzugehen, ob bestärkendes Lernen auch dann noch hilft, wenn die anfänglichen Fortschritte nachlassen. Die Antwort lautet ja. Das Team nahm den bestehenden Prozess von Olmo 3 und ließ ihn länger laufen – konkret 21 zusätzliche Tage auf 224 Grafikprozessoren (GPUs). Dadurch skalierten sie das Modell auf 32 Milliarden Parameter, ohne sein grundlegendes Design zu verändern. Das Ergebnis? Das Modell verbesserte sich in Mathematik, Programmierung und komplexen Aufgaben, was zeigt, dass Größe und Geduld eine entscheidende Rolle spielen.
Was genau wurde veröffentlicht?
Ai2 aktualisierte zwei Versionen von Olmo 3: Olmo 3.1 Think 32B, das für fortgeschrittene Forschung optimiert ist, und Olmo 3.1 Instruct 32B, das für das Befolgen von Anweisungen, Konversationen mit mehreren Dialogrunden und die Nutzung von Werkzeugen vorgesehen ist. Die dritte Version, Olmo 3-Base, blieb für Programmierung, Verständnis und Mathematik erhalten und eignet sich für weiteres Feintuning. Darüber hinaus verbesserte das Team die RL-Zero-7B-Modelle für Mathematik und Programmierung, die als grundlegende Referenz für die Forschung dienen. Alle diese Modelle sind vollständig offen, was bedeutet, dass jeder die Daten, den Code und die beim Training getroffenen Entscheidungen einsehen kann.
Leistungssteigerungen und Verfügbarkeit
Die neuen Modelle erzielten in Tests deutliche Verbesserungen. Olmo 3.1 Think 32B erreichte gegenüber Olmo 3 Think 32B 5 Punkte mehr bei AIME, 4 Punkte mehr bei ZebraLogic, 4 Punkte mehr bei IFEval und 20 Punkte mehr bei IFBench. Es verbesserte sich außerdem beim Programmieren und bei komplexen mehrstufigen Schlussfolgerungen. Im Benchmark AIME 2025 übertraf es die Qwen-3-32B-Modelle und näherte sich Gemma 27B an. Olmo 3.1 Instruct 32B wiederum zeichnet sich beim Chatten, bei der Nutzung von Werkzeugen und im Dialog aus und übertraf dabei seine offenen Konkurrenten, einschließlich Gemma 3 in Mathematik. Laut Ai2 ist Olmo 3.1 Instruct 32B das leistungsfähigste vollständig offene Chatmodell des Instituts in der Größenordnung von 32 Milliarden Parametern. Die RL-Zero-7B-Modelle für Mathematik und Programmierung profitierten von einem längeren und stabileren Training.
Die Modellgewichte und Checkpoints stehen auf der Plattform Hugging Face zum Herunterladen bereit. Sie können im Ai2 Playground getestet werden. Für weitere Anpassungen stehen die veröffentlichten Datensätze und Zwischenergebnisse des Trainings zur Verfügung, die Feintuning oder eine Verlängerung des bestärkenden Lernens ermöglichen. Bald wird auch ein Zugriff über eine API verfügbar sein. Ai2 betont die Transparenz – Unternehmen können eigene Daten hinzufügen und das Modell erneut trainieren, damit es aus neuen Informationen lernt. Dies ist Teil des langfristigen Engagements von Ai2 für Open Source, einschließlich des Werkzeugs OlmoTrace, das nachverfolgt, wie die Modellausgaben mit den Trainingsdaten übereinstimmen.
Quelle: venturebeat.com
