CoreWeave hat auf der Veranstaltung Fully Connected in San Francisco Forge gestartet. Die Umgebung verbindet das Training, die Auswertung und die Verbesserung von KI-Modellen und Agenten auf beschleunigter NVIDIA-Recheninfrastruktur. Teams können dabei eigene Daten aus dem Produktivbetrieb zum Nachtrainieren nutzen, ohne dafür einen eigenen Trainingscluster betreiben zu müssen.
Forge führt Entwicklungswerkzeuge zusammen
Forge bringt Weights & Biases mit der Expertise von OpenPipe für das Nachtraining zusammen. Hinzu kommt das quelloffene Notebook-Projekt marimo. Laut NVIDIA bleibt die Umgebung für unterschiedliche Modelle, Frameworks und Clouds offen und soll Teams dabei unterstützen, Erkenntnisse aus dem laufenden Betrieb in die weitere Entwicklung ihrer Agenten einfließen zu lassen.
Für die Modellauswahl verweist NVIDIA auf die offenen Nemotron-Modelle: Teams können diese im Rahmen von Forge für agentische Arbeitsabläufe anpassen und bereitstellen. Das umfasst sowohl Reasoning- als auch multimodale Modelle. Zu den ersten Unternehmen, die Projekte auf Forge aufbauen, gehören Canva, Capital One und MasterClass.
ARIA unterstützt Experimente, Agent Lens untersucht Fehler
CoreWeave ARIA ist jetzt allgemein verfügbar. Nach Angaben von NVIDIA analysiert das System Trainingsläufe und experimentelle Daten, schlägt weitere Experimente vor und empfiehlt Änderungen am Code. Änderungen werden in GitHub gespeichert; die Auswertung soll außerdem sichtbar machen, welche Faktoren ein verändertes Ergebnis ausgelöst haben.
Die neue Dienstleistung CoreWeave Agent Lens setzt bei den Aufzeichnungen aus dem Produktivbetrieb von Agenten an. NVIDIA zufolge verarbeitet sie mehrere zehn Millionen solcher Ablaufspuren und gewinnt daraus Hinweise für Fehlerbehebungen. Das Unternehmen nennt eine um 20 % verbesserte Fehlererkennung.
Isolierte Umgebungen und serverloses Nachtraining
Ebenfalls allgemein verfügbar sind CoreWeave Sandboxes. Darin lassen sich Agenten ausführen und Werkzeuge aufrufen; auch Reinforcement Learning und Evaluationen können in isolierten CPU- oder GPU-Umgebungen laufen. Für jeden Werkzeugaufruf eines Agenten, jeden Reinforcement-Learning-Lauf und jede Evaluation wird eine neue, isolierte Umgebung bereitgestellt.
Für den Betrieb stehen zwei Wege offen: Die Sandboxes können serverlos genutzt werden oder auf der Infrastruktur laufen, die ein Team bereits für sein Training verwendet. Das Nachtraining in Forge unterstützt daneben serverloses Supervised Fine-Tuning und serverloses Reinforcement Learning, mit denen Teams eigene Trainingsverfahren anhand ihrer Produktionsdaten erproben können.
NVIDIA gibt für das serverlose Reinforcement Learning ein 1,4-fach schnelleres Training bei 40 % niedrigeren Kosten gegenüber einer selbst verwalteten Lösung an.
RL Rollouts übernimmt Checkpoints im laufenden Betrieb
Der quelloffene Inferenz-Framework NVIDIA Dynamo bildet die Grundlage sowohl für CoreWeaves verwalteten Inferenzdienst als auch für RL Rollouts. Letzteres befindet sich noch in einer privaten Vorschau. RL Rollouts lädt neue Checkpoints in eine bereits laufende Bereitstellung, sodass das Reinforcement Learning ohne erneutes Deployment fortgesetzt werden kann.
Vera Rubin NVL72 für Kunden mit Vorabzugang
Zum selben Ankündigungspaket gehört NVIDIA Vera Rubin NVL72 auf CoreWeave Cloud. Die Plattform steht dort Kunden mit Vorabzugang zur Verfügung. Cognition, das Unternehmen hinter dem KI-Softwareentwickler Devin, ist der erste Kunde, der auf Vera Rubin produktive Aufgaben ausführt.
Die Kapazität lässt sich über mehrere CoreWeave-Dienste betreiben. Dazu gehören CoreWeave Kubernetes Service und SUNK sowie CoreWeave Mission Control. Auch CoreWeave Sandboxes und CoreWeave Inference stehen als Zugangswege bereit.
Cognition vergleicht Vera Rubin mit GB200 NVL72
Kurz nach der Lieferung der ersten Produktionsracks an CoreWeave testete Cognition den Inferenzdurchsatz von Vera Rubin gegen eine Ausgangskonfiguration mit GB200 NVL72. Für die Softwareentwicklungsaufgabe wählte das Unternehmen einen Teil der Aufgaben aus FrontierCode aus und ließ KI-Agenten diese bearbeiten.
In diesen frühen Tests erreichte Cognition bei SWE-2-Inferenzaufgaben auf Vera Rubin NVL72 einen bis zu 4,8-fachen Gesamttokendurchsatz gegenüber GB200 NVL72. NVIDIA verbindet dieses Ergebnis mit schnellerer Codegenerierung in Echtzeit und reaktionsschnellerem mehrstufigem Reasoning bei Devin.
