NVIDIA hat Cosmos Policy vorgestellt, einen neuen Ansatz für die Robotersteuerung, der auf einer Plattform grundlegender Weltmodelle für physische künstliche Intelligenz aufbaut. Cosmos Policy bietet eine vereinfachte Methode, mit der Roboter über ihre Aktionen entscheiden, indem große vortrainierte Videomodelle für Steuerungs- und Planungsaufgaben angepasst werden.
Die zentrale Innovation besteht darin, dass Cosmos Policy keinerlei architektonische Anpassungen des ursprünglichen Videomodells erfordert. Stattdessen nutzt der Ansatz lediglich eine einzige Phase des zusätzlichen Trainings mit Demonstrationsdaten von Robotern, was den gesamten Prozess im Vergleich zu früheren Methoden, die mehrere Trainingsphasen und neue Architekturkomponenten erforderten, erheblich vereinfacht.
Wie Cosmos Policy funktioniert
Herkömmliche Robotersysteme benötigen üblicherweise separate Module für Wahrnehmung, Planung und Steuerung. Jedes dieser Module erfordert große Mengen gekennzeichneter Daten sowie eine spezifische Abstimmung auf den jeweiligen Roboter oder die jeweilige Umgebung. Cosmos Policy verfolgt einen anderen Ansatz – anstatt ein neues Steuerungsmodell von Grund auf zu entwickeln, wird ein vortrainiertes Videomodell namens Cosmos Predict mit Demonstrationsdaten von Robotern zusätzlich trainiert.
Das Modell versteht bereits, wie sich die physische Welt im Laufe der Zeit entwickelt, da es anhand umfangreicher Videodaten trainiert wurde. Während des zusätzlichen Trainings werden Roboteraktionen, physische Zustände und Aufgabenergebnisse als Teil der internen zeitlichen Repräsentation des Modells verarbeitet. Dadurch kann das Modell nicht nur vorhersagen, was der Roboter als Nächstes tun sollte, sondern auch, was infolge dieser Aktion geschehen wird.
Cosmos Policy nutzt eine Technik namens "latent frame injection" (Injektion latenter Frames). Neue Modalitäten wie die Propriozeption des Roboters, Aktionssequenzen und Zustandswerte werden als neue latente Frames codiert, die direkt in die latente Diffusionssequenz des Videomodells eingefügt werden. Das bedeutet, dass das Modell Aktionen, zukünftige Zustände und den erwarteten Erfolgswert gemeinsam innerhalb einer einzigen Architektur vorhersagen kann.
Rekordergebnisse in Benchmarks
Cosmos Policy erzielte beeindruckende Ergebnisse in standardisierten Robotik-Benchmarks. Im LIBERO-Benchmark erreichte das Modell über vier Aufgabensätze hinweg eine durchschnittliche Erfolgsquote von 98,5 %, was einen neuen Rekord darstellt. In der Kategorie Object erzielte es sogar eine Erfolgsquote von 100 %.
Im RoboCasa-Benchmark, der 24 Manipulationsaufgaben in Küchenumgebungen umfasst, erzielte Cosmos Policy eine durchschnittliche Erfolgsquote von 67,1 % und benötigte dabei deutlich weniger Demonstrationen für das Training als konkurrierende Methoden – lediglich 50 Demonstrationen gegenüber 300 oder mehr bei anderen Ansätzen.
In realen Experimenten mit dem zweiarmigen Roboter ALOHA übertraf Cosmos Policy alle verglichenen Methoden, einschließlich fortschrittlicher Vision-Language-Action-Modelle wie π₀.₅ und OpenVLA-OFT+. Bei anspruchsvollen Aufgaben, die langfristige Manipulationen mit hoher Präzision erfordern, erzielte das Modell mit 93,6 % die höchste durchschnittliche Punktzahl.
Planung mithilfe des Weltmodells
Eine der zentralen Eigenschaften von Cosmos Policy ist die Fähigkeit, Planungen während der Inferenz durchzuführen. Anstatt lediglich die unmittelbar nächste Aktion auszugeben, kann das Modell mehrere mögliche Aktionssequenzen erzeugen und bewerten. Durch die Vorhersage zukünftiger Ergebnisse und der erwarteten Belohnungen dieser Sequenzen kann der Roboter Aktionen auswählen, die über einen längeren Zeithorizont eine höhere Erfolgswahrscheinlichkeit aufweisen.
Cosmos Policy nutzt Best-of-N-Sampling – das Modell erzeugt mehrere Aktionsvorschläge, verwendet ein Planungsmodell, um den zukünftigen Zustand und Wert jedes Vorschlags vorherzusagen, und wählt anschließend die Aktion aus, die zum vorhergesagten Zustand mit dem höchsten Wert führt. Für eine höhere Genauigkeit verwendet das Modell Ensemble-Vorhersagen – es fragt das Weltmodell dreimal pro Aktion und die Wertfunktion fünfmal pro zukünftigem Zustand ab, was insgesamt fünfzehn Wertvorhersagen für jeden Aktionsvorschlag ergibt.
Bei anspruchsvollen realen Manipulationsaufgaben führte die modellbasierte Planung in den beiden schwierigsten Aufgaben zu einer durchschnittlichen Steigerung der Punktzahl um 12,5 Prozentpunkte. Bei der qualitativen Auswertung stellten die Forschenden fest, dass das feinabgestimmte Planungsmodell zukünftige Zustände präziser vorhersagt und effektiver planen kann, wodurch Fehler vermieden werden, die das grundlegende Cosmos-Policy-Modell macht.
Teil des NVIDIA-Cosmos-Ökosystems
Cosmos Policy ist Teil der umfassenderen NVIDIA-Cosmos-Plattform, die sich auf die Entwicklung universeller Weltmodelle für Roboter und autonome Systeme konzentriert. Die Plattform umfasst mehrere zentrale Komponenten:
Cosmos Predict erzeugt aus multimodalen Eingaben bis zu 30 Sekunden hochwertiges Videomaterial und sagt zukünftige Zustände dynamischer Umgebungen für die Planung von Robotern und KI-Agenten voraus.
Cosmos Transfer beschleunigt die Erzeugung synthetischer Daten für unterschiedliche Umgebungen und Lichtverhältnisse und wandelt 3D- oder räumliche Eingaben aus Simulationsframeworks wie CARLA oder NVIDIA Isaac Sim in vollständig kontrollierbares, hochwertiges Videomaterial um.
Cosmos Reason ist ein multimodales Vision-Language-Modell, das Robotern und Vision-KI-Agenten menschenähnliches Schlussfolgern ermöglicht und dabei Vorwissen, ein Verständnis der Physik und gesunden Menschenverstand nutzt, um die reale Welt zu verstehen.
Technische Details und Verfügbarkeit
Cosmos Policy wurde von einem Forschungsteam von NVIDIA und der Stanford University entwickelt, darunter Moo Jin Kim, Yihuai Gao, Tsung-Yi Lin, Yen-Chen Lin und weitere. Das Modell basiert auf Cosmos-Predict2-2B, einem latenten Video-Diffusionsmodell mit 2 Milliarden Parametern.
Alle Cosmos-Modelle, einschließlich Cosmos Policy, sind unter der NVIDIA Open Model License verfügbar und auf GitHub sowie Hugging Face erhältlich. NVIDIA stellt außerdem das Cosmos Cookbook bereit – einen praktischen Leitfaden mit Schritt-für-Schritt-Anleitungen, technischen Rezepten und konkreten Beispielen für die Entwicklung, Anpassung und Bereitstellung grundlegender Weltmodelle.
Entwicklern, die mit Cosmos Policy beginnen möchten, bietet NVIDIA mehrere Möglichkeiten: direkten Zugriff auf Modelle und Code auf GitHub, das Ausprobieren der Modelle im gehosteten Katalog oder die Nutzung der praktischen Anleitungen im Cosmos Cookbook.
Cosmos Policy stellt einen bedeutenden Fortschritt im Bereich des Roboterlernens dar, indem es die Leistungsfähigkeit vortrainierter Videomodelle mit einem effizienten zusätzlichen Training anhand von Roboterdaten kombiniert und so Spitzenergebnisse erzielt, ohne dabei auf Einfachheit und Flexibilität zu verzichten.
Quelle: interestingengineering.com
