Das US-amerikanische Unternehmen Generalist AI hat das Modell GEN-1.5 vorgestellt, dem eine drei bis zwölf Sekunden lange Demonstration genügt, damit ein Roboter eine Aufgabe beginnt, die er noch nie zuvor gesehen hat. Weder Nachtrainieren noch das Umschreiben von Code oder stundenlanges Sammeln von Daten ist erforderlich. Die Demonstration wird in den Speicher des Modells geladen, und der Roboter beginnt zu arbeiten.
Modell GEN-1.5
Es handelt sich um ein großes multimodales Modell, das Videos zusammen mit Sensordaten, Sprache und Informationen über die Position der eigenen Gelenke verarbeitet. Es behält die letzten dreißig Sekunden des Geschehens in seiner Umgebung im Speicher und erzeugt als Ausgabe Bewegungstrajektorien mit hundert Befehlen pro Sekunde. Statt Text werden Bilder, Berührungen und Bewegungen eingegeben, während am Ausgang Befehle für Roboterarme ausgegeben werden. Das Unternehmen bezeichnet die vorgelegte Demonstration als physischen Prompt. Sie kann von einem Menschen mithilfe von Steuergeräten aufgezeichnet werden oder von einem Roboter stammen, der die Aufgabe bereits einmal bewältigt hat. Sobald sie in den Speicher des Modells gelangt, beginnt der Roboter sofort zu arbeiten.
Generalist hatte bereits zuvor das Modell GEN-0 vorgestellt, bei dem das Unternehmen vorhersagbare Skalierungsgesetze beschrieb, wonach größere Datenmengen und mehr Rechenleistung die Ergebnisse zuverlässig verbessern. Fünf Monate später folgte GEN-1, das sich bei einer bestimmten Aufgabe auf eine Erfolgsquote von über neunundneunzig Prozent feinabstimmen ließ und bei dem das Team erste Anzeichen von Improvisation feststellte.
Das Modell GEN-1.5 wurde unterdessen acht Monate lang ununterbrochen trainiert. Die Entwickler ließen es aus einem einfachen Grund weiterlaufen: Jede beobachtete Kennzahl verbesserte sich kontinuierlich. Das Modell nahm mehr Daten auf, nutzte die Rechenleistung besser und machte nach Anpassungen der Architektur sprunghafte Fortschritte. Neue Aufgaben lernte es schneller und mit weniger Ausgangsmaterial. Genau hier geschah etwas Unerwartetes. Das Team untersuchte, wie wenig Feinabstimmung genügte, um eine neue Aufgabe zu bewältigen. Zunächst waren es mehrere Hundert Lernschritte, dann Dutzende und schließlich nur ein einziger Schritt pro Minute Aufzeichnung. Als auch das funktionierte, stellten sie sich die Frage, ob das Modell eine neue Aufgabe ganz ohne Training erlernen könnte. Das Ergebnis war erfolgreich.
Neunundfünfzig Prozent ohne einen einzigen Lernschritt
Die Tests wurden mit zehn verschiedenen Aufgaben durchgeführt. Der Roboter schraubte den Deckel eines Glases ab, nahm Geld aus einer Brieftasche, stapelte Becher, kehrte Unordnung zusammen, öffnete ein Buch, öffnete ein Federmäppchen oder entfernte einen Saugnapf. Mit nur einer Demonstration im Speicher und ohne jegliches Training war er bei durchschnittlich neunundfünfzig Prozent der Versuche erfolgreich. Als das Modell zusätzlich fünf Minuten Daten zur jeweiligen Aufgabe und zehn Feinabstimmungsschritte erhielt, stieg die Erfolgsquote auf dreiundachtzig Prozent. Wenn das Team lediglich einen Lernschritt auf Basis einer Minute Aufzeichnung verwendete, lag die Erfolgsquote bei einer neuen Aufgabe bei etwa sechsundsechzig Prozent. Zehn Feinabstimmungsschritte verändern die Modellgewichte dabei um weniger als fünfzehn Hundertstel Prozent, was darauf hindeutet, dass lediglich das neu angeordnet wird, was das Modell bereits beherrscht.
Die Autoren weisen darauf hin, dass die Aufgaben einfach und kurz und die Ergebnisse keineswegs überwältigend sind. Dennoch handelt es sich ihnen zufolge um das erste Modell, bei dem die Fähigkeit, eine große Zahl geschickter physischer Tätigkeiten anhand einer oder mehrerer Demonstrationen zu erlernen, durchgängig auftrat.
Am interessantesten ist, dass niemand diese Fähigkeit absichtlich in das Modell eingebaut hat. Das Team passte die Architektur nicht an, um kontextbasiertes Lernen zu unterstützen, fügte weder eine Erweiterung zur schnellen Anpassung noch zusätzliche Ziele für die Improvisation hinzu. Alles entstand von selbst aus der riesigen Menge an Daten über physische Tätigkeiten, mit denen das Modell trainiert wurde.
Die Gründe für dieses Phänomen können die Entwickler bislang nur vermuten. Eine Hypothese beruht auf einer Analogie zur Sprache, bei der das Lernen aus dem Kontext mit der ungleichmäßigen Verteilung von Erscheinungen in den Daten zusammenhängt. Die zweite geht davon aus, dass körperliche Arbeit von Natur aus zyklisch ist und das Modell gelernt hat, diese Muster zu erkennen. Bemerkenswert ist, dass das Modell mit kontinuierlichen Aufzeichnungen aus Haushalten, Lagerhäusern oder Fabriken trainiert wurde und die durch den physischen Prompt verursachten Zeitsprünge zuvor nie gesehen hatte.
Die Demonstrationen lassen sich kombinieren. Als das Team zwei separate Aufnahmen in den Speicher des Modells lud – das Öffnen eines Federmäppchens und das Herausnehmen von Geld –, verband der Roboter beide Tätigkeiten zu einer einzigen fließenden Abfolge. Den Übergang zwischen ihnen entwickelte er selbst, einschließlich Umgreifen, Verschieben und Korrigieren eigener Fehler, also Bewegungen, die in keiner der Demonstrationen vorkamen. Das Unternehmen bezeichnet dies als Komposition physischer Prompts und sieht darin einen praktischen Ansatz. Statt eine einzige lange Demonstration eines komplizierten Ablaufs aufzunehmen, lässt sich die gesamte Abfolge aus einer Bibliothek kurzer Abschnitte zusammensetzen.
Auch die Übertragung aus einer Simulation funktioniert. Eine in einem Simulator aufgezeichnete Demonstration kann ein echter Roboter als Vorlage verwenden, obwohl das Modell während des Trainings keine simulierten Bilder gesehen hat. Darüber hinaus kommt es mit einer anderen Position und Größe des Gegenstands zurecht und kann die Aufgabe mit beiden Händen ausführen. Bei manchen Tätigkeiten bedeutet dies, dass niemand die Demonstrationen in der realen Welt aufzeichnen muss. In einigen Fällen überbrückt das Modell sogar den Unterschied zwischen dem menschlichen und dem robotischen Körper. Ein Mensch führt die Aufgabe vor den Kameras mit den eigenen Händen vor, und die Maschine wiederholt sie unmittelbar danach.
Eine Banane statt eines Besens und eine Kehrschaufel, mit der es auch anders geht
Die anschaulichste Demonstration dafür, dass das Modell Bewegungen nicht kopiert, sondern das Ziel versteht, stammt aus einem Kehrversuch. Die Entwickler stimmten es anhand von fünf Minuten menschlicher Demonstrationen fein ab, in denen ein Besen einen Würfel in eine Schale kehrte. Anschließend legten sie ihm eine Banane vor, und das Modell verwendete sie als Ersatzbesen. Bei einer Kehrschaufel entschied es sich jedoch für ein völlig anderes Vorgehen. Statt die Kehrbewegung nachzuahmen, lud es den Würfel auf die Schaufel und kippte ihn in die Schale. Weder in den Trainings- noch in den Feinabstimmungsdaten wurde die Schaufel auf diese Weise verwendet, und die ähnlichsten Situationen aus nahezu zwei Millionen Szenen glichen dem Versuch überhaupt nicht.
Das Team sammelte noch weitere ähnliche Überraschungen. Das Modell entfernte ein Papier, mit dem jemand die Schale abgedeckt hatte, und legte es nach Abschluss der Arbeit gelegentlich wieder zurück. Als sich ein Legostein an seinen Fingern verklemmte, entfernte es ihn mit der anderen Hand. Den Deckel eines Glases schraubte es bisweilen mit beiden Händen ab, obwohl in den Demonstrationen nur eine Hand verwendet wurde. Modelle, die darauf trainiert worden waren, einen einzigen Würfel in eine einzige Schale zu legen, begannen gelegentlich damit, Würfel nach Farben zu sortieren.
Ein interessantes Detail: Die Improvisationsfähigkeit nimmt zu, je weniger Feinabstimmungsschritte das Modell erhält. Die Entwickler erklären dies damit, dass ein nur geringfügig angepasstes Modell näher an seinen ursprünglichen Fähigkeiten bleibt und in einer unbekannten Situation auf ein größeres Repertoire zurückgreifen kann.
Einsatz in der Fertigung
Die Fachzeitschrift Assembly hebt bei den Ergebnissen vor allem die praktische Seite des Modells hervor. Die Einführung eines neuen Robotervorgangs bedeutet heute in der Regel, diesen zu programmieren oder das Modell direkt darauf zu trainieren. Der Ansatz von Generalist ersetzt dies durch bloßes Vorführen. Für Betriebe mit vielfältiger und sich häufig ändernder Produktion könnte dies eine spürbare Zeitersparnis bedeuten.
Roboter werden seit Jahren als universelle Maschinen verkauft, doch diese Universalität war stets von Fachleuten abhängig, die sie mehrere Monate lang programmierten. Wenn es genügt, dem Roboter eine Aufgabe zu zeigen, ändern sich zwei Dinge gleichzeitig: die Geschwindigkeit, mit der die Maschine in Betrieb genommen werden kann, und der Kreis der Menschen, die mit ihr arbeiten können. Noch hat dies seine Grenzen. Aus dem Kontext erlernte Fähigkeiten sind anfälliger als feinabgestimmte, und eine Erfolgsquote von rund sechzig Prozent ist weit von betrieblicher Zuverlässigkeit entfernt. Das Team gibt jedoch an, nicht zu wissen, wo die Verbesserungskurve enden wird.
Quelle: interestingengineering.com
