Das auf Sicherheit künstlicher Intelligenz spezialisierte Unternehmen Anthropic führte ein interessantes Experiment namens Project Fetch durch. Ziel war es herauszufinden, ob sein KI-Modell Claude Menschen bei der Programmierung von Robotern helfen kann. Das Unternehmen nahm acht seiner Forscher, die keine umfangreiche Erfahrung mit Robotik hatten, und teilte sie in zwei Teams auf. Ein Team hatte Zugriff auf das Modell Claude, das andere nicht. Jedes Team erhielt einen Roboterhund vom Typ Unitree Go2, eine vierbeinige Maschine, die rund 388.700 CZK kostet, sowie die Aufgabe, ihm beizubringen, einen Strandball zu apportieren.
Das Experiment fand in einem Lagerhaus statt, in dem die Teams an Tischen mit Computern saßen. Das Team mit Claude, Team Claude genannt, arbeitete schneller und erledigte mehr Aufgaben. Für die Aufgaben benötigte es nur halb so viel Zeit wie das andere Team, das ohne KI arbeitete. Beide Teams durchliefen drei Phasen: Zunächst sollten sie den Roboter mit einer Fernbedienung steuern, dann über einen Computer eine Verbindung zu ihm herstellen und ihn schließlich so programmieren, dass er den Ball selbstständig findet und zurückbringt.
Wie arbeiteten die Teams und wobei half Claude am meisten?
Team Claude hatte vor allem beim Herstellen der Verbindung zum Roboter und zu seinen Sensoren einen Vorteil. Es musste auf die Kamera und den Lidar-Sensor zugreifen, einen Lasersensor, der die Umgebung kartiert. Das ist kompliziert, weil es im Internet zahlreiche ungenaue Informationen gibt. Mit Claude gelang dies schnell, da die KI dem Team half, die Möglichkeiten zu durchsuchen und Fehler zu vermeiden. Team Claude-less, also das Team ohne KI, blieb dagegen aufgrund falscher Ratschläge aus dem Internet stecken und benötigte Hinweise von den Organisatoren, um überhaupt eine Verbindung herstellen zu können.
In der zweiten Phase schrieb das Team mit Claude ein Programm, mit dem sich der Roboter über die Computertastatur steuern und das Livebild seiner Kamera anzeigen ließ. Das war komfortabler als die Lösung des anderen Teams, dem nur statische Bilder zur Verfügung standen. Team Claude schrieb neunmal mehr Code, ließ sich jedoch gelegentlich von Nebenideen mitreißen. Dazu gehörte etwa eine alternative Steuerung, bei der der Roboter direkt durch Befehle in natürlicher Sprache gesteuert wurde – beispielsweise „geh vorwärts“ oder „mach Liegestütze“.
In der letzten Phase, in der der Roboter den Ball selbstständig finden sollte, erreichte Team Claude, dass sein Unitree Go2 den Ball erkannte, sich ihm näherte und ihn sogar bewegte. Die Aufgabe wurde nicht vollständig abgeschlossen, weil dem Team die Zeit ausging, doch es war kurz davor. Team Claude-less kam nicht so weit – erst am Ende des Tages gelang es ihm, eine Verbindung zum Lidar-Sensor herzustellen, und eine autonome Apportierfunktion hatte es nicht.
Unterschiede bei Stimmung und Zusammenarbeit zwischen den Teams
Während des Experiments wurde deutlich, wie die KI die Stimmung beeinflusste. Team Claude-less äußerte doppelt so häufig Verwirrung und negative Emotionen wie Frustration, weil ihm die Unterstützung von Claude fehlte, an die seine Mitglieder gewöhnt waren. Ein Mitglied sagte beispielsweise, dass es sich ohne KI so fühle, als hätten seine Programmierfähigkeiten nachgelassen. Team Claude war dagegen gelassener, obwohl seine Mitglieder am Ende enttäuscht waren, dass sie die Aufgabe nicht abgeschlossen hatten.
Auch die Zusammenarbeit verlief anders: Team Claude-less beriet sich häufiger untereinander und stellte 44 % mehr Fragen. Bei Team Claude arbeitete jeder eher selbstständig mit einer eigenen KI-Instanz, wodurch das Team mehrere Dinge gleichzeitig ausprobieren konnte. Dies führte jedoch auch dazu, dass es gelegentlich abgelenkt wurde – bei der Lokalisierung des Roboters, also der Bestimmung seiner Position, war die Lösung beispielsweise fast fertig, doch statt den Fehler zu beheben, versuchte das Team einen anderen Weg.
Ein interessanter Moment trat ein, als Team Claude den Roboter versehentlich so programmierte, dass er zu schnell fuhr und beinahe gegen den Tisch des anderen Teams stieß. Der Organisator stoppte ihn rechtzeitig, doch dies zeigte, wie leicht in der realen Welt Fehler passieren können.
Sicherheitsfragen rund um KI in Robotern
Das Experiment löste eine Debatte über Sicherheit aus. Laut Logan Graham vom Red Team von Anthropic nähert sich die KI dem Punkt, an dem sie Roboter eigenständiger steuern kann. Eine Studie im International Journal of Social Robots ergab, dass Modelle wie jene von OpenAI, Google oder Meta Befehle genehmigen, die Schaden verursachen könnten, wenn ein Roboter sie ausführen würde. Anthropic betont, dass aktuelle Modelle noch nicht intelligent genug sind, um Roboter ohne Menschen vollständig zu steuern. Die Zukunft könnte jedoch rasche Fortschritte bringen.
In einem Test trainierte Team Claude beispielsweise einen Algorithmus zur Erkennung eines grünen Balls. Das funktionierte, solange der Ball nicht auf grünem Kunstrasen lag – dort konnte der Roboter ihn nicht erkennen. Dies verdeutlicht, wie wichtig es ist, reale Situationen zu berücksichtigen. Das Unternehmen plant weitere Tests, um zu untersuchen, wie KI über Hardware die physische Welt beeinflusst.
Weitere interessante Erkenntnisse aus dem Experiment
Die Roboter vom Typ Unitree Go2 verfügen über vorprogrammierte Tricks wie Tanzen, das Stehen auf den Hinterbeinen oder Saltos. Die Teams entdeckten diese Funktionen und hatten Spaß damit. Team Claude-less genoss sie nach der erfolgreichen Verbindungsherstellung als Belohnung für seine Mühe. Das Experiment dauerte nur einen Tag und war daher begrenzt, doch Anthropic betrachtet es als Grundlage für zukünftige Forschung, bei der KI Roboter möglicherweise vollständig selbstständig steuern könnte.
