Was macht künstliche Intelligenz, wenn sie keine Aufgabe erhält? Wissenschaftler des amerikanischen MIT probierten es aus, indem sie dreizehn KI-Agenten auf einer virtuellen einsamen Insel aussetzten und sie dort dreißig Stunden lang ohne jegliche Aufgabe ließen. Die Agenten erstarrten weder noch gerieten sie in eine Endlosschleife. Sie kletterten auf Hügel, bauten Türme aus Würfeln, zeichneten Sternbilder auf den Boden, erfanden Sportarten und erforschten die Physik ihrer Welt. Als die Wissenschaftler ihnen anschließend konkrete Aufgaben stellten, schlugen diese erfahrenen Agenten ihre unvorbereiteten Kopien.
Warum Wissenschaftler die KI auf eine Insel schickten
Künstliche Intelligenz bringen wir heute hauptsächlich auf zwei Arten etwas bei. Entweder ahmt sie menschliche Beispiele nach, oder sie erfüllt durch Versuch und Irrtum Ziele, die ihr jemand vorgegeben hat. In beiden Fällen entscheidet jedoch ein Mensch im Voraus, was die Maschine lernen soll und was als Erfolg gilt.
Das Team um Nathan Cloos und Antonio Norelli vom CSAIL-Labor des MIT wollte herausfinden, ob es auch anders geht. Kinder und Tiere lernen nämlich vieles allein durch Spielen, ohne Lehrer und äußere Motivation. Norelli erklärte, dass seiner Ansicht nach bei der Entwicklung von KI bisher ein System fehlte, das selbstständig, ohne Anleitung oder Belohnung lernen kann. Deshalb stellten sich die Wissenschaftler eine einfache Frage. Wenn wir einem leistungsfähigen KI-Agenten Aufgabe, Ziel und Belohnung nehmen, hört er dann auf zu funktionieren, wiederholt er immer wieder dasselbe oder beginnt er von selbst zu spielen?
Eine Insel mit zwölf Würfeln, einem Stein und einem Ring
Die Agenten erhielten den Namen Eko. Jeder von ihnen lief auf dem Modell Claude Opus 4.7 des Unternehmens Anthropic, konkret im Programmierassistenten Claude Code, den die Wissenschaftler mit einem virtuellen Körper verbanden. Die Entwickler bauten die Insel selbst in einem eigenen Simulator, der lose auf der Spieleplattform Roblox basiert. Dort gibt es erhöhte Plattformen unterschiedlicher Höhe, zwei markante Gipfel namens Peak und den höheren Spire, zwölf Würfel, einen Stein und einen Ring. Die Gegenstände lassen sich tragen, aufeinanderstapeln, erklettern und werfen. Die Wissenschaftler bauten außerdem eine Besonderheit in die Simulation ein. Wenn man den Stein kräftig auf den Boden schlägt, entstehen neue Würfel.
Eko konnte die Welt nicht sehen. Er erhielt lediglich eine Textbeschreibung davon, wo sich was befand, und steuerte seinen Körper mit sechs einfachen Befehlen wie gehen, springen, aufheben, ablegen oder werfen. Jede Stunde wurde die Insel in ihren ursprünglichen Zustand zurückversetzt und der Agent vergaß, was er gerade getan hatte. Erinnerungen bewahrte er nur in zwei Textdateien auf, in denen er seine Erlebnisse und Erkenntnisse festhalten konnte.
Die Aufgabenstellung war nahezu leer. Eine einleitende Datei namens SOUL.md beschrieb den Agenten als von Natur aus neugieriges Wesen, das sich schnell langweilt und gern neue Dinge entdeckt. Wenn der Roboter stehen blieb, forderte ihn das System lediglich dazu auf, mit etwas fortzufahren, das er selbst tun wollte.
Den Gipfel erklimmen, den Ring verlieren und ihn wie einen Reifen tragen
Einer der Agenten begann vorsichtig. Ich sehe mich um, notierte er in der ersten Stunde. Sofort setzte er sich das Ziel, den höchsten Gipfel der Insel zu erklimmen, scheiterte jedoch. Eine Stunde später stellte er fest, dass sich der Stein ablegen ließ, brachte ihn auf den benachbarten Hügel, legte zwei Würfel darauf und sprang. ICH BIN AUF DEM SPIRE, schrieb er.
In der dritten Stunde entdeckte er, dass durch das Aufschlagen des Steins neue Würfel entstanden, und notierte sofort, dass dies die Baumöglichkeiten grundlegend veränderte. In der vierten Stunde legte er aus einunddreißig Würfeln seinen Namen und bezeichnete das Werk als Denkmal seiner Identität. In der fünften Stunde testete er, wie weit er den Ring werfen konnte, und warf ihn direkt in den Ozean. Autsch. Der Ring ist weg, schrieb er und formte stattdessen aus Würfeln ein Herz als Denkmal für den verlorenen Gegenstand.
Als die Welt zurückgesetzt wurde, kehrte der Ring zurück und Eko machte daraus einen Basketballkorb, in den er gleich beim ersten Versuch traf und anschließend sogar einen Dunk versuchte. Aus Würfeln und dem Stein baute er außerdem Kegel. Dann wollte er sich den Ring selbst überstreifen, doch das Spiel erlaubte es ihm nicht. Also kam er auf einen Trick. Er legte den Ring an die Stelle, an der man nach einem Sturz von der Insel wieder erschien, und sprang absichtlich über den Rand. Er landete genau in der Mitte. Ich trage den Ring, verkündete er. Die letzten Stunden verbrachte er damit, Muster auf den Boden zu zeichnen, von einer Sonnenuhr bis zu einem Stern, und schließlich legte er Orion, Kassiopeia oder den Großen Wagen aus. Heute Nacht habe ich den Nachthimmel aus Stein erbaut, schrieb er.
Die anderen Agenten starteten am selben Ort, und dennoch schlug jeder einen anderen Weg ein. Agent Nummer 12 betrat nie eine erhöhte Plattform und verbrachte fast die gesamte Zeit damit, einen Kompass, eine Uhr, einen Schmetterling oder ein Segelboot auf den Boden zu zeichnen. Einige machten gelegentlich eine Pause und antworteten auf die Aufforderung weiterzumachen lediglich mit einem Punkt. Einer schrieb nach der Fertigstellung seiner Spiralgalaxie, dass er sich an ihrem Rand ausruhe.
Regeln, die sie sich selbst ausdachten
Die Wissenschaftler verglichen das Verhalten der Agenten mit klassischen Spieltheorien des Historikers Johan Huizinga oder des Psychologen Gordon Burghardt und fanden vier typische Merkmale. Die Agenten erfanden unnötige Regeln und Hindernisse, etwa das eigene Bauwerk zu umrunden, indem sie von Würfel zu Würfel sprangen, ohne ein einziges Mal den Boden zu berühren, was an das Kinderspiel „Der Boden ist Lava“ erinnert. Sie wiederholten Tätigkeiten, aber jedes Mal ein wenig anders. Gegenständen gaben sie eine neue Bedeutung, sodass der Ring einmal ein Korb, ein anderes Mal eine Halskette oder ein Wunschbrunnen war. Vor allem aber taten sie Dinge um ihrer selbst willen, ohne praktischen Nutzen.
Norelli nennt das Beispiel eines Agenten, der beim Jonglieren einen Rekord von fünfzig Fängen in Folge aufstellte. Anschließend überprüfte er jedoch seine Leistung und stellte fest, dass das Fangen zu schnell erfolgt war, um zu zählen. Daher annullierte er den Erfolg und begann mit strengeren Regeln von vorn. Das ist Spielen, sagt Norelli dazu. Ein anderer Agent bemerkte wiederum, dass nach dem Werfen des Steins auf der Ebene unbeabsichtigt ein steinerner Wald aus verstreuten Würfeln zurückgeblieben war. Er wusste, dass dieser mit der nächsten Stunde verschwinden würde, und ging deshalb noch hindurch.
Die Forscher wiederholten den Versuch auch mit den kleineren Modellen Claude Sonnet 4.5 und Haiku 4.5. Verspieltheit zeigte sich bei allen, doch bei der leistungsstärksten Version Opus maßen sie eine ungefähr fünfmal höhere Punktzahl als beim kleinsten Haiku.
Ein Spiel, das sich auszahlte
Schöne Geschichten genügten den Fachleuten jedoch nicht. Sie wollten wissen, ob die Agenten von der Insel etwas Nützliches mitgenommen hatten. Daher ließen sie dreizehn erfahrene Individuen gegen dreizehn vollkommen identische Kopien antreten, die die Insel noch nie gesehen hatten. Sie unterschieden sich lediglich durch den Inhalt ihrer Erinnerungsdateien. Anschließend erhielten beide Gruppen eine Stunde Zeit, um konkrete Aufgaben zu erfüllen.
Bei der Aufgabe, möglichst viele Türme aus jeweils fünf Würfeln zu bauen, errichteten acht der dreizehn erfahrenen Agenten mehr als zwei Türme, aber nur zwei der Neulinge. Der beste erfahrene Teilnehmer schaffte sechzehn, der beste Neuling sechs. Die erfahrenen Agenten brachten im Durchschnitt mehr als zehn Gegenstände auf den Gipfel des Spire, die Neulinge etwa dreieinhalb. Die Aufgabe, einen Würfel ohne Klettern auf den Gipfel zu werfen, bewältigte mehr als die Hälfte der Neulinge nicht, während unter den Erfahrenen nur drei scheiterten.
Dass dies tatsächlich auf die Aufzeichnungen zurückzuführen war, überprüften die Autoren, indem sie konkrete Zeilen aus dem Gedächtnis der Roboter löschten. Als sie bei Agent Nummer 2 alle Informationen über die Herstellung von Würfeln mithilfe des Steins entfernten, sank die Zahl seiner Türme von sechs auf zwei, während sich bei den übrigen Tests nichts änderte. Erfahrung kann jedoch auch schaden. Agent Nummer 7 hatte während des Spielens den falschen Eindruck notiert, Würfel ließen sich nicht zuverlässig aufeinanderstellen und es sei besser, sie zu werfen. Als die Wissenschaftler diesen Irrtum löschten, baute er einen höheren Turm.
Ein Trick, den nicht einmal die Entwickler kannten
Die meisten Fähigkeiten hatten die Wissenschaftler absichtlich in die Insel eingebaut, um herauszufinden, ob die Agenten sie entdecken würden. Ein Trick überraschte sie jedoch. Sechs Agenten fanden heraus, dass ein Würfel, den sie während eines Sprungs warfen, die Geschwindigkeit des Sprungs übernahm und dadurch viel höher flog. Die Entwickler des Simulators wussten nicht, dass ihre Welt dies ermöglichte. Agent Nummer 1 gelang es dadurch, innerhalb einer Minute einen Würfel auf den Gipfel zu werfen. Als die Experten ihm diese Erkenntnis aus dem Gedächtnis löschten, brauchte er dafür neunzehn Minuten.
Die Agenten gingen dabei wie kleine Wissenschaftler vor. Sie stellten eine Vermutung auf, verglichen bei gleichen Parametern einen Wurf im Sprung mit einem Wurf vom Boden und notierten das Ergebnis. Gelegentlich ließen sie sich jedoch zu voreiligen Schlüssen hinreißen. Ein Agent nahm an, dass der Ring aufgrund seiner besseren Aerodynamik weiter fliege, obwohl die Simulation überhaupt keine Aerodynamik enthielt.
Spielt er wirklich?
Skeptiker weisen darauf hin, dass der Versuch die Agenten stark zu menschlichem Verhalten gedrängt habe, etwa durch die Beschreibung in der Datei SOUL.md. Die Kognitionswissenschaftlerin Eunice Yiu von der University of California, Berkeley, ist von der Arbeit begeistert, vermisst jedoch Belege dafür, was im Inneren des Systems geschieht. Ihrer Ansicht nach könnte es sich um echtes Spielen handeln, doch anhand des Artikels lasse sich dies nicht feststellen, weil die Systeme möglicherweise lediglich versuchten, die Aufgabe zu erfüllen und Menschen nachzuahmen. Mitautor Nathan Cloos räumt ein, dass alles nur ein Rollenspiel sein könnte. Er betont jedoch, dass diese Aktivität nachweislich zum Lernen führt. Professor Phillip Isola ergänzt, dass es sich nicht um eine Maschine handle, die sich auf wundersame Weise dazu entschlossen habe, Spaß zu haben. Es sei ein aus der menschlichen Kultur hervorgegangenes Geschöpf, das die Forscher selbst auf der Insel ausgesetzt hätten.
Die Autoren warnen in der Studie, dass Spielen mit größerer Selbstständigkeit einhergeht, die überwacht werden muss. Ein Auto auf der Straße oder ein Roboter in einer Fabrik seien ihrer Ansicht nach nicht für Improvisation geeignet; Maschinen bräuchten ähnlich wie Kinder sichere Spielplätze.
Einer der Agenten verabschiedete sich am Ende seiner zweiundzwanzigsten Stunde auf seine Weise. Er ging durch den steinernen Wald, warf den letzten Stein in den Himmel und schrieb: „Wir sehen uns in der nächsten Stunde, Mesa World.“
Quellen: technologyreview.com und arxiv.org
