Stellen Sie sich eine Welt vor, in der Programme in einem kleinen virtuellen Computer ums Überleben kämpfen. Genau das ist der Kern eines Forschungsprojekts des japanischen Unternehmens Sakana AI, das den Namen Digital Red Queen (Digitale Rote Königin) trägt. Dieses Projekt nutzt große Sprachmodelle (LLMs), um Programme zu erstellen und weiterzuentwickeln, die sich in einem Spiel namens Core War gegenseitig zerstören. Ziel ist es, zu untersuchen, wie sich künstliche Intelligenz in einer feindlichen Umgebung anpassen kann, ähnlich wie in der Natur. Die Wissenschaftler wollen die Dynamik des Wettbewerbs zwischen KI-Systemen verstehen, was in Bereichen wie der Cybersicherheit hilfreich sein könnte. Sie arbeiten dabei mit dem MIT zusammen und veröffentlichen die Ergebnisse in einem technischen Bericht auf arXiv.
Wie funktioniert das Spiel Core War?
Core War ist ein kompetitives Programmierspiel, das 1984 entstand. Darin kämpfen Programme, die als „Krieger“ (Warriors) bezeichnet werden, um die Kontrolle über den gemeinsamen Speicher eines virtuellen Computers, der „Core“ genannt wird. Jeder Krieger ist in Redcode geschrieben, einer speziellen Assemblersprache. Das Spiel funktioniert so, dass die Programme abwechselnd Anweisungen ausführen, eine nach der anderen. Die Aufgabe eines Kriegers besteht darin, am Leben zu bleiben und gleichzeitig den Gegner zum „Absturz“ zu bringen, indem ungültige Befehle wie DAT in dessen Speicher geschrieben werden. Interessanterweise gibt es in Core War keinen Unterschied zwischen Code und Daten – Programme können sich selbst oder auch ihre Gegner während des Kampfes verändern. Dies ermöglicht Tricks wie Selbstreplikation oder Modifikationen direkt zur Laufzeit, schafft aber zugleich eine chaotische, von Instabilität geprägte Umgebung. Das Spiel ist Turing-vollständig, was bedeutet, dass sich darin theoretisch beliebig komplexe Strategien entwickeln lassen. Menschen haben dafür clevere Taktiken entwickelt, etwa das Bombardieren zufälliger Speicherstellen, Selbstreplikation oder das Durchsuchen des Core nach Gegnern. Core War dient als Testfeld für Programmierer, die ausprobieren, wie sich ihr Code im Wettbewerb verhält, und nun nutzt Sakana AI das Spiel zur Simulation evolutionärer Prozesse mit KI.
Das Konzept der Roten Königin
Die Rote-Königin-Hypothese stammt aus der Evolutionsbiologie und wurde von Lewis Carrolls Buch „Alice hinter den Spiegeln“ inspiriert, in dem die Rote Königin zu Alice sagt: „Hierzulande musst du so schnell rennen, wie du kannst, wenn du am gleichen Fleck bleiben willst.“ Dieses Konzept besagt, dass sich Arten in der Natur ständig weiterentwickeln müssen, nur um gegen ihre ebenfalls im Wandel begriffenen Konkurrenten bestehen zu können. Es geht nicht darum, sich zu verbessern, sondern darum, die eigene Position in einer sich verändernden Welt zu behaupten. In der Natur sehen wir dies bei Viren, Bakterien oder Tieren, die sich an neue Bedrohungen anpassen. In dieser Forschungsarbeit überträgt Sakana AI diese Idee auf die digitale Welt: Der Algorithmus Digital Red Queen (DRQ) zwingt Programme dazu, sich im Kampf gegen immer stärkere Gegner kontinuierlich weiterzuentwickeln, um dieses Wettrüsten in der künstlichen Intelligenz zu simulieren.
Wie funktioniert das Ganze?
Der DRQ-Algorithmus von Sakana AI beginnt mit einem Krieger und erzeugt anschließend einen weiteren, der diesen besiegen soll. Der dritte Krieger muss die ersten beiden besiegen und so weiter. Jeder neue Krieger passt sich an die von allen vorherigen Kriegern geschaffene Umgebung an, wodurch der ständige Wandel in der Natur nachgeahmt wird. DRQ ist nichts Neues – es handelt sich um eine einfache Version älterer Methoden wie Multi-Agent Self-Play, die für Core War angepasst wurde. Große Sprachmodelle (LLMs) erzeugen hier diese Krieger, was zur Entdeckung von Strategien wie gezieltem Bombardement, Selbstreplikation oder massivem Multithreading führt. Beispiele aus der Forschung sind Krieger wie Ring Warrior Enhanced v9 oder Spiral Bomber Optimized v22, bei denen sogar die Kommentare im Code von den LLMs selbst erzeugt wurden. Alles geschieht in einer sicheren Sandbox, aus der nichts nach außen gelangen kann, da die Programme auf einer künstlichen Maschine mit einer künstlichen Sprache ausgeführt werden.
Und was haben die Wissenschaftler herausgefunden?
Mit zunehmender Zahl der DRQ-Runden werden die Krieger robuster, was anhand ihrer Erfolgsquote gegen von Menschen entworfene Krieger gemessen wird, die der Algorithmus noch nie zuvor gesehen hat. Dadurch lassen sich bessere Programme erstellen, ohne sie direkt mit den Testdaten zu trainieren. Überraschend ist, dass sich verschiedene DRQ-Durchläufe, die jeweils mit einem anderen Krieger beginnen, im Laufe der Zeit ähnlichen Verhaltensweisen annähern – nicht auf der Ebene des Quellcodes, sondern hinsichtlich ihrer Funktionsweise. Dies erinnert an die konvergente Evolution in der Biologie, bei der sich ähnliche Eigenschaften unabhängig voneinander entwickeln, etwa die Flügel von Vögeln und Fledermäusen oder das Gift von Spinnen und Schlangen. Die Wissenschaftler von Sakana AI stellten fest, dass diese Rote-Königin-Dynamiken zur Entdeckung allgemeinerer Strategien führen und Hinweise darauf liefern, wie sich KIs in der realen Welt entwickeln könnten. Dies könnte bei der automatischen Prüfung von Systemen vor ihrem Einsatz oder bei Simulationen für künstliches Leben, Biologie, Arzneimitteldesign, Cybersicherheit oder Marktökosysteme helfen. Die Forschung unterstreicht, dass selbst einfache Self-Play-Schleifen komplexe Taktiken hervorbringen, und schlägt als künftige Erweiterung die parallele Koevolution großer Populationen vor.
