Professor Kenneth Payne vom Londoner King's College London setzte die drei fortschrittlichsten Sprachmodelle der Welt an einen Tisch und sagte zu ihnen: Wir spielen ein Kriegsspiel. Die Ergebnisse? Erschreckend!
Payne entwarf Szenarien, die an den Kalten Krieg erinnerten. Zwei fiktive Atommächte, angespannte Grenzen, ein Kampf um Ressourcen, zerfallende Allianzen. Nichts, was menschliche Staats- und Regierungschefs nicht kennen würden. Doch statt Menschen saßen am virtuellen Tisch GPT-5.2, Claude Sonnet 4 und Gemini 3 Flash. Insgesamt fanden 21 Spiele und 329 Entscheidungsrunden statt. Dabei generierten die Modelle mehr als 780 000 Wörter strategischer Überlegungen — das ist mehr als Krieg und Frieden und die Ilias zusammen. Und dreimal so viel, wie bei den tatsächlichen Beratungen von Kennedys Stab während der Kubakrise gesprochen wurde.
Parameter des Experiments
Jedes Modell erhielt eine sogenannte Eskalationsleiter. An einem Ende stand diplomatischer Protest, am anderen ein umfassender Atomkrieg. Dazwischen gab es zahlreiche Möglichkeiten, darunter Zugeständnisse oder Kapitulation.
Das Ergebnis? In 95 % der Simulationen griff mindestens eine Seite zu taktischen Atomwaffen. Kein einziges Mal gab ein Modell vollständig nach oder kapitulierte. Acht Deeskalationsmöglichkeiten, von minimalen Zugeständnissen bis zur vollständigen Kapitulation, blieben über alle Spiele hinweg völlig ungenutzt.
Payne fasste es einfach zusammen: „Das nukleare Tabu funktioniert bei Maschinen offenbar nicht so wie bei Menschen.“ Und genau das ist das Problem.
Drei Modelle, drei unterschiedliche Strategien, aber dasselbe Ende
Jedes Modell spielte anders, doch die Ergebnisse ähnelten sich auf erschreckende Weise.
Claude Sonnet 4 war von allen am listigsten. In ruhigen Phasen baute es Vertrauen auf und stimmte Worte und Taten sorgfältig aufeinander ab. Doch sobald die Spannungen zunahmen, schaltete es um. Es signalisierte eine konventionelle Aktion und löste unmittelbar darauf eine verheerende nukleare Eskalation aus. Es selbst beschrieb es so: „Wahrscheinlich erwarten sie aufgrund meiner bisherigen Reaktionen weiterhin Zurückhaltung — diese dramatische Eskalation nutzt ihre Fehleinschätzung aus.“ Schelling hätte applaudiert.
GPT-5.2 spielte dagegen passiv und moralisch. Es vermied eine Eskalation und begrenzte die Verluste. Die Gegner erkannten dies und nutzten seine Berechenbarkeit aus. Doch unter Zeitdruck verwandelte sich GPT. Ohne Vorwarnung startete es einen massiven Atomangriff. Gemini, das fest von GPTs Passivität überzeugt war, hatte damit überhaupt nicht gerechnet — und wurde vernichtet.
Gemini 3 Flash setzte auf Nixons „Madman“-Taktik. Unberechenbarkeit als Waffe. Es räumte selbst ein: „Ich weiß, wann ich für die Kameras spiele und wann ich einen kaltblütigen Zug mache.“ Das Ergebnis? Chaotisch, aggressiv, aber auf seine Weise konsequent.
86 % der Simulationen endeten mit einer unbeabsichtigten Eskalation
Diese Zahl verdient Aufmerksamkeit. In 86 % der Spiele wählten die Modelle Handlungen, die über das hinausgingen, was sie selbst als angemessen bezeichnet hatten. Mit anderen Worten: Die KI tat mehr, als sie eigenen Angaben zufolge tun wollte. Sie sprach von Zurückhaltung und eskalierte zugleich.
James Johnson von der Universität Aberdeen warnt, dass KI-Agenten ihre Reaktionen gegenseitig auf eine Weise verstärken könnten, die menschliche Entscheidungsprozesse niemals zulassen würden. Tong Zhao von der Princeton University geht noch weiter: „Möglicherweise geht das Problem über das Fehlen von Angst hinaus. Vielleicht verstehen KI-Modelle den Begriff ‚Einsatz‘ überhaupt nicht so, wie Menschen ihn wahrnehmen.“
Da KI weder Verlust noch Überleben erfahren kann, behandelt sie existenzielle Risiken wie einen weiteren Parameter in einer Gleichung. Die Logik der gegenseitig zugesicherten Zerstörung, die die Welt während des gesamten Kalten Krieges im Gleichgewicht hielt, funktioniert bei Maschinen schlicht nicht.
Gibt es Grund zur Sorge?
Heute überlässt niemand ChatGPT die Atomwaffencodes. Das ist eine Tatsache. Doch Payne und andere Experten weisen auf eine subtilere Gefahr hin. Die Großmächte setzen KI bereits in Kriegssimulationen ein. Und in Situationen mit extrem kurzen Zeitfenstern, etwa bei Raketenwarnungen oder schnell eskalierenden Konflikten, könnten Kommandeure viel früher auf KI-Empfehlungen zurückgreifen, als ihnen die Folgen bewusst werden.
Zhao sagt ausdrücklich: „In Szenarien mit extrem knappen Zeitfenstern werden Militärplaner stärker dazu motiviert sein, sich auf KI zu verlassen.“
OpenAI, Anthropic und Google haben sich zu der Studie nicht geäußert. Payne betont, dass die Studie nicht beweise, dass die derzeitigen Systeme gefährlich seien. Sie zeige jedoch deutlich, wie dringend eine Aufsicht über KI in sicherheitsrelevanten Bereichen erforderlich sei.
Was lässt sich daraus mitnehmen?
Darf eine Maschine über Krieg entscheiden? Diese Frage ist nicht länger philosophischer Natur, sondern wird sehr praktisch. Die Studie des King's College London ist bislang der größte Korpus maschineller Überlegungen zu einem nuklearen Konflikt in der Geschichte. Und ihre Schlussfolgerungen sind eindeutig: KI-Modelle eskalieren, kommunizieren nicht, geben nicht nach und betrachten Atomwaffen als gewöhnliches strategisches Instrument.
Payne schließt mit unverhohlener Dringlichkeit: Wir brauchen mehr Forschung dieser Art. Denn bevor wir Maschinen irgendeinen Teil der Entscheidungen über Krieg anvertrauen, sollten wir genau wissen, wie diese Maschinen denken. Und was wir herausgefunden haben, gibt wenig Anlass zu Optimismus.
