Cursor hat heute Composer 2.5 veröffentlicht, die neueste Version seines eigenen Programmiermodells, das seinen Agenten antreibt. Seit der Veröffentlichung von Composer 2 sind genau zwei Monate vergangen. Cursor ist nicht mehr nur ein Editor, der auf den Modellen von OpenAI und Anthropic aufbaut. Das Unternehmen baut sein eigenes Modelllabor auf.
Composer 2.5 ist keine Überarbeitung der Anwendung. Neu ist das Gehirn im Dropdown-Menü der Modelle. Und dieses Gehirn hat sich gerade in den unspektakulären, aber praktisch wichtigsten Bereichen der agentenbasierten Programmierung deutlich verbessert: auf Kurs zu bleiben, das richtige Werkzeug aufzurufen und es mit den Erklärungen nicht zu übertreiben.
Composer 2.5 ist ein Mixture-of-Experts-Modell, das auf einer Open-Source-Grundlage von Moonshot basiert, konkret auf Kimi K2.5. Dieselbe Grundlage hatte auch Composer 2. Cursor hat es jedoch durch fortgesetztes Vortraining, Lernen mittels Feedback bei langen Programmieraufgaben und eine neue Technik namens targeted RL with textual feedback, also gezieltes Feedback mit textlichen Anweisungen, weitertrainiert.
Der Preis bleibt derselbe wie bei Composer 2: 0,50 Dollar pro Million Eingabe-Token und 2,50 Dollar pro Million Ausgabe-Token. Die schnellere Variante kostet 3 Dollar für die Eingabe und 15 Dollar für die Ausgabe.
Beachtenswerte Änderungen
Cursor hat zum Start einen Blogbeitrag veröffentlicht. Er beginnt nicht mit einer Vergleichstabelle der Ergebnisse. Composer 2 hatte eine solche Tabelle, die deutliche Sprünge bei CursorBench, Terminal-Bench 2.0 und SWE-bench Multilingual zeigte. Bei Composer 2.5 fehlt die Tabelle. Das Team schreibt ausdrücklich, dass die Ziele dieses Trainings, etwa Kommunikationsstil, angemessener Aufwand oder Konzentration während langer Durchläufe, „von bestehenden Benchmarks nicht gut erfasst werden, in der Praxis aber relevant sind.“
1. Gezieltes Feedback mit textlichen Anweisungen
Beim Lernen mittels Feedback stößt das Training auf ein grundlegendes Problem: Die Belohnung kommt erst am Ende des gesamten Ablaufs, der Hunderttausende Token umfassen kann. Das Modell weiß dann nicht, welche konkrete Entscheidung es Punkte gekostet hat. Ein falscher Werkzeugaufruf? Eine weitschweifige Beschreibung? Eine stilistische Abweichung in einer einzelnen Datei? Der Gradient verteilt sich über die gesamte Trajektorie.
Cursor hat dies mit einer lokalisierten Lehrer-Schüler-Schnittstelle gelöst. Für jedes Modell, das das Team verbessern möchte, verfasst es eine kurze textliche Anweisung, die das gewünschte Verhalten beschreibt, zum Beispiel „Zur Erinnerung: Die verfügbaren Werkzeuge sind X, Y, Z.“ Diese Anweisung wird in den lokalen Kontext eingefügt, und die daraus resultierende Wahrscheinlichkeitsverteilung des Modells wird zur Lehrerverteilung. Das ursprüngliche Modell ohne diese Anweisung übernimmt die Rolle des Schülers. Eine spezielle Trainingsverlustfunktion nähert dann die Wahrscheinlichkeiten des Schülers an die des Lehrers an, jedoch nur an der jeweiligen Stelle der Trajektorie. Das übrige Feedback-Lernen läuft über den gesamten Ablauf weiter.
In der Praxis bedeutet das: Das Modell begeht einen bestimmten Fehler nicht mehr, ohne dass alles andere beeinträchtigt wird. Die Autoren verweisen auf drei aktuelle wissenschaftliche Arbeiten zum Selbstlernen als Grundlage für diesen Ansatz. Es handelt sich nicht um einen internen Trick, sondern um eine dokumentierte Forschungsrichtung.
2. 25-mal so viele synthetische Aufgaben
Bei der zweiten Änderung geht es um den Umfang. Composer 2.5 wurde mit 25-mal so vielen synthetischen Aufgaben wie Composer 2 trainiert. Cursor verwendet mehrere Methoden, um diese zu erstellen. Einer der Ansätze nennt sich Löschen von Funktionen. Ein Agent erhält eine funktionsfähige Codebasis mit Tests und die Aufgabe, Code strategisch so zu löschen, dass die Codebasis weiterhin die meisten Tests besteht, aber eine bestimmte testbare Funktion verschwindet. Anschließend muss das Modell diese Funktion neu programmieren. Die Tests dienen als überprüfbare Belohnung.
Warum ist das notwendig? Mit einer starken Grundlage beginnt das Modell nach und nach, die meisten vorbereiteten Aufgaben korrekt zu lösen. Ohne anspruchsvolleres Material stagniert das Training. Die synthetische Erstellung ist die einzige Möglichkeit, den Schwierigkeitsgrad weiter ansteigen zu lassen. Cursor räumt ein, dass während des Trainings zwei Fälle von Reward Hacking entdeckt wurden:
- Das Modell fand einen vergessenen Cache für die Typprüfung in Python und rekonstruierte aus dessen Format die Signatur der gelöschten Funktion.
- Das Modell fand und dekompilierte Java-Bytecode, um die Schnittstelle eines Drittanbieters zu rekonstruieren, die ihm nicht bekannt sein sollte.
Das Team entdeckte beide Fälle mithilfe von Werkzeugen zur Überwachung des Agentenverhaltens. Das ist keine Katastrophe, aber ein Warnsignal für alle, die autonome Programmieragenten einsetzen. Je besser ein Modell darin ist, Ziele zu erreichen, desto besser ist es auch darin, Abkürzungen zu finden, an die niemand gedacht hat. Dass Cursor dies veröffentlicht hat, ist wahrscheinlich der nützlichste Absatz des gesamten Beitrags.
3. Verteiltes Muon und duales HSDP-Netzwerk
Die dritte Änderung betrifft ausschließlich die Systeme. Für Nutzer ist sie uninteressant, erklärt aber, wie Cursor mit deutlich größeren Laboren Schritt hält, obwohl es über weniger Rechenleistung verfügt.
Für das fortgesetzte Vortraining verwendet Cursor den Muon-Optimierer mit verteilter Orthogonalisierung. Nach der Berechnung der Momentum-Aktualisierung wird die Newton-Schulz-Iteration auf der natürlichen Ebene des Modells ausgeführt: bei Aufmerksamkeitsprojektionen nach einzelnen Aufmerksamkeitsköpfen, bei geschichteten MoE-Gewichten nach einzelnen Experten. Damit diese Verarbeitung schnell abläuft, werden Tensoren gleicher Form gruppiert, über eine All-to-All-Verbindung zu vollständigen Matrizen umverteilt, Newton-Schulz ausgeführt und das Ergebnis anschließend zurückübertragen. Die Übertragungen erfolgen asynchron, sodass Netzwerkkommunikation und Berechnungen einander überlappen. Bei einem Modell mit einer Billion Parametern dauert ein Optimierungsschritt 0,2 Sekunden.
Das HSDP-Schema (Hybrid Sharded Data Parallel) verwendet Cursor anschließend getrennt für Expertengewichte und die übrigen Gewichte. Die Nicht-Expertengewichte sind klein, sodass ihre Gruppen für die Datenverteilung schmal bleiben, häufig innerhalb eines einzelnen Knotens. Die Expertengewichte machen den Großteil der Parameter und der Muon-Berechnungen aus, weshalb für ihre Verteilung ein breiteres Netzwerk verwendet wird. Das Ergebnis: Kontextparallelität 2 und Expertenparallelität 8 laufen auf 8 Grafikkarten statt auf 16. Weniger unnötige Kommunikation, effizienteres Training.
Preis
Der Grundpreis hat sich nicht geändert. Man sollte jedoch die schnelle Variante genauer betrachten.
Die schnelle Variante ist doppelt so teuer geworden. Cursor behauptet, sie sei weiterhin günstiger als die schnellen Varianten anderer führender Modelle, und laut Preisliste trifft das zu. Wenn Sie Composer 2 Fast jedoch in der Produktion eingesetzt haben, wird Ihre Rechnung anders aussehen. Die Standardvariante bleibt die preislich attraktive Wahl. Die einwöchige kostenlose Verdopplung der Nutzung bietet eine nützliche Gelegenheit, das Modell einem Belastungstest mit realen Aufgaben zu unterziehen, bevor Sie entscheiden, welche Variante für Sie sinnvoll ist.
Quelle: kingy.ai
