OpenAI hat einen Leitfaden zur neuen GPT-6-Modellfamilie veröffentlicht. Darin erklärt das Unternehmen, wann man sich für die leistungsstärkste Astra entscheiden sollte, wann das günstigere GPT-6.1 Sol ausreicht und wann die schnelle Luna zum Einsatz kommt. Außerdem gibt es Empfehlungen dazu, wie man Aufgaben für die Modelle richtig formuliert, sie stundenlang arbeiten lässt und dabei die Kosten optimiert. Für die meisten Entwickler und Unternehmen dürfte GPT-6.1 Sol die erste Wahl sein, da es bei der Leistung nahe an Astra herankommt, aber nur ein Fünftel davon kostet.
Drei Modelle für drei Arten von Arbeit
GPT-6 Astra ist das intelligenteste Modell, das OpenAI derzeit anbietet, und eignet sich für die anspruchsvollsten Aufgaben. Nach Angaben des Unternehmens erzielte es in einer Reihe von Tests mit deutlich weniger Ausgabe-Token bessere Ergebnisse. Eine Aufgabe über die API ist damit letztlich günstiger als bei älteren Modellen, obwohl jedes einzelne Token teurer ist. Die Preisliste nennt 10 Dollar für die Eingabe, 50 Dollar für die Ausgabe und einen Dollar für eine im Cache gespeicherte Eingabe.
GPT-6.1 Sol, das Ende September vorgestellt wurde, bietet Intelligenz nahezu auf Astra-Niveau zu einem Fünftel des Preises. Die Eingabe kostet 2 Dollar, die Ausgabe 10 Dollar und eine Eingabe aus dem Cache zehn Cent. Dieses Modell ist für komplexe Programmierung, Forschung und die fortgeschrittene Steuerung von Computern vorgesehen. OpenAI empfiehlt, Sol und Astra bei eigenen Aufgaben auszuprobieren und erst danach zu beurteilen, ob der Qualitätsunterschied die höheren Kosten rechtfertigt.
Das günstigste Modell GPT-6 Luna kostet 10 Cent für die Eingabe und 50 Cent für die Ausgabe. Es wurde für klar abgegrenzte Aufgaben mit hohem Volumen entwickelt, beispielsweise zum Extrahieren von Daten aus Rechnungen, zum Klassifizieren von Anfragen oder zum Verfassen strukturierter Zusammenfassungen.
So wird Sol aktiviert und konfiguriert
In einer Anfrage an die Responses API genügt es, den Parameter model auf den Wert gpt-6.1-sol zu setzen. Die ältere Chat-Completions-Schnittstelle unterstützt dieses Modell nur bei Anfragen ohne Einbindung externer Werkzeuge. Sobald das Modell Funktionen aufrufen soll, muss die Anfrage über die neue Responses API erfolgen.
Der Umfang des Schlussfolgerns wird durch den Parameter reasoning.effort bestimmt, der fünf Stufen bietet: low, medium, high, xhigh und max. Die Standardeinstellung ist medium, während Sol ebenso wie Astra die Stufen none und minimal nicht unterstützt. Die niedrige Stufe reicht für das Nachschlagen von Fakten oder kleinere Textänderungen aus. Die mittlere Stufe eignet sich für die Planung von Funktionen oder den Vergleich von Optionen, und die hohe Stufe kommt bei anspruchsvollem Debugging und tiefergehenden Analysen zum Einsatz. Die höchsten Stufen sollte man erst ausprobieren, wenn die hohe Stufe nicht ausreicht, und sie nur dann aktiviert lassen, wenn das bessere Ergebnis die längere Wartezeit und den höheren Preis aufwiegt.
Der Umfang des internen Schlussfolgerns lässt sich neuerdings auch während einer Unterhaltung ändern. Der Entwickler fügt der Eingabe einen Eintrag zur Aktualisierung der Konfiguration hinzu, sodass das Modell bei einem komplexen Abschnitt die Denkintensität erhöht und sie bei Routineanfragen wieder reduziert. Der Anfang der Aufgabenstellung bleibt dabei unverändert, sodass der Cache nicht gelöscht wird. Im Programmierwerkzeug Codex empfiehlt OpenAI, mit der Standardeinstellung des Modells zu beginnen und sie je nach Bedarf anzupassen.
Schneller und ultraschneller Modus
Wenn es auf eine schnelle Antwort ankommt, beispielsweise in einer Chat-Anwendung, bietet die Programmierschnittstelle einen schnellen Modus mit kürzerer und stabilerer Reaktionszeit zu einem höheren Preis pro Token. Der ultraschnelle Modus beschleunigt die eigentliche Generierung der Token unabhängig vom eingestellten Umfang des Schlussfolgerns. OpenAI führt ihn bislang für das Modell Astra auf und empfiehlt ihn für Fälle, in denen sich der Aufpreis für mehr Geschwindigkeit lohnt.
Europäische Unternehmen können jedoch auf Einschränkungen stoßen. Der schnelle Modus ist bei den Modellen Astra, GPT-6 Sol und Luna nicht verfügbar, wenn die Daten aus rechtlichen Gründen innerhalb der Europäischen Union verbleiben müssen. Der ultraschnelle Modus funktioniert ausschließlich mit in den USA gespeicherten Daten oder im Rahmen der globalen Verarbeitung.
Weniger Anweisungen und bessere Ergebnisse
Eric Provencher aus dem OpenAI-Team für Entwicklererfahrung weist darauf hin, dass aktuelle Modelle Nuancen und Mehrdeutigkeiten deutlich besser verstehen. Zu detaillierte Anweisungen können ihnen daher eher schaden, auch wenn sie bei älteren Versionen hilfreich waren.
Eine richtig formulierte Aufgabenstellung definiert laut OpenAI klar das gewünschte Ergebnis, den Zielnutzer, die geltenden Einschränkungen und die Kriterien für den Abschluss der Arbeit. Systemfähigkeiten sollten die Bedingungen für ihre Aktivierung knapp beschreiben, und in die Datei AGENTS.md gehört eine ausdrückliche Genehmigung sicherer routinemäßiger Schritte, etwa lokaler Tests ohne Zugriff auf die Produktivumgebung. Pauschale Regeln, die ständige Rückfragen verlangen, sollten durch eine klare Grenze zwischen autonomem Handeln des Modells und Situationen ersetzt werden, die von einem Menschen genehmigt werden müssen.
Astra hält bei langfristigen Aufgaben besser den Kurs, fragt jedoch häufiger in Situationen nach, in denen ältere Modelle den nächsten Schritt einfach angenommen hätten. Dadurch kommt der Prozess mitunter zum Stillstand, obwohl der Nutzer eine nahtlose Fortsetzung erwartet hat. OpenAI bietet deshalb Musteranweisungen an, nach denen das Modell die Absicht aus dem Kontext ableiten und die Arbeit selbstständig abschließen soll. Formulierungen, die eine Möglichkeit ausdrücken, soll das System als direkte Handlungsanweisung verstehen und erst mit einem fertigen, überprüfbaren Ergebnis um Genehmigung bitten. Diese Vorgehensweisen basieren auf dem Verhalten von Astra, OpenAI empfiehlt jedoch, sie auch mit dem Modell Sol auszuprobieren.
Die neuen Modelle reagieren auch empfindlicher auf Anweisungen, die in Fähigkeiten und Konfigurationsdateien verborgen sind, sodass eine unklare oder widersprüchliche Anweisung die Arbeit unnötig blockieren kann. Eine geeignete Lösung besteht darin, festzulegen, dass direkte Anweisungen des Nutzers Vorrang vor allgemeinen Fähigkeiten haben. Astra neigt außerdem zu langen Antworten voller Listen und Tabellen und wiederholt dabei häufig dieselben Formulierungen. Nutzer, die einen zusammenhängenden Text in einfacher Sprache wünschen, müssen dies ausdrücklich verlangen. Im Bereich der Programmierung empfiehlt OpenAI zudem, das Modell beim Testen zu bremsen, da es selbst bei kleinen Codeänderungen unnötig umfangreiche Testsuiten generiert.
Aufgaben über Stunden und Tage
Mit den GPT-6-Modellen lassen sich laut OpenAI Aufgaben mit einer Bearbeitungsdauer von mehreren Stunden oder sogar Tagen stellen. Durch fortlaufende Steuerung kann dem Modell während der Arbeit über eine auf dem WebSocket-Protokoll basierende Version der Responses API eine Präzisierung gesendet werden. Die Nachricht wird in die Warteschlange eingereiht und stoppt weder laufende Werkzeuge noch macht sie bereits erledigte Arbeit zunichte. Asynchrone Werkzeugaufrufe ermöglichen es dem Modell, mit einer anderen Tätigkeit fortzufahren, während die Anwendung beispielsweise Tests ausführt. Dazu genügt es, bei der Funktion den asynchronen Modus auf den Wert true zu setzen und das Ergebnis mit dem ursprünglichen Identifikationscode call_id zurückzugeben.
GPT-6.1 Sol kann außerdem unabhängige Aufgaben auf Unteragenten verteilen, von denen jeder einen anderen Teil des Codes untersuchen kann, und ihre Erkenntnisse anschließend zu einer einzigen Antwort zusammenführen. Die Unterstützung mehrerer Agenten befindet sich derzeit in der Betaversion, und OpenAI empfiehlt, in der Aufgabenstellung zu definieren, wann und in welchem Umfang das Modell die Arbeit aufteilen soll.
Ein Modell, das für Sie klickt
Alle drei Modelle können einen Computer direkt steuern und mit Websites sowie Anwendungen arbeiten, einschließlich solcher ohne eigene API. Das Modell kann so Code korrigieren, das Produkt im Browser öffnen und die Funktionsfähigkeit der Korrektur überprüfen. OpenAI empfiehlt dennoch, den einfachsten zuverlässigen Weg zu wählen. Wenn sich eine Aufgabe mit einer herkömmlichen API oder einem angebundenen Werkzeug erledigen lässt, sollte diese Möglichkeit Vorrang haben. Die Computersteuerung kommt erst dann zum Einsatz, wenn das Modell den Bildschirm auslesen, klicken oder Formulare ausfüllen muss. Entwickler integrieren sie über ein Werkzeug zur Codeausführung in ihre eigene Anwendung; für Browser kann das Werkzeug Playwright und für Desktop-Anwendungen die Schnittstelle PyAutoGUI verwendet werden.
So lassen sich im Produktivbetrieb Kosten sparen
Das Unternehmen empfiehlt, alles aus dem Kontext zu entfernen, was für die jeweilige Aufgabe nicht unmittelbar benötigt wird, und unabhängige Aufgaben parallel auszuführen. Die größte Ersparnis bringt das Caching von Aufgabenstellungen, da Eingabe-Token aus dem Cache bis zu 95 Prozent günstiger sind. Dauerhafte Anweisungen und Materialien sollten daher am Anfang der Aufgabenstellung stehen, variable Details erst danach. Im Budget sollten auch Schreibvorgänge in den Cache und Aufpreise für einen langen Kontext berücksichtigt werden. Bei umfangreichen Unterhaltungen hilft eine Gesamtkomprimierung, die den Kontext verdichtet und nur die für die Fortsetzung erforderlichen Daten beibehält. Vor dem Produktiveinsatz sollten Unternehmen bei repräsentativen Aufgaben Erfolgsquote, Reaktionsgeschwindigkeit und Kosten pro abgeschlossener Aufgabe genau messen.
Umstieg von älteren Modellen
Die Übertragung eines gesamten Projekts kann Codex selbst mithilfe der Fähigkeit OpenAI Docs durchführen. Entwickler, die den Code manuell anpassen, sollten von den Stufen none oder minimal auf low wechseln und anschließend die Ergebnisse vergleichen. Bei aktiviertem internen Schlussfolgern müssen die Parameter temperature, top_p und top_logprobs aus der Anfrage entfernt werden. Nutzer, die von GPT-5.5 oder älteren Modellen umsteigen, ersetzen den Eintrag prompt_cache_retention durch die neue Einstellung prompt_cache_options.ttl mit einem Zeitwert von 30 Minuten.
So arbeiten Unternehmen mit den Modellen
OpenAI zeigt die praktische Nutzung anhand von Kunden, die bereits auf dem Modell Astra aufbauen. Die juristische Plattform Harvey verbindet Rechtsprechung, Dokumente einer Anwaltskanzlei und die Präferenzen eines bestimmten Anwalts und erstellt auf dieser Grundlage komplexe Entwürfe für Verträge und Schriftsätze. Cognition hat Astra in seinen autonomen Agenten Devin integriert. Beim Testen eines iPhone-Spiels analysierte dieser eine Aufzeichnung aus dem Simulator und trennte im Abschlussbericht übersichtlich die erfolgreich überprüften Schritte von den bislang ungetesteten Bereichen. Die Analyseplattform Hex verwandelt mithilfe dieses Modells Anfragen zur Leistung von Vertriebskanälen in schriftliche Schlussfolgerungen und interaktive Übersichten. Invideo wiederum nutzt das System zur Planung von Änderungen auf der Video-Zeitleiste und zur Erstellung eigener Effekte. Das Unternehmen berichtet in diesem Zusammenhang von einer etwa dreimal so hohen Erfolgsquote bei Farbanpassungen und Korrekturen; mehrere seiner Videoeditoren konnten zudem an nur einem Tag rund fünfzig neue Effekte erstellen.
Quellen: openai.com und openai.com
