OpenAI hat Decisions API nach einer Phase mit eingeschränktem Vorabzugang als öffentliche Beta für alle Entwickler freigegeben. Der Endpunkt nutzt GPT-6 Luna und liefert strukturierte Entscheidungen, mit denen Anwendungen Anfragen weiterleiten, Inhalte klassifizieren, Eingaben bewerten oder den nächsten Schritt eines Agenten auswählen können. Als Kontext lassen sich Text und Bilder übergeben.
Drei Formate für Regeln, Auswahl und Bewertung
Entwickler legen in der Anfrage die Form der Entscheidung fest: ein Prädikat, eine Menge zulässiger Optionen oder einen Zahlenbereich für die Bewertung. Dazu übergeben sie den Kontext, auf dessen Grundlage das Modell entscheiden soll. Die strukturierte Antwort ermöglicht bedingte Entscheidungen, die Klassifikation mit mehreren möglichen Klassen und numerische Bewertungen, ohne generierten Fließtext auswerten oder fehlerhaftes JSON reparieren zu müssen.
Das Format Predicate liefert eine geschätzte Wahrscheinlichkeit dafür, dass eine vorgegebene Aussage zutrifft. Die Dokumentation nennt dafür Regelprüfungen, Bedingungen zur Steuerung weiterer Schritte und die Erkennung von Risiken als Einsatzgebiete.
Choice wählt aus zuvor festgelegten Optionen aus und ergänzt Konfidenzwerte. Das Format ist für Klassifikation, die Weiterleitung von Anfragen und die Auswahl von Aktionen vorgesehen. Score liefert dagegen eine Bewertung innerhalb eines definierten Zahlenbereichs und eignet sich für Rangfolgen, Qualitätsbewertungen und die Benotung nach einem Bewertungsraster.
Vom Routing bis zur Arbeit mit Screenshots
Nutzer der Vorabversion setzten die API auch für visuelle Aufgaben ein. Sie verglichen Bilder und wählten nützliche Einzelbilder aus Videos aus. Anhand von Screenshots bestimmten sie Bedienelemente einer Oberfläche oder Aktionen in Formularen.
Decisions ist für Aufgaben ausgelegt, deren Ergebnis sich als Prädikat, als Auswahl aus endlich vielen Optionen oder als Wert innerhalb eines Zahlenbereichs ausdrücken lässt. Für die Erzeugung zusammenhängender Texte und offenes Schlussfolgern über lange Kontexte bleibt Responses API verfügbar.
OpenAIs Geschwindigkeitsvergleich mit Responses API
In seiner Demo zur Einführung ordnete OpenAI 10.000 Kundenanfragen den Kategorien Billing, Technical und Sales zu. Das Unternehmen meldete für Decisions API 150 Millisekunden pro Anfrage, gegenüber 1,6 Sekunden über Responses API. Damit erreichte Decisions in dieser Demonstration laut OpenAI eine ungefähr 10,7-fache Beschleunigung.
Everys Vergleich mit Jev liefert gemischte Ergebnisse
Every, das Vorabzugang zum Endpunkt hatte, verglich Decisions mit dem System Jev. Bei einer Offline-Wiedergabe von Aufgaben zur Computerbedienung wählte Decisions nach Angaben von Every in 76 von 78 Schritten das richtige Bedienelement aus. Jev wählte im selben Vergleich in 73 Schritten das richtige Bedienelement.
Ein separater Test zur Klassifikation von Threads ergab laut Every jedoch die gleiche Genauigkeit für beide Systeme, während Jev schneller antwortete. Every berichtete außerdem, dass Jev in seiner breiter angelegten Evaluierung besser abschnitt.
Integration in Anwendungen und Umgang mit Konfidenzwerten
Decisions nutzt dasselbe SDK, dieselbe Authentifizierung und dieselbe Abrechnungsinfrastruktur wie die übrigen APIs von OpenAI. Bestehende Kunden können den Endpunkt damit in ihre vorhandene Infrastruktur integrieren.
Konfidenzwerte sind Schätzungen des Modells. AlphaSignal weist darauf hin, dass Schwellenwerte für Entscheidungen im Produktivbetrieb anhand repräsentativer, gekennzeichneter Daten überprüft werden müssen. Dabei sind die Auswirkungen der einzelnen Fehlertypen zu berücksichtigen.
