Stellen Sie sich ein kleines Modell mit 8 Milliarden Parametern namens Orchestrator vor, das wie ein Dirigent in einem Orchester voller Werkzeuge und intelligenter Modelle agiert. Diese Entwicklung von Forschern bei Nvidia und der University of Hong Kong löst komplexe Aufgaben, etwa aus Humanity's Last Exam (HLE), und erzielte dabei 37,1 %, während GPT-5 lediglich 35,1 % erreichte. Und das alles bei 2,5-fach niedrigeren Kosten! Kein riesiges Modell, sondern einfach nur intelligente Koordination.
Warum sind kleine Modelle leistungsfähiger als große?
Orchestrator ist kein Einzelkämpfer – es greift auf Werkzeuge wie die Tavily Search API für die Websuche, eine Python-Sandbox zum Ausführen von Code oder spezialisierte Modelle wie Qwen2.5-Math-72B für Mathematik zurück. Beim Training kommt bestärkendes Lernen mit Belohnungen für korrekte Ergebnisse, niedrige Kosten und die Einhaltung der Nutzerpräferenzen zum Einsatz. Im FRAMES-Benchmark übertraf es beispielsweise GPT-5 mit einer Erfolgsquote von 76,3 % bei lediglich 30 % der Kosten.
In jeder Runde denkt Orchestrator nach, wählt ein Werkzeug aus – etwa GPT-5-mini zum Programmieren oder Llama-3.3-70B-Instruct für allgemeinere Aufgaben – und verarbeitet anschließend die Antwort. Die Forscher erstellten den ToolScale-Datensatz mit Tausenden von Beispielen aus Bereichen wie Finanzen, Sport oder Medizin, anhand derer das Modell lernt, bis zu 50 Interaktionsrunden zu koordinieren. Das Ergebnis? Beim τ²-Bench erreichte es 80,2 %, wobei es GPT-5 nur in 40 % der Fälle aufrief und dennoch besser abschnitt als GPT-5 allein.
Anpassung für jeden
Nutzer können ihre Präferenzen festlegen – beispielsweise aus Datenschutzgründen die lokale Suche gegenüber der Internetsuche bevorzugen. Orchestrator passt sich daran an, wodurch es auch für unbekannte Werkzeuge wie Claude Opus 4.1 oder DeepSeekMath-7b-Instruct flexibel einsetzbar ist. Das gesamte System ist darauf ausgelegt, schnell und kostengünstig zu arbeiten, mit einer Latenzzeit von wenigen Minuten und Kosten im Centbereich. Den ausführlichen Bericht können Sie auf arxiv.org lesen.
