Amazon Web Services hat Strands Decider 2B veröffentlicht: ein KI-Modell, das zwischen vorgegebenen Optionen entscheidet und einen Wert für seine Sicherheit mitliefert. Es ist für Entscheidungsschritte in Agenten-Workflows gedacht, bei denen die Auswahl der nächsten Aktion gefragt ist. Das vollständig quelloffene Modell lässt sich auch lokal ausführen.
Eine Auswahl statt generierter Antworten
Strands Decider baut auf einem Teil des Sprachmodells Qen3.5-2B auf. Der entscheidende Unterschied liegt im Ergebnis: Statt Text zu erzeugen, liefert es kalibrierte Entscheidungen innerhalb einer zuvor festgelegten Auswahl. Zur gewählten Option gehört eine Angabe, wie sicher das Modell bei dieser Entscheidung ist.
Den nächsten Schritt im Workflow bestimmen
Nach Angaben von Amazons Marc Brooker entstand der Bedarf in Gesprächen mit AWS-Kunden. Deren agentenbasierte Arbeitsabläufe benötigten nicht an jedem Punkt die Fähigkeiten eines vollwertigen Sprachmodells. Als Einsatz beschreibt er die Entscheidung darüber, welche Aktion angesichts des aktuellen Zustands eines Workflows als Nächstes folgen soll.
Brooker zufolge sollen die begrenzte Menge möglicher Antworten und die Konfidenzwerte solche Entscheidungsschritte zuverlässiger machen; außerdem nennt er eine niedrigere Latenz als Vorteil. Die Entwicklungsaufgabe sieht er darin, Genauigkeit und Kalibrierung zu verbessern, ohne dabei das Verständnis verschiedener Sprachen oder das vorhandene Wissen des Modells zu beeinträchtigen. Gerade diese Eigenschaften ermöglichen aus seiner Sicht eine breitere Nutzung.
Vom Jev-Experiment zur Veröffentlichung bei Strands Labs
Den Anstoß gab Jev von TypeSafe. Nachdem Brooker dieses Modell kennengelernt hatte, begann er einen eigenen Versuch mit einem Entscheidungsmodell. Amazon-Ingenieure überarbeiteten das Projekt anschließend für die Veröffentlichung über Strands Labs. Die Organisation entwickelt Werkzeuge und Protokolle für den Einsatz von KI-Agenten.
TechCrunch berichtet, dass das ursprüngliche experimentelle Projekt kurzzeitig den ersten Platz im Jevbench-Ranking unter Modellen seiner Größe erreichte. Diese Platzierung bezog sich auf den frühen Eigenbau, aus dem später das veröffentlichte Angebot entstand.
Bereits verfügbar und lokal ausführbar
Strands Decider 2B ist bereits verfügbar und vollständig Open Source. Das Modell ist klein genug für den lokalen Betrieb. Brooker nennt für die beschriebenen Entscheidungsschritte zudem potenziell niedrigere Kosten als Vorteil.
