Strands Agents, Strands Decider 2B açık kaynaklı karar modelini yayınladı

Strands Agents, hızlı deneyler ve yerel geliştirme için tasarlanmış küçük açık kaynaklı bir karar modeli olan Strands Decider 2B'yi yayınladı. 2 milyar parametreli model, yaygın olarak bulunabilen donanımda önemli soruları milisaniyeler içinde yanıtlayabiliyor; ekip kodu GitHub'da, model ağırlıklarını, eğitim verilerini ve betikleri ise Hugging Face'de yayınladı.

Karar Modelleri ve LLM'ler

Strands Decider, bazen karar modelleri veya "sistem bir" modelleri olarak adlandırılan yeni bir model sınıfına aittir. Serbest metin üreten LLM'lerden farklı olarak, bu modeller seçenekler kümesi arasında seçim yapar; örneğin bir ifadeyi İngilizce, Zulu veya Felemenkçe olarak sınıflandırır veya duyguyu 0'dan 1'e kadar değerlendirir. Esnekliği azalmasına karşılık daha hızlılar ve verilen boyutta daha yeteneklidirler, her zaman seçilen seçeneklerden yanıt döndürürler ve çok düşük gecikme ile çalışırlar.

Ödün, tüm sonuçları tek bir paralel geçişte üretmeleri, karmaşık problemler üzerinde düşünme modellerinden zayıf olmalarına neden olur; metin üretme yeteneklerinin olmaması ise kodlamayı, sohbet botlarını ve belgeleri özetlemeyi dışlar. Öte yandan, her karar, lider LLM çıkarım API'lerinin sağlamadığı bir güvenlik puanıyla birlikte gelir ve modeller aynı istem hakkında çok sayıda soruyu yanıtlamada oldukça etkilidir.

Mimari ve Performans

Model, dil modelleme kafası çıkarılmış önceden eğitilmiş Qwen3.5-2B gövdesiyle başlar, bu da metin üretme yeteneğini kaybettirir. Parametreleri bir milyonu biraz aşan pointer head, her seçenekteki gizli durumu yanıt konumunun gizli durumuyla karşılaştırarak değerlendirir; gövde ise rank-16 LoRA adaptörü ile ince ayar yapılır. Yayınlanan model 19. sürümdür; slot head içeren önceki mimari önemli ölçüde daha kötü çalışıyordu ve depo, yinelemeler boyunca her değişikliği belgesel olarak açıklar.

JevBench'in herkese açık setinde Strands Decider 2B, 2B sınıfında 33 model arasında doğruluk ve Brier puanıyla ölçülen kalibrasyon açısından üçüncü sırada; biraz daha büyük 2B modelleri hariç tutarsak 30 model arasında birinci sırada. Kararın medyan gecikmesi yerel Nvidia RTX 3090'da yaklaşık 115 milisaniye, M3 MacBook'ta küçük görevler için yaklaşık 153 milisaniyedir ve görev boyutuyla birlikte yaklaşık doğrusal olarak artar. Model, JevBench'in basit görevlerini %100 doğru yanıtlar.

Nasıl Başlanır

En basit giriş noktası, pip install strands-decider ile kurulan strands-decider CLI'dır. strands-decider ask komutu bir durum, bir soru ve seçenekler kümesi alır ve olasılık puanları ile her seçenek için güvenlik değerini döndürür. Depo ayrıca modelin bir Strands ajanı içinde çalıştığı, önerilen tool call'in kullanıcı girdisine dayanıp dayanmadığını ve sahte olup olmadığını kontrol ettiği bir örnek içerir; framework'ün müdahale sistemi aracılığıyla çağrı, yerine getirilmeden önlenir veya düzeltilir.

Ekibin bahsettiği erken kullanım durumları arasında model yönlendirme, araç seçimi, değerlendirmeler, koruma bariyerleri, bellek, bağlam yönetimi ve politika sınıflandırması yer alır; ayrıca karmaşık kararlar için LLM'leri, rutin işler için karar modellerini kullanan hibrit ajanlar da vardır. Strands ekibi, karar modellerinin entegrasyonu için kütüphaneler üzerinde çalıştığını belirtiyor.

Kaynaklar: strandsagents.com