Strands Agents Strands Decider 2B, açıq kodlu qərar modelini təqdim etdi

Strands Agents Strands Decider 2B, kiçik açıq kodlu qərar modelini təqdim etdi, ki sürətli eksperimentlər və lokal inkişaf üçün nəzərdə tutulub. 2 milyard parametrik model geniş yayılmış avadanlıqda mühüm suallara əsrlər içində cavab verə bilər, komanda isə kodu GitHub-da, model çəkilərini, təlim məlumatlarını və skriptləri Hugging Face-də dərc etdi.

Qərar modelləri və LLM-lər

Strands Decider modellərin yeni sinfinə aiddir, bəzənlər onları qərar modelləri və ya "sistem bir" modelləri adlandırır. LLM-lərdən fərqli olaraq, sərbəst mətn yaradan bu modellər variantlar arasında seçim edir, məsələn, ifadəni ingilis, zulu və ya holland dilində təsnifləşdirir və ya sentimenti 0-dən 1-ə qədər qiymətləndirir. Çevikliyi azalmağına baxmayaraq, onlar daha sürətli və verilmiş ölçüdə daha imkanlıdır, həmişə seçilmiş variantlardan cavab qaytarır və çox aşağı gecikmə ilə işləyir.

Kompromis budur ki, bütün nəticələrin bir paralel yolda yaradılması onları mürəkkəb problemləri həll edən modellərlə müqayisədə zəiflədir, mətn yaratma qabiliyyəti isə kodlaşdırmanı, chatbotları və sənədlərin xülasəsini istisna edir. Digər tərəfdən, hər qərarə etibar balı əlavə olur ki, onu aparıcı LLM inferens API-ləri bizə vermir, və modellər eyni prompt haqqında çoxlu suala cavab verməkdə çox effektivdir.

Arxitektura və performans

Model əvvəlcədən təlim keçmiş Qwen3.5-2B əsasından başlayır, hansıki dil modelləşdirmə başlığı çıxarılıb və mətn yaratma qabiliyyətini itirir. Bir milyondan bir az artıq parametri olan pointer head hər bir variantın mövqeyində gizli vəziyyəti cavab mövqeyinin gizli vəziyyətinə nisbətən qiymətləndirir, əsas isə rank-16 LoRA adapteri ilə fine-tune olunur. Buraxılan model 19-cu versiyadır; slot head olan əvvəlki arxitektura əhəmiyyətli dərəcədə pis işləyirdi, repozitoriya isə iterasiyalar zamanı dəyişiklikləri sənədləşdirir.

JevBench-in açıq dəstində Strands Decider 2B 2B sinfində 33 model arasında dəqiqlik və Brier balı ilə ölçülən kalibrasiyada üçüncü yerdədir, əgər bir az 2B-dən böyük modelləri istisna etsək, 30 model arasında birinci yerdədir. Qərar median gecikməsi lokal Nvidia RTX 3090-da təxminən 115 əsrdir, M3 MacBook-da isə kiçik tapşırıqlar üçün təxminən 153 əsr və tapşırıq ölçüsü ilə təxminən xətti artır. Model JevBench-in sadə tapşırıqlarına 100% dəqiqliklə cavab verir.

Necə başlamaq olar

Ən sadə giriş nöqtəsi strands-decider CLI-dir, ki pip install strands-decider ilə quraşdırılır. strands-decider ask əmri vəziyyəti, sualu və variantlar dəstini qəbul edir və ehtimal balları ilə hər variant üçün etibar dəyərini qaytarır. Repozitoriya həmçinin nümunə əhatə edir, orada model Strands agent-in içində işləyir və təklif olunan tool call-in istifadəçi girişinə əsaslanıb-əsaslanmadığını və halüsinasiya olub-olmadığını yoxlayır, framework-in intervention sistemindən istifadə edərək çağırılışı icra olunmadan əvvəl blokləmək və ya düzəltmək üçün.

Komandanın qeyd etdiyi erkən istifadə hallarına modellərin routing-i, alətlərin seçimi, qiymətləmələr, müdafiə bariyerləri, yaddaş, kontekst idarəetməsi və siyasət təsnifləşdirməsi daxildir, həmçinin mürəkkəb qərarlar üçün LLM-lərdən, rutin üçün isə qərar modellərindən istifadə edən hibrid agentlər. Strands komandası qərar modellərinin inteqrasiya kitabxanaları üzərində işlədiyini bildirir.

Mənbələr: strandsagents.com