Geri qayıt
Amazon Jev analoqu olan Strands Decider 2B-ni buraxdı
SiTech AI Team2 dəq oxu

Amazon Jev analoqu olan Strands Decider 2B-ni buraxdı

Amazon Web Services mətn yaratmaq əvəzinə əvvəlcədən müəyyən edilmiş variantlar arasından seçim edən, lokal işləyən və cavabın etibarlılığını balla ölçən açıq mənbəli Strands Decider 2B modelini təqdim etdi.

1 oktyabrda Amazon Web Services açıq mənbəli Strands Decider 2B modelini təqdim etdi. O, mətn yaratmaq əvəzinə əvvəlcədən müəyyən edilmiş variantlar arasından seçim edir və cavabın etibarlılığını balla ölçür. Həmin həftə OpenAI oxşar Decisions API-ni məhdud rejimdə təqdim etdi.

Model TypeSafe-in Jev ideyası üzərində qurulub. Amazon-un görkəmli mühəndisi Marc Brooker öz versiyasını yaratdı və o, JevBench reytinqində öz ölçüsündəki modellər arasında qısa müddətə birinci yeri tutdu. Amazon layihəni təmizlədi və Strands Labs onu buraxdı.

Necə işləyir

Strands Decider 2B Alibaba-nın açıq Qwen3.5-2B modeli üzərində qurulub: AWS mətn yaratma hissəsini çıxarıb təklif olunan cavabları qiymətləndirən mexanizmlə əvəzlədi. Onun bir milyondan bir az çox parametri var, əsas korpus isə rank-16 LoRA adapterindən istifadə edir. Cavabların məhdud məkanı səbəbindən model heç kimin təklif etmədiyi variantı uydura bilmir.

Strands Decider 2B-ის არქიტექტურის სქემა (ილუსტრაცია: AWS)

Məsələn, istifadəçi şəhər adı çəkmədən hava haqqında soruşur: agent şəhəri ehtimal edir və hava alətini çağırmağı planlaşdırır, lakin çağırışdan əvvəl Decider arqumentlərin söhbətə əsaslanıb-əsaslanmadığını yoxlayır. Yoxlama Strands-in müdaxilə sistemi üzərindən keçir: çağırış davam edə bilər və ya qadağan edilə bilər. Nümayişdə Decider lokal işləyir.

Nəticələr

AWS-in dediyinə görə, JevBench-in açıq toplusunda model təxminən 2 milyard parametrli açıq modellər arasında ikinci yerdədir, tam təlim reseptini dərc edənlər arasında isə birincidir. Sadə səviyyəli bütün suallara düzgün cavab verir və qərarı NVIDIA RTX 3090-da 100 millisaniyədən az vaxtda qəbul edir. Buraxılışa təlim məlumatları və skriptlər də daxildir.

JevBench-ის შედეგები (ილუსტრაცია: AWS)

Niyə vacibdir

TypeSafe-in Jev-i bir neçə həftə əvvəl çıxdı və oxşar modellər dalğasına başladı: ondan sonra Kev, imajev, Laya və digər layihələr gəldi, indi isə böyük şirkətlər də qoşulur. Brooker-in fikrincə, problem intellektə xələl gətirmədən sürətli qərarların yaxşılaşdırılmasıdır; kiçik bazar üçün maraqlı model qurmaq isə yüzlərlə və ya minlərlə dollara başa gəlir.

TypeSafe hazırda gələcək modellər üzərində işləyir. Təsisçi və CEO Diogo Almeida TechCrunch-a dedi: „İnsanların bunu qızıl həyəcanı hesab etdiyini başa düşürəm, amma modelləri həqiqətən ağıllı etməyin nə qədər çətin olduğunu qiymətdən sala bilərlər“. Modelin AWS buludunda da əlçatan olub-olmayacağı sualı açıq qalır.

Mənbələr: TechCrunch · The New Stack · Techmeme

SSiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.