Amazon, Jev'in analogu Strands Decider 2B'yi yayımladı

1 Ekim'de Amazon Web Services, açık kaynak model Strands Decider 2B'yi tanıttı. Metin üretmek yerine önceden belirlenmiş seçenekler arasından seçim yapıyor ve yanıtın güvenilirliğini puanla ölçüyor. Aynı hafta OpenAI benzer bir Decisions API'yi sınırlı modda tanıttı.

Model, TypeSafe'in Jev fikri üzerine kurulu. Amazon'un önde gelen mühendisi Marc Brooker kendi sürümünü yaptı; bu sürüm JevBench sıralamasında kendi boyutundaki modeller arasında kısa süreliğine birinci oldu. Amazon projeyi temizledi ve Strands Labs yayımladı.

Nasıl çalışıyor

Strands Decider 2B, Alibaba'nın açık modeli Qwen3.5-2B üzerine kurulu: AWS metin üretim kısmını çıkarıp önerilen yanıtları değerlendiren bir mekanizmayla değiştirdi. Bir milyondan biraz fazla parametresi var ve ana gövde rank-16 LoRA adaptörü kullanıyor. Yanıt alanı sınırlı olduğu için model, kimsenin önermediği bir seçeneği uyduramaz.

Örneğin kullanıcı şehir adı vermeden hava durumunu soruyor: ajan bir şehir varsayıp hava durumu aracını çağırmayı planlıyor, ancak çağrıdan önce Decider argümanların konuşmaya dayanıp dayanmadığını kontrol ediyor. Kontrol, Strands'in müdahale sisteminden geçiyor: çağrı sürdürülebilir veya yasaklanabilir. Demoda Decider yerel olarak çalışıyor.

Sonuçlar

AWS'ye göre JevBench'in genel koleksiyonunda model, yaklaşık 2 milyar parametreli genel modeller arasında ikinci sırada; tam eğitim tarifini yayımlayanlar arasında ise birinci. Basit seviyedeki tüm soruları doğru yanıtlıyor ve NVIDIA RTX 3090'da kararını 100 milisaniyeden kısa sürede veriyor. Sürüm, eğitim verilerini ve betikleri de içeriyor.

Neden önemli

TypeSafe'in Jev'i birkaç hafta önce çıktı ve benzer modeller dalgasını başlattı: onu Kev, imajev, Laya ve diğer projeler izledi; şimdi büyük şirketler de katılıyor. Brooker'a göre zorluk, zekâyı bozmadan hızlı karar vermeyi iyileştirmek; küçük bir pazar için ilginç bir model kurmak ise yüzlerce ya da binlerce dolara mal oluyor.

TypeSafe şu anda gelecek modeller üzerinde çalışıyor. Kurucu ve CEO Diogo Almeida TechCrunch'a şöyle dedi: „İnsanların bunu altına hücum sandığını anlıyorum, ama modelleri gerçekten akıllı yapmanın ne kadar zor olduğunu hafife alabilirler.“ Modelin AWS bulutunda da sunulup sunulmayacağı sorusu açık kalıyor.

Kaynaklar: TechCrunch · The New Stack · Techmeme