Amazon-ը թողարկել է Jev-ի անալոգը՝ Strands Decider 2B

Հոկտեմբերի 1-ին Amazon Web Services-ը ներկայացրեց բաց կոդով Strands Decider 2B մոդելը։ Այն տեքստ ստեղծելու փոխարեն ընտրում է նախապես սահմանված տարբերակներից և պատասխանի հուսալիությունը չափում գնահատականով։ Նույն շաբաթ OpenAI-ն ներկայացրեց նմանատիպ Decisions API՝ սահմանափակ ռեժիմով։

Մոդելը կառուցված է TypeSafe-ի Jev գաղափարի վրա։ Amazon-ի ականավոր ինժեներ Marc Brooker-ը ստեղծեց իր տարբերակը, որը JevBench-ի վարկանիշում կարճ ժամանակով զբաղեցրեց առաջին տեղը իր չափի մոդելների մեջ։ Amazon-ը մաքրեց նախագիծը, և Strands Labs-ը թողարկեց այն։

Ինչպես է աշխատում

Strands Decider 2B-ը կառուցված է Alibaba-ի բաց Qwen3.5-2B մոդելի վրա. AWS-ը հանեց տեքստի ստեղծման մասը և փոխարինեց առաջարկվող պատասխանները գնահատող մեխանիզմով։ Այն ունի մեկ միլիոնից մի փոքր ավելի պարամետր, իսկ հիմնական մարմինը օգտագործում է rank-16 LoRA ադապտեր։ Պատասխանների սահմանափակ տիրույթի պատճառով մոդելը չի կարող հորինել տարբերակ, որը ոչ ոք չի առաջարկել։

Օրինակ՝ օգտատերը եղանակի մասին հարցնում է առանց քաղաքի անունը նշելու. գործակալը ենթադրում է քաղաքը և պլանավորում եղանակի գործիքի կանչը, սակայն կանչից առաջ Decider-ը ստուգում է՝ արդյոք փաստարկները հիմնված են զրույցի վրա։ Ստուգումը անցնում է Strands-ի միջամտության համակարգով. կանչը կարող է շարունակվել կամ արգելվել։ Ցուցադրության մեջ Decider-ը աշխատում է տեղային։

Արդյունքներ

JevBench-ի հանրային հավաքածուում, ըստ AWS-ի, մոդելը երկրորդ տեղում է մոտ 2 միլիարդ պարամետր ունեցող հանրային մոդելների մեջ, իսկ առաջինը՝ նրանց մեջ, ովքեր հրապարակում են ամբողջական ուսուցման բաղադրատոմսը։ Պարզ մակարդակի բոլոր հարցերին այն ճիշտ է պատասխանում, իսկ որոշումը կայացնում է 100 միլիվայրկյանից պակաս ժամանակում NVIDIA RTX 3090-ի վրա։ Թողարկումը ներառում է նաև ուսուցման տվյալներ և սկրիպտներ։

Ինչու է կարևոր

TypeSafe-ի Jev-ը դուրս եկավ մի քանի շաբաթ առաջ և սկիզբ դրեց նման մոդելների ալիքին. նրան հետևեցին Kev, imajev, Laya և այլ նախագծեր, իսկ հիմա միանում են նաև խոշոր ընկերությունները։ Brooker-ի կարծիքով՝ մարտահրավերը արագ որոշումների բարելավումն է առանց ինտելեկտին վնասելու. փոքր շուկայի համար հետաքրքիր մոդել կառուցելը արժե հարյուրավոր կամ հազարավոր դոլարներ։

TypeSafe-ն այժմ աշխատում է ապագա մոդելների վրա։ Հիմնադիր և CEO Diogo Almeida-ն TechCrunch-ին ասաց՝ «Ես հասկանում եմ, որ մարդիկ սա ոսկու տենդ են համարում, բայց կարող են թերագնահատել, թե որքան դժվար է մոդելները իսկապես խելացի դարձնելը»։ Բաց է մնում հարցը՝ արդյոք մոդելը հասանելի կլինի նաև AWS-ի ամպում։

Աղբյուրներ՝ TechCrunch · The New Stack · Techmeme