Strands Agents-ը թողարկել է Strands Decider 2B՝ բաց կոդով որոշումների մոդել

Strands Agents-ը թողարկել է Strands Decider 2B՝ փոքր բաց կոդով որոշումների մոդել, որը ստեղծված է արագ փորձերի և լոկալ զարգացման համար։ 2 միլիարդ պարամետրով մոդելը տասնավոր միլիվայրկյաններում կարող է պատասխանել կարևոր հարցերին լայնորեն հասանելի սարքավորումներում, իսկ թիմը կոդը հրապարակել է GitHub-ում, իսկ մոդելի քաշերը, ուսուցողական տվյալները և սցենարները՝ Hugging Face-ում։

Որոշումների մոդելները և LLM-ները

Strands Decider-ը պատկանում է մոդելների նոր դասի, որին երբեմն կոչում են որոշումների մոդելներ կամ «համակարգ 1» մոդելներ։ LLM-ներից տարբեր, որոնք ստեղծում են ազատ տեքստ, այս մոդելները ընտրում են տարբերակների բազմության միջև, օրինակ՝ դասակարգում են արտահայտությունը անգլերեն, զուլուսերեն կամ հոլանդերեն լեզվով, կամ գնահատում են սենտիմենտը 0-ից 1 միջակայքում։ Ճկունության կրճատման փոխարեն նրանք ավելի արագ են և ունեն ավելի մեծ հնարավորություններ տվյալ չափով, միշտ վերադարձնում են պատասխան ընտրված տարբերակներից և աշխատում են շատ ցածր լատենտությամբ։

Կոմպրոմիսը այն է, որ բոլոր արդյունքների գեներավորումը մեկ զուգահեռ ծալում դարձնում է նրանց թուլ կողմը բարդ խնդիրների վերաբերյալ մտածելու մոդելների նկատմամբ, իսկ տեքստ գեներավորելու անկարունակությունը բացառում է ծրագրավորումը, չաթբոթերը և փաստաթղթերի ամփոփումը։ Մյուս կողմից, յուրաքանչյուր որոշման հետ կապված է վստահելիության միավոր, որը հիմնական LLM ինֆերենս API-ները մեզ չեն տալիս, և մոդելները կարող են շատ արդյունավետ պատասխանել միևնույն պրոմպտի մասին բազմաթիվ հարցերին։

Արխիտեկտուրան և արտադրողականություն

Մոդելը սկսվում է նախապես վերապատրաստված Qwen3.5-2B տորսով, որի լեզվի մոդելավորման գլուխը հանված է, ինչի շնորհիվ կորցնում է տեքստ գեներավորելու ունակությունը։ pointer head-ը, որի պարամետրերը մի փոքր ավելին են, քան մեկ միլիոնը, գնահատում է թաքնված վիճակը յուրաքանչյուր տարբերակի դիրքում՝ համեմատելով պատասխանի դիրքի թաքնված վիճակի հետ, իսկ տորսը fine-tune է արվում rank-16 LoRA ադապտերով։ Թողարկված մոդելը 19-րդ տարբերակն է. slot head ունեցող վաղ արխիտեկտուրան զգալիորեն ավելի վատ աշխատում էր, և պահոցը փաստաթղթային կերպով նկարագրում է փոփոխությունները իտերացիաների ընթացքում։

JevBench-ի հանրային հավաքածուում Strands Decider 2B-ն 2B դասում 33 մոդելի միջև երերորդ տեղն է ճշտությամբ և Brier-ի միավորով չափված կալիբրացիայով, իսկ 30 մոդելի միջև՝ առաջինը, եթե բացառենք մի փոքր 2B-ից մեծ մոդելները։ Որոշումների միջին լատենտությունը լոկալ Nvidia RTX 3090-ում մոտավորապես 115 միլիվայրկյան է, իսկ M3 MacBook-ում՝ փոքր խնդիրների համար մոտավորապես 153 միլիվայրկյան, և այն մոտավորապես գծային կերպով աճում է խնդրի չափի հետ մեկտեղ։ Մոդելը JevBench-ի պարզ խնդիրներին 100%-ով ճիշտ է պատասխանում։

Ինչպես սկսել

Ամենապարզ մուտքի կետը strands-decider CLI-ն է, որը տեղադրվում է pip install strands-decider-ով։ strands-decider ask հրամանը ստանում է վիճակ, հարց և տարբերակների բազմություն, և վերադարձնում է հավանականության միավորներ և վստահելիության արժեք յուրաքանչյուր տարբերակի համար։ Պահոցը նաև ներառում է օրինակ, որտեղ մոդելը աշխատում է Strands agent-ի ներսում և ստուգում է՝ արդյոք առաջարկված tool call-ը հիմնված է օգտատիրոջ մուտքագրման վրա և արդյոք այն պատահական է, ֆրեյմվորքի միջամտության համակարգի միջոցով, որպեսզի կանգնեցնի կամ ուղղի կանչը մինչև այն կատարվի։

Թիմի կողմից նշված վաղ օգտագործման դեպքերի թվում են մոդելների ուղղորդումը, գործիքների ընտրությունը, գնահատումները, պաշտպանիչ պատնեշերը, հիշողությունը, համատեքստի կառավարումը և քաղաքականության դասակարգումը, ինչպես նաև հիբրիդային ագենտներ, որոնք բարդ որոշումների համար օգտագործում են LLM-ներ, իսկ ռուտինային գործողությունների համար՝ որոշումների մոդելները։ Strands-ի թիմը հայտնում է, որ աշխատում է որոշումների մոդելների ինտեգրման գրադարանների վրա։

Աղբյուրներ: strandsagents.com