Strands Agents-მა გამოუშვა Strands Decider 2B, ღია კოდის გადაწყვეტილების მოდელი

Strands Agents-მა გამოუშვა Strands Decider 2B, პატარა ღია კოდის გადაწყვეტილების მოდელი, რომელიც სწრაფი ექსპერიმენტებისა და ლოკალური განვითარებისთვისაა შექმნილი. 2 მილიარდი პარამეტრის მოდელს ფართოდ ხელმისაწვდომ ჰარდზე მნიშვნელოვან კითხვებზე პასუხის გაცემა ათეულ მილიწამებში შეუძლია, გუნდმა კი კოდი GitHub-ზე გამოაქვეყნა, მოდელის წონები, სასწავლო მონაცემები და სკრიპტები კი Hugging Face-ზე.

გადაწყვეტილების მოდელები და LLM-ები

Strands Decider-ი მოდელების ახალ კლასს მიეკუთვნება, რომელსაც ზოგჯერ გადაწყვეტილების მოდელებს ან „სისტემა ერთის“ მოდელებს უწოდებენ. LLM-ებისგან განსხვავებით, რომლებიც თვითნებურ ტექსტს აწარმოებენ, ეს მოდელები ვარიანტების სიმრავლეს შორის ირჩევენ, მაგალითად, ფრაზას ინგლისურ, ზულუს ან ჰოლანდიურ ენად აკლასიფიცირებენ, ან სენტიმენტს 0-დან 1-მდე აფასებენ. მოქნილობის შემცირების სანაცვლოდ ისინი უფრო სწრაფები და მოცემულ ზომაზე უფრო შესაძლებლები არიან, ყოველთვის არჩეული ვარიანტებიდან პასუხს აბრუნებენ და ძალიან დაბალი ლატენტობით მუშაობენ.

კომპრომისი ისაა, რომ ყველა შედეგის ერთ პარალელურ გავლაში გენერირება მათ რთულ პრობლემებზე მსჯელობის მოდელებზე სუსტებს ხდის, ხოლო ტექსტის გენერირების უუნარობა გამორიცხავს კოდირებას, ჩატბოტებსა და დოკუმენტების შეჯამებას. მეორე მხრივ, ყოველ გადაწყვეტილებას თან ახლავს სანდოობის ქულა, რომელსაც წამყვანი LLM ინფერენს API-ები არ გვაძლევენ, და მოდელებს ერთი და იმავე პრომპტის შესახებ მრავალ კითხვაზე პასუხის გაცემა ძალიან ეფექტურად შეუძლიათ.

არქიტექტურა და წარმადობა

მოდელი იწყება წინასწარ გაწვრთნილი Qwen3.5-2B ტორსით, რომელსაც ენის მოდელირების თავი მოხსნილი აქვს, რითაც ტექსტის გენერირების უნარს კარგავს. pointer head-ი, რომლის პარამეტრებიც ერთ მილიონს ოდნავ აღემატება, აფასებს ფარულ მდგომარეობას თითოეული ვარიანტის პოზიციაზე პასუხის პოზიციის ფარულ მდგომარეობასთან მიმართებით, ხოლო ტორსი rank-16 LoRA ადაპტერით fine-tune-დება. გამოშვებული მოდელი მე-19 ვერსიაა; slot head-ის მქონე ადრინდელი არქიტექტურა მნიშვნელოვნად უარესად მუშაობდა, და რეპოზიტორია დოკუმენტურად აღწერს ყოველ ცვლილებას იტერაციების განმავლობაში.

JevBench-ის საჯარო ნაკრებზე Strands Decider 2B 2B კლასში 33 მოდელს შორის სიზუსტითა და Brier-ის ქულით გაზომილი კალიბრაციით მესამე ადგილზეა, ხოლო 30 მოდელს შორის პირველზე, თუ ოდნავ 2B-ზე დიდ მოდელებს გამოვრიცხავთ. გადაწყვეტილების მედიანური ლატენტობა ლოკალურ Nvidia RTX 3090-ზე დაახლოებით 115 მილიწამია, ხოლო M3 MacBook-ზე მცირე ამოცანებისთვის დაახლოებით 153 მილიწამი, და ამოცანის ზომასთან ერთად დაახლოებით წრფივად იზრდება. მოდელი JevBench-ის მარტივ ამოცანებს 100%-ით სწორად პასუხობს.

როგორ დავიწყოთ

ყველაზე მარტივი შესვლის წერტილია strands-decider CLI, რომელიც დგინდება pip install strands-decider-ით. strands-decider ask ბრძანება იღებს მდგომარეობას, კითხვას და არჩევანთა ერთობლიობას, და აბრუნებს ალბათობის ქულებს და ყოველი ვარიანტისთვის სანდოობის მნიშვნელობას. რეპოზიტორია ასევე მოიცავს მაგალითს, სადაც მოდელი Strands agent-ის შიგნით მუშაობს და ამოწმებს, ეფუძნება თუ არა შემოთავაზებული tool call მომხმარებლის შეყვანას და ნაადრევია თუ არა ის, ფრეიმვორკის intervention სისტემის გამოყენებით, რათა გამოძახება დაბლოკოს ან გამართოს სანამ ის შესრულდება.

გუნდის მიერ მოხსენებულ ადრეულ გამოყენებათა შემთხვევებში შედის მოდელების როუტინგი, ინსტრუმენტების შერჩევა, შეფასებები, დამცავი ბარიერები, მეხსიერება, კონტექსტის მართვა და პოლიტიკის კლასიფიკაცია, ისევე როგორც ჰიბრიდული აგენტები, რომლებიც რთული გადაწყვეტილებისთვის LLM-ებს იყენებენ, ხოლო რუტინულისთვის გადაწყვეტილების მოდელებს. Strands-ის გუნდი ამბობს, რომ მუშაობს გადაწყვეტილების მოდელების ინტეგრაციის ბიბლიოთეკებზე.

წყაროები: strandsagents.com