Strands Agents שיחררה את Strands Decider 2B, מודל פתרונות בקוד פתוח

Strands Agents שיחררה את Strands Decider 2B, מודל פתרונות בקוד פתוח קטן, שנוצר עבור ניסויים מהירים ם פיתוח מקומי. מודל עם 2 מיליארד פרמטרים יכול לענות על שאלות משמעותיות במאיות על חומרה נפוצה, והצוות פרסם את הקוד ב-GitHub, ואת משקלי המודל, נתוני הלימוד והסקריפטים ב-Hugging Face.

מודלי פתרונות ו-LLM

Strands Decider שייך למחלקה חדשה של מודלים, שלעיתים מכנים מודלי החלטה או מודלי "מערכת אחת". בניגוד ל-LLM, שמייצרים טקסט ספונטני, מודלים אלה בוחרים בין מקבץ אפשרויות, למשל, מסווגים משפט לאנגלית, זולו או הולנדית, או מעריכים סנטימנט בקנה מידה 0 עד 1. כמחיר לגמישות מופחתת הם מהירים יותר ומסוגלים יותר בגודל נתון, תמיד מחזירים תשובה מבין האפשרויות הנבחרות ופועלים בהשהיה נמוכה מאוד.

הפשרה היא שייצור כל התוצאות במעבר מקבילי אחד הופך אותם לחלשים יותר בבעיות סיבוכיות בהשוואה למודלי חשיבה, ואי יכולתם לייצר טקסט שוללת תכנות, צ'אטבוטים וסיכום מסמכים. מצד שני, כל החלטה מלווה בציון ביטחון, ש-LLM API מובילים לא מספקים, ולמודלים יכולת יעילה מאוד לענות על מספר שאלות על אותו prompt.

ארכיטקטורה וביצועים

המודל מתחיל עם שלד Qwen3.5-2B מאומן מראש, שראש מודל השפה שלו הוסר, ובכך מאבד את יכולת ייצור הטקסט. ראש מצביע, שפרמטריו מעט יותר ממיליון, מעריך את המצב החבוי במיקום כל אפשרות ביחס למצב החבוי במיקום התשובה, והשלד מכוון עם מתאם LoRA בדרגה 16. המודל ששוחרר הוא גרסה 19; ארכיטקטורה מוקדמת עם ראש סלוט פעלה בצורה גרועה בהרבה, והמאגר מתעד כל שינוי לאורך האיטרציות.

במערך הציבורי של JevBench, Strands Decider 2B מדורג במקום השלישי בדיוק ובקליברציה לפי ציון Brier בין 33 מודלים במחלקת 2B, ובמקום הראשון בין 30 מודלים אם לא כוללים מודלים גדולים מעט מ-2B. השהיה החלטתית הממוצעת על Nvidia RTX 3090 מקומית היא כ-115 מילישניות, ועל M3 MacBook למשימות קטנות כ-153 מילישניות, והיא גדלה בערך בצורה ליניארית עם גודל המשימה. המודל עונה נכון ב-100% על משימות הפשוטות של JevBench.

איך להתחיל

נקודת הכניסה הפשוטה ביותר היא CLI של strands-decider, שמותקן עם pip install strands-decider. פקודת strands-decider ask מקבלת מצב, שאלה וקבוצת אפשרויות, ומחזירה ציוני הסתברות וערכי ביטחון עבור כל אפשרות. המאגר כולל גם דוגמה שבה המודל פועל בתוך סוכן Strands ובודק אם קריאת כלי מוצעת תואמת את קלט המשתמש ואם היא הזוית, באמצעות מערכת ההתערבות של הפריימוורק, כדי לחסום או לתקן את הקריאה לפני שהיא מתבצעת.

במקרי השימוש המוקדמים שהצוות מציין נכללים ניתוב מודלים, בחירת כלים, הערכות, חסמי הגנה, זיכרון, ניהול הקשר וסיווג מדיניות, וכן סוכנים היברידיים המשתמשים ב-LLM להחלטות מורכבות ובמודלי החלטה למשימות שגרתיות. צוות Strands מצהיר שעובד על ספריות לשילוב מודלי החלטה.

מקורות: strandsagents.com