מודלי החלטות בסגנון Jev מצטברים, חוקר טוען שהרעיון היה קיים לפני השקת TypeSafe

הטענה עלתה לאחר ההשקה

מודלי החלטות מבוססי Jev של TypeSafe הפכו במהירות ממוצר אחד לקטגוריה עמוסה. אחרי ההשקה הופיעו Microsoft Decision, Decisions API של OpenAI ו-Fastino Glide, ובעוד Clef של Cloudflare ו-Decider של Perplexity הגיעו עם משקלים פתוחים למשתמשים שיכולים להריצם על חומרה משלהם.

המחלוקת מתגלגלת סביב Nandakishore Mukunnot, מייסד ConvAI Innovations. לטענתו, הארכיטקטורה של Jev נוצרה שנה קודם לכן, והוא הצביע על מאמר ב-ArXiv על SalesRLAgent, שפורסם ב-30 במרץ 2025 יחד עם משקלי המודל וערכות הנתונים. מאוחר יותר פורסם מאמר בספטמבר שמתאים יותר למה שJev עושה.

מה המודלים בעצם עושים

Jev וכלים דומים הם API שמנהלים מודלי החלטות ומיועדים לשימוש בקוד משלך. מפתח יכול להזין נתונים כמו עסקאות קניות מקוונות של המשתמש, יחד עם שאלות, כולל שאלת כן או לא על החזרים ושאלה עם מספר אפשרויות. המודל מחזיר הסתברות לכל תשובה, שאפשר להשתמש בה אחר כך בתנאי if.

השימוש המעשי מתואר כחדש ומקורי, גם אם הקונצפציה אינה חדשה לחלוטין. החיניות היא בכך שהמערכת נמנעת מלייצר טקסט טוקן-טוקן, שיחות, היסטוריית שיחות חוזרת, טעינת קונטקסט גדול והזיות שיחה. לעומת זאת, היא עונת על שאלות במקביל עם הסתברויות, והמקור מתאר אותה כמהירה מאוד וזולה בהרבה מ-LLM סטנדרטיים.

פרויקטים פתוחים שומרים על אותו קצב

TypeSafe הוסיפה ל-Jev תיאור קצר של ארכיטקטורת System One ומוצר אירוח מלא עם שרתים, API, תיעוד, ערכות למפתחים ומחירים. Mukunnot אמר שהעבודה המוקדמת שלו נזנחה כי היא נוצרה למקרה שימוש אנכי, ואילו Jev הפכו למנוע החלטות למטרות כלליות. הוא אמר שלא רצה להישאר מובס ושחרר באותו יום כמעט את Laya בקוד פתוח.

Laya מוצגת כמודל וממשק בסגנון Jev, שיכולים לרוץ על חומרה מקומית ולתמוך בשפות רבות. בשונה מממשיכים שמבוססים על Qwen בקוד פתוח של Alibaba ומוסיפים שכבות לקלט, פלט וקבלת החלטות, Laya משתמשת במודלים המבוססים רק על מקודדים ממשפחת BERT. המקור מציין שהופעתן המהירה של אלטרנטיבות מקלה על הרעיון שחלקן אולי שיכפלו לפחות כמה פרטים קטנים מהעבודה שלו.

מקורות: Tomshardware