Jev ב-25 שורות Python: פארודיה שמטילה ספק בטענות של TypeSafe

ב-22 בספטמבר פרסם Duarte O.Carmo מהפרויקט בקוד פתוח NobodyWho את הפוסט "Jev ב-25 שורות Python", שמשחזר את ההתנהגות המרכזית של Jev — מודל ההחלטות ש-TypeSafe AI הציגה ב-14 בספטמבר — במודל מקומי קטן ובכ-25 שורות קוד. הפוסט מסומן בגלוי כפארודיה, והוא הפך לנקודת התייחסות בוויכוח המקוון על השאלה כמה מהיתרון של Jev נובע מארכיטקטורה וכמה מאימון.

מה הציגה TypeSafe

TypeSafe AI, שנוסדה על ידי חוקר OpenAI לשעבר Diogo Almeida, יצאה ב-14 בספטמבר משנתיים של חשאיות עם Jev — הראשון מבין מה שהיא מכנה מודלי System One. Jev אינו מייצר טקסט טוקן אחר טוקן: הוא מקבל מצב לא־מובנה ושאלות מטיפוסים מוגדרים, ומחזיר תשובות מובנות עם הסתברויות מכויילות וציוני ביטחון. החברה מאמנת אותו בשיטה בשם Reinforcement Learning for Calibrated Decisions (RLCD) וטוענת שהוא מהיר וזול בשני סדרי גודל לעומת מודלי שפה דומים: 70–500 מילישניות לתשובה לעומת 3–329 שניות במודלים חזיתיים, 0.042 דולר למיליון טוקני קלט, והפלט בחינם. מכיוון שהתשובות האפשריות מוגדרות מראש, לפי TypeSafe, Jev לא יכול לבצע שגיאות טיפוס או להזות. שם System One נגזר מ"חשיבה מהירה" של דניאל כהנמן, והמודל עצמו נקרא על שם הכלכלן ויליאם סטנלי ג'בונס.

מה אפשר לעשות ב-25 שורות

הפוסט של NobodyWho טוען את Qwen3-0.6B — מודל פתוח עם 0.6 מיליארד פרמטרים — דרך llama-cpp-python, מזין לו הודעת פישינג של מחלקת השכר עם שלוש תשובות מסומנות, קורא את הלוגיטים של הטוקנים "A", "B" ו-"C", וממיר אותם להסתברויות בעזרת log-softmax: Legitimate 3.1%, Spam 8.4%, Phishing 88.5%. בלי קריאה ל-API, בלי reinforcement learning, בלי נתונים סינתטיים — והנתונים לא עוזבים את המחשב. המחבר מציין שזהו פוסט פארודיה ומפנה למימושים פתוחים: OpenJev, openjev-sglang וגרסת OpenJev על DiffusionGemma.

למה זה חשוב

הפוסט חצה 450 נקודות ב-Hacker News לא מפני שהוא מפריך את Jev, אלא מפני שהוא מבודד את תחבולת האינפרנס: קריאת ההסתברויות של כמה טוקני תווית במקום דגימת טקסט. Arcturus Labs העלתה תצפית דומה ב-16 בספטמבר — מודל שפה שעבר כיוונון עדין ושקוראים ישירות את הלוג־הסתברויות שלו על טוקני התווית משחזר חלק ניכר מהתנהגות Jev, גישה שהניתוח מייחס למפתח Harsha Gundala. עם זאת, השאלות הקשות נשארות פתוחות. Jev עונה על שאלות רבות במעבר מקבילי אחד, בעוד הגרסה בת 25 השורות עונה רק על אחת, וטענות הכיול נשענות על RLCD, שהניתוח מצביע עליו כעל הרכיב ש-TypeSafe טרם הסבירה. דיוק במשימות עולם אמיתי טרם הוכח.