PrismML משחררת את Bonsai Image 4B — יצירת תמונות מקומית במשקלים של 1 ביט

חברת PrismML השיקה את Bonsai Image 4B — משפחה של מודלים קומפקטיים ליצירת תמונות, שנועדו לפעול מקומית על חומרה אישית, ממחשבים ניידים ועד טלפונים. המודל מוצע בשתי גרסאות: Bonsai Image 4B בגרסת 1 ביט משתמשת במשקלים בינאריים {−1, +1} עם מקדם כיול קבוצתי ב-FP16, והגרסה הטרנרית מוסיפה מצב אפס — {−1, 0, +1}.

מה משתנה בין שתי הגרסאות

הגרסה הבינארית מגיעה ל-1.125 ביט אפקטיבי לכל משקל ומכוונת לדחיסה מרבית, כשהאילוצים המרכזיים הם זיכרון, רוחב פס ונפח פריסה. הגרסה הטרנרית מגיעה ל-1.71 ביט אפקטיבי; מצב האפס הנוסף מעניק חופש ייצוג גדול יותר ומשפר את האיכות החזותית ואת נאמנות המודל לפרומפט. שתי הגרסאות מבוססות על FLUX.2 Klein 4B: הארכיטקטורה לא שונתה, ורק אופן הייצוג של משקלי הטרנספורמר השתנה.

זיכרון ונפח פריסה

במודל תמונות בסדר גודל של 4B, הטרנספורמר הדיפוזיוני הוא החלק הגדול ביותר והוא רץ שוב ושוב במהלך היצירה — כל שלב דה-נויזינג מפעיל אותו מחדש. בדיוק מלא תופס הטרנספורמר של FLUX.2 Klein 4B כ-7.75 ג'יגה-בייט. Bonsai מקטינה אותו ל-0.93 ג'יגה-בייט בגרסת 1 ביט — פי 8.3 — ול-1.21 ג'יגה-בייט בגרסה הטרנרית, פי 6.4. חלק קטן של טנסורים רגישים לדיוק, כ-5%, נשאר ב-FP16. יחד עם מקודד טקסט דחוס ו-VAE ב-FP16, נפח הפריסה על Apple Silicon עומד על 3.42 ו-3.88 ג'יגה-בייט, לעומת 15.97 בדיוק מלא.

לתמונה בגודל 512x512 צורכות הגרסאות הבינארית והטרנרית בממוצע 1.5 ו-1.96 ג'יגה-בייט זיכרון פעיל, לעומת 11.74 במודל המקורי; ב-1024x1024 — 1.95 ו-2.38 ג'יגה-בייט לעומת 14.39. ערימת הפריסה תומכת ב-iPhone, iPad ו-Mac עם Apple Silicon דרך מסלולי סיביות נמוכות של MLX, ובכרטיסי CUDA דרך ליבות GEMM של Gemlite.

מהירות ובנצ'מרקים

ב-iPhone 17 Pro Max, שבו הצינור בדיוק מלא אינו נכנס לתקציב הזיכרון של המכשיר, מייצרת Bonsai תמונת 512x512 תוך 9.4 שניות; ב-Mac M4 Pro זה נמשך כשש שניות, עד פי 5.6 מהר יותר מצינור MFLUX הסטנדרטי. PrismML בחנה את המודלים ב-GenEval, HPSv3 ו-DPG-Bench: הגרסה הטרנרית שומרת על 95% מהדיוק של FLUX.2 Klein 4B תוך הקטנת הטרנספורמר פי 6.4, וגרסת 1 ביט על 88% כשהטרנספורמר מתחת לג'יגה-בייט.

זמינות

שתי הגרסאות ישוחררו עם משקלים וקוד פתוחים ברישיון Apache 2.0, לצד Bonsai Studio — אפליקציית iOS להרצת המודל ישירות על iPhone. לדברי PrismML, זהו מודל התמונות הראשון בסדר הגודל הזה שרץ ישירות על iPhone. החברה צמחה מצוות חוקרים ב-Caltech והוקמה בתמיכת Khosla Ventures, Cerberus ו-Google.