Apertus 1.5 מוסיף למודלים הפתוחים 8B ו-70B תפיסה מולטימודלית והקשר ארוך יותר

שיפורים עיקריים

Apertus 1.5 מוסיף למודלים הפתוחים 8B ו-70B תפיסה מולטימודלית טבעית, הכוללת קבלת תמונות ושמע לצד טקסט. למודלים יש מצב חשיבה אופציונלי, חלון הקשר ארוך פי 4 עם 262 144 טוקנים, ביצוע הוראות משופר ושימוש טוב יותר בכלים. משקלי המודל פורסמו ב-Hugging Face ב-24 ביולי 2026 תחת רישיון Apache 2.0.

המולטימודליות מוטמעת באמצעות שילוב מוקדם: תמונות מקודדות באמצעות המקודד של Emu3.5, שמע – באמצעות WavTokenizer, והטקסט נכנס לאותו רצף כטוקנים בדידים. המודלים מבינים תמונות ושמע, אך מייצרים רק טקסט.

תהליך הלמידה

המודלים עברו אימון מקדים מוארך עם תוספת של 4 טריליון טוקנים עבור 8B ו-2 טריליון עבור 70B, ובכך הסתכמו המדדים הכוללים ב-19 ו-17 טריליון. האימון המקדים נערך בארבעה שלבים: לא מזווג (טקסט, תמונות, שמע), מזווג (זוגות תמונה-כיתוב ושמע-תמליל), כיוונון עדין (נתונים באיכות גבוהה יותר עם מתמטיקה וקוד) והרחבת ההקשר מ-8k עד 262k טוקנים. יותר ממחצית מטוקני הלמידה שוב הם טקסט בלבד, מה ששומר על היכולות הלשוניות של Apertus 1.0.

שלב הלמידה המאוחר והכיוונון

שלב הלמידה המאוחר נערך בחמישה חלקים: SFT על 3.7 מיליון דוגמאות טקסטואליים, בנוסף לנתוני תמונות ודיבור; SFT להקשר ארוך עם חלון מלא של 262k; RL עם פרסים ניתנים לאימות על כ-350k פרומפטים; DPO עם זוגות המוערכים על ידי שופט; ו-SDPO להתאמה עם Cart. עקבות חשיבה נוספו רק לפרומפטים שהמודל לא הצליח לפתור ללא אלה. נתוני שימוש בכלים הוגבלו למסלולים שאומתו על ידי ביצועים בלבד. נקודות ביקורת ובחירות הנתונים זמינים לציבור ב-Hugging Face.

הערכה ושחזור

ההערכה הורחבה בבנצ'מרקים מולטימודליים ובמצב חשיבה. Apertus 1.5 8B עולה על מודלים פתוחים בעלי משקל דומה בביצוע הוראות ובמשימות רב-לשוניות, וכן תחרותי בהערכות מולטימודליות בהבנת טקסט ובהבנת מסמכים. הפרויקט משתף פעולה עם EvalEval Coalition ומפרסם תוצאות באמצעות סכמת Every Eval Ever, שבה מתועדים תנאי ההרצה ופרמטרי הדגימה לשקיפות מלאה.

המודלים זמינים אצל ספקים כמו Swisscom, Infomaniak ו-Phoeniqs, וב-Hugging Face הם עברו את סף חמישה מיליון ההורדות. בסאמיט AI+X בציריך הצוות הכריז על תוכניתו של Apertus 2.0, שמטרתו ארכיטקטורת sparse/MoE עם כ-600B פרמטרים כוללים, ובעדיפויותיו סוכנים, מתמטיקה וקידוד.

מקורות: Hugging Face Blog