טנסנט משחררת בקוד פתוח את Hy4 preview: 770 מיליארד פרמטרים והקשר של מיליון טוקנים

טנסנט שחררה ב־28 באוגוסט ובקוד פתוח את Tencent Hy4 preview — מודל שפה מהדור הבא עם 770 מיליארד פרמטרים בסך הכול, 49 מיליארד פרמטרים פעילים וחלון הקשר של יותר ממיליון טוקנים. לפי החברה, המודל נבנה למשימות פרודוקטיביות בעולם האמיתי: כתיבת קוד, עבודה משרדית ומחקר מדעי.

זמינות ומחירים

Hy4 preview זמין כמודל בקוד פתוח, וכן גלובלית דרך WorkBuddy, CodeBuddy,‏ Yuanbao,‏ ima ומוצרים אחרים של טנסנט, וחיבור ב־API אפשרי דרך Tencent Cloud TokenHub ו־OpenRouter. עם ההשקה הוא חינמי ב־WorkBuddy וב־CodeBuddy לשבועיים, והגישה החינמית ל־Hy3 בשתי הפלטפורמות הוארכה עד 30 בספטמבר. מחירי ה־API: 0.834 דולר למיליון טוקנים בקלט, 2.501 דולר למיליון טוקנים בפלט ו־0.042 דולר למיליון טוקנים בפגיעת מטמון.

הערכה פנימית ויכולות

בהערכה עיוורת פנימית של טנסנט, שבה השתתפו 163 מומחים ו־203 משימות הנדסיות, קיבל Hy4 preview ציון ממוצע של 2.99 מתוך 4.00 — מעט מעל GLM-5.3 ‏(2.92) ו־Kimi K3 ‏(2.94). המודל אומן על נתונים איכותיים שנוצרו עם מומחי החברה בהנדסת תוכנה, גיימינג, פיננסים ואבטחה. בהנדסת תוכנה הוא משפר הבנה, תכנון, דיבוג ואימות במשימות פיתוח בהקשר ארוך, וגם את האיכות החזותית של פרונטאנד; בעבודה משרדית ואנליטית הוא מחזק ניתוח פיננסי ושיתוף פעולה בין מסמכים, כולל יצירת מסמכים, גיליונות אלקטרוניים ומצגות; בפיתוח משחקים הוא יוצר אב-טיפוס שאפשר לשחק בו מבקשה אחת בשפה טבעית; ובמחקר נרשמו שיפורים במחקר ופיתוח של בינה מלאכותית, בסימולציית דינמיקה מולקולרית, בפיזיקה של חומר מעובה ובמתמטיקה בסיסית.

שיפור עצמי ותשתית

פרט בולט: Hy4 preview השתתף לראשונה בתהליך הפיתוח של עצמו — באופטימיזציה אוטומטית של שיטות אימון, אסטרטגיות נתונים, מסגרות הערכה ואופרטורים ברמה נמוכה. הוא הציע גישות, הריץ ניסויים וחזר על התוצאות, וקוד, לוגים ומשוב הזינו סבבים נוספים — מה שהחברה מכנה לולאת שיפור עצמי רקורסיבית בשלב מוקדם. המודל גם ניתח בעצמו צווארי בקבוק במערכת ההסקה שלו וביצע כמה סבבי אופטימיזציה של איחוד אופרטורים ותקשורת, שהעלו את התפוקה מקצה לקצה ב־31.8% לעומת הבסיס, עם שיפור עקבי באורכי הקשר ובעומסים שונים. בחברה אומרים שדור המודלים הבא בסדרת Hy4 יגיע בקרוב.