MaixStation מ-Sipeed עם Axera AX8860P מתחרה ב-DGX Spark וב-Ryzen AI Halo

החומרה של MaixStation

Sipeed הציגה את MaixStation כמתחרה הסיני של מערכות Nvidia DGX Spark ו-AMD Ryzen AI Halo. היא בנויה על AX8860P של Axera, שבב 6nm עם 16 ליבות Arm Cortex-A55 ו-NPU פנימי המספק 256 TOPS ב-FP4 טבעי ללא דחיסה.

דגם 128GB משתמש ב-LPDDR5X על אוטובוס 256-סיביות במהירות 273 GB/s, ובכך שווה בקיבולת ל-DGX Spark ול-192GB של Ryzen AI Max+ PRO 495. Sipeed מציינת גם את MaixStation Pro עם 512GB. המארג בגודל כ-11 x 11 x 3 ס"מ, צורך כ-40 ואט בשימוש טיפוסי ומוזן ב-USB-C. בין הפורטים: 10G SFP+, USB-C, חריץ M.2 2280 ל-PCIe 5.0 SSD ומחבר MCIO 8i לחיבור יחידות נוספות.

ביצועים וחיבוריות בין צמתים

לטענת Sipeed, MaixStation מהיר ב-25% ב-prefill וב-30% ב-decode בהרצת מודל 27B Qwen מאשר DGX Spark. בהתכתבות בדוא"ל עם Tom's Hardware Premium החברה העריכה יתרון של כ-10% בשני המקרים, כאשר FP4 היה מופעל בכל מכונה ופענוח ספקולטיבי כיבוי, וציינה כי בדיקות חדשות עם יתרון גדול יותר עדיין לא רשמיות.

החברה טוענת כי המדד של 1 PFLOP FP4 של Spark מבוסס על דחיסה וכי מדד 1000 TOPS הוא מדוחס. המדד הצפוף של Nvidia הוא כ-500 TFLOPS, שעדיין גבוה פי כפולה מ-250 TOPS של AX8860P. לחיבוריות, Sipeed מצהירה כי MaixStation משתמש בקישור שבב-לשבב של 256 Gbps, שיכול לגדול ל-384 Gbps, ותומך בעד שמונה צמתים ללא מתג חיצוני בתצורות של אחד, שניים, ארבעה וכרטיסי PCIe. אילו הנתונים של Nvidia מציינים כי חיבור של ארבעה Spark דורש מתג חיצוני.

תוכנה, מחיר וזמינות

MaixStation מגיע עם Debian 13 ו-Linux 6.18. Sipeed מכריזה על תמיכה ב-vLLM, SGLang ו-PyTorch, ואילו Axera מוסיפה ONNX, פורמטים של מודלי Hugging Face ו-API תואם OpenAI. בסוף אוקטובר תשוחרר AXDSL, שפת תכנות ליבות, וכן קוד המקור של Pulsar2; לטענת Sipeed, SGLang ו-vLLM פועלים על backend מותאם אישית שנבנה עבורו, ומודלי Hugging Face נטענים ללא שלב המרה.

לפי הערכות Sipeed, דגם 128GB יעלה כ-3,999 דולר עם הנחות בהשקה ב-Kickstarter. זה מציב אותו ברמת 128GB של Ryzen AI Halo ומתחת למחיר של 6,950 דולר של DGX Spark. הרישום פתוח עד סוף השנה לקמפיין Kickstarter המתוכנן, והמשלוחים של המכשירים צפויים כושלושה חודשים לאחר סיומו. לטענת Sipeed, היא השתמשה במחירי DRAM נוכחיים ולא במלאי שנרכש בשנה שעברה, וציינה שרוכשים יכולים להתקין SSD סטנדרטי M.2 2280 משלהם.

מקורות: Tom's Hardware