Sipeed-ի MaixStation Axera AX8860P-ով մրցանում է DGX Spark-ի և Ryzen AI Halo-ի հետ

MaixStation-ի սարքավորումը

Sipeed-ը ներկայացրեց MaixStation-ը որպես Չինաստանի արտադրության մրցող Nvidia-ի DGX Spark-ի և AMD-ի Ryzen AI Halo դասի համակարգերի համար։ Այն հիմնված է Axera-ի AX8860P-ի վրա՝ 6 նմ չիպ՝ 16 Arm Cortex-A55 միջոցով և ներկառուցված NPU-ով, որը բնականորեն FP4-ում հասնում է 256 TOPS-ի առանց դժվարության։

128GB մոդելը օգտագործում է LPDDR5X-ը 256-բիթային ուղուղիով՝ 273 GB/s արագությամբ, ինչը իր թողունակությունը հասնում է DGX Spark-ի և 192GB Ryzen AI Max+ PRO 495-ի մակարդակին։ Sipeed-ը նաև նշում է MaixStation Pro-ը 512GB-ով, իսկ կապուտակը մոտ 11 x 11 x 3 սմ է, սովորական օգտագործման ժամանակ՝ մոտ 40 Վտ և սնվում է USB-C-ով։ Միացուքների թվում են 10G SFP+, USB-C, M.2 2280 սլոթը PCIe 5.0 SSD-ի համար և MCIO 8i կապուտակը՝ այլ միավոր միացնելու համար։

Արդյունավետություն և կապեր

Sipeed-ի տվյալով, MaixStation-ը 27B Qwen մոդելը գործարկելիս prefill-ում 25%-ով, իսկ decode-ում 30%-ով արագ է, քան DGX Spark-ը։ Նամակով Tom's Hardware Premium-ին ընկերությունը գնահատեց առավելությունը մոտ 10%-ով երկու դեպքում, երբ FP4-ն միացված էր և սպեկուլյատիվ դեկոդավորումը անջատված էր, այնուհետև ասաց, որ ավելի մեծ առավելությամբ նոր թեստերը դեռ ոչ պաշտոնական են։

Ընկերությունը հաստատում է, որ Spark-ի 1 PFLOP FP4 ցուցանիշը հիմնվում է թուլության վրա, իսկ 1000 TOPS-ի ցուցանիշը՝ կեղծ թուլությամբ է։ Nvidia-ի տվյալներում պատկերը մոտ 500 TFLOPS է, ինչը դեռ մոտավորապես երկկիս է AX8860P-ի 256 TOPS-ից։ Կապի համար Sipeed-ը ասում է, որ MaixStation-ը օգտագործում է 256 Gbps չիպից-չիպ կապ, որը աճում է 384 Gbps-ի և աջակցում է ութ հանգույցները՝ առանց ավելորդ սվիչի՝ մեկի, երկու, չորսի և PCIe քարտի կազմաձևումներում։ Nvidia-ի տվյալների փաստաթուղթը ասում է, որ չորս Spark-ի միացման համար անհրաժեշտ է արտաքին սվիչ։

Ծրագրական ապահովում, գին և հասանելիություն

MaixStation-ը ուղեկցվում է Debian 13-ով և Linux 6,18-ով։ Sipeed-ը հայտարարում է vLLM, SGLang և PyTorch աջակցությունը, իսկ Axera-ը ավելացնում է ONNX, Hugging Face մոդելի ձևաչափերը և OpenAI-ի հետ համատեղելի API-ն։ Հոկտեմբերի վերջին կթողարկվի AXDSL՝ մոդուլների ծրագրավորման լեզուն, իսկ Pulsar2-ի կոդի աղբյուրը՝ Sipeed-ի տեսակով SGLang-ը և vLLM-ը աշխատում են դրա հիմքի վրա հատուկ backend-ում, իսկ Hugging Face մոդելները գործարկվում են առանց փոխակերպման փուլի։

Sipeed-ի գնահատականով 128GB մոդելը կարժե մոտ 3999 դոլար Kickstarter-ի թողարկման զեղչերով։ Այն սահմանում է 128GB Ryzen AI Halo-ի մակարդակը և ավելի էժան է, քան DGX Spark-ի 6950 դոլարը։ Գրանցումը բաց է մինչև տարվա վերջի նախատեսված Kickstarter կամպանիան, իսկ սարքերի առաքումը կլինի դրա ավարտից երեք ամիս հետո։ Sipeed-ը ասում է, որ նա օգտագործել է DRAM-ի ընթացիկ գները՝ ոչ թե նախորդ տարվա գնով գնված պահեստը, և նշում է, որ վաճառողները կարող են կցել իրենց սեփական ստանդարտային M.2 2280 SSD։

Աղբյուրներ: Tom's Hardware