Sipeed'in Axera AX8860P'li MaixStation'ı, DGX Spark'ı ve Ryzen AI Halo'ya rakip

MaixStation donanımı

Sipeed, MaixStation'ı Nvidia'nın DGX Spark'ı ve AMD'nin Ryzen AI Halo sınıfı sistemlerine Çinli üretimden bir rakip olarak sundu. Cihaz, Axera'nın AX8860P'siyle 6 nm çip üzerinde 16 Arm Cortex-A55 çekirdeği ve doğal FP4'te kuantizasyon olmadan 256 TOPS üreten bir iç NPU içeriyor.

128GB modeli, 273 GB/s hızında 256 bitlik veriyolunu kullanan LPDDR5X'i bağlar; bant genişliği bakımından DGX Spark ve 192GB Ryzen AI Max+ PRO 495 ile eşitlenir. Sipeed ayrıca 512GB'lık MaixStation Pro'yu duyurdu. Gövde yaklaşık 11 x 11 x 3 cm, tipik kullanımda yaklaşık 40 W güç tüketir ve USB-C ile beslenir. Portlar arasında 10G SFP+, USB-C, PCIe 5,0 SSD için M.2 2280 yuvası ve başka bir birimi bağlamak için MCIO 8i konektörü vardır.

Performans ve düğüm bağlantısı

Sipeed'e göre MaixStation, 27B Qwen modelini çalıştırırken prefill'de %25 ve decode'de %30 daha hızlıdır; Tom's Hardware Premium ile e-posta yoluyla şirket, her iki makinede FP4 açık ve spekülatif kod çözme kapalıyken avantajı her iki durumda da yaklaşık %10 olarak değerlendirdi ve daha büyük fark gösteren yeni testlerin henüz resmi olmadığını söyledi.

Şirket, Spark'ın 1 PFLOP FP4 göstergesinin kuantizasyona dayandığını, 1000 TOPS göstergesinin ise sahte bir kuantizasyon olduğunu iddia ediyor. Nvidia'nın kesin göstergesi yaklaşık 500 TFLOPS'tur; bu bile AX8860P'nin 256 TOPS'inden yaklaşık iki kat daha fazladır. Bağlantı için Sipeed, MaixStation'ın çip-çip bağlantısını 256 Gbps'ten 384 Gbps'ye kadar çalıştırdığını ve ek anahtar olmadan bir, iki, dört ve PCIe kartı yapılandırmalarında sekiz düğüme kadar destek verdiğini belirtiyor. Nvidia'nın veri sayfası, dört Spark'ın bağlanması için harici anahtar gerektiğini söylüyor.

Yazılım, fiyat ve kullanılabilirlik

MaixStation, Debian 13 ve Linux 6,18 ile birlikte gelir. Sipeed, vLLM, SGLang ve PyTorch desteğini duyururken Axera; ONNX, Hugging Face model formatları ve OpenAI uyumlu bir API ekler. Ekim sonunda, çekirdek programlama dili AXDSL ve ayrıca Pulsar2 kaynak kodu yayımlanacak; Sipeed'e göre SGLang ve vLLM, üzerine özel bir backend inşa edilmiş biçimde çalışırken Hugging Face modelleri dönüştürme adımı olmadan yüklenecek.

Sipeed'in tahminine göre 128GB modeli, Kickstarter'taki lansman indirimleriyle yaklaşık 3 999 dolara mal olacak; bu onu 128GB Ryzen AI Halo seviyesine ve DGX Spark'ın 6 950 dolar fiyatının altına yerleştiriyor. Kayıt, yıl sonunda planlanan Kickstarter kampanyasına kadar açık; cihazların kampanya bitiminden üç ay sonra sevkiyat yapılması bekleniyor. Sipeed'e göre şirket, geçen yıl satın alınmış stok yerine DRAM'in güncel fiyatlarını kullandı ve satıcıların kendi standart M.2 2280 SSD'lerini takabileceklerini belirtti.

Kaynaklar: Tom's Hardware