Sipeed MaixStation на Axera AX8860P конкурує з DGX Spark та Ryzen AI Halo

Апаратне забезпечення MaixStation

Sipeed представила MaixStation як конкурента систем класу Nvidia DGX Spark та AMD Ryzen AI Halo китайського виробництва. Вона побудована на Axera AX8860P, 6-нм чіпі з 16 ядрами Arm Cortex-A55 та вбудованим NPU, який забезпечує 256 TOPS у нативному FP4 без розрідження.

Модель на 128GB використовує LPDDR5X на 256-бітній шині зі швидкістю 273 GB/s, що за пропускною здатністю дорівнює DGX Spark та 192GB Ryzen AI Max+ PRO 495. Sipeed також згадує MaixStation Pro об'ємом 512GB. Корпус має розміри приблизно 11 x 11 x 3 см, у типовому використанні споживає близько 40 Вт і живиться через USB-C. Серед портів — 10G SFP+, USB-C, слот M.2 2280 для PCIe 5,0 SSD і конектор MCIO 8i для підключення інших модулів.

Продуктивність і об'єднання вузлів

За твердженням Sipeed, під час запуску моделі 27B Qwen MaixStation на 25% швидша на етапі prefill і на 30% швидша на етапі decode, ніж DGX Spark. У листі до Tom's Hardware Premium компанія оцінила перевагу в обох випадках приблизно в 10%, коли на кожній машині було увімкнено FP4, а спекулятивне декодування вимкнено, і зазначила, що нові тести з більшою перевагою поки що неофіційні.

Компанія стверджує, що показник Spark у 1 PFLOP FP4 спирається на розрідження, а показник у 1000 TOPS назвала фейковим розрідженням. Точний показник Nvidia становить приблизно 500 TFLOPS, що все одно приблизно вдвічі перевищує 256 TOPS AX8860P. Щодо об'єднання Sipeed каже, що MaixStation використовує з'єднання від чіпа до чіпа на 256 Gbps, яке зростає до 384 Gbps, і підтримує до восьми вузлів без додаткового комутатора в конфігураціях із одним, двома, чотирма пристроями та картою PCIe. Таблиця даних Nvidia каже, що для з'єднання чотирьох Spark потрібен зовнішній комутатор.

Програмне забезпечення, ціна та доступність

MaixStation постачається з Debian 13 і Linux 6,18. Sipeed заявляє про підтримку vLLM, SGLang та PyTorch, а Axera додає ONNX, формати моделей Hugging Face та API, сумісний із OpenAI. Наприкінці жовтня буде випущено AXDSL, мову програмування ядер, а також вихідний код Pulsar2; за словами Sipeed, SGLang і vLLM працюють на власному backend, створеному для нього, а моделі Hugging Face запускаються без етапу конвертації.

За очікуваннями Sipeed, модель на 128GB коштуватиме близько 3 999 доларів, зі знижками за запуску на Kickstarter. Це ставить її на рівень 128GB Ryzen AI Halo і нижче за ціну DGX Spark у 6 950 доларів. Реєстрація відкрита до запланованої наприкінці року кампанії на Kickstarter, а доставка пристроїв, очікується, через три місяці після її завершення. За словами Sipeed, вона використала поточні ціни на DRAM, а не запас, куплений минулого року, і зазначила, що продавці можуть встановити власний стандартний M.2 2280 SSD.

Джерела: Tom's Hardware