Geri qayıt

Edge0 145B cihazdaxili AI modelini açıq mənbə kimi yayımladı
SiTech AI Team3 dəq oxu

Edge0 145B cihazdaxili AI modelini açıq mənbə kimi yayımladı

Edge0, Edge0-145B və Edge0-120B modellərini vahid inference framework ilə açıq mənbə edib; 145B parametr, 29GB pik yaddaş, 80+ token/s dekod və adı çəkilən bulud modelləri ilə rəqabətli benchmark nəticələri bildirilir.

Edge0, Edge0-145B və Edge0-120B modellərini vahid inference framework və deployment vasitələri ilə birlikdə açıq mənbə edib. Edge0-145B 145 milyard parametrli ilk açıq mənbə on-device AI modeli kimi təsvir olunur və frontier bulud modelləri ilə rəqabət aparan kodlaşdırma, məntiqi nəticə çıxarma və agent imkanları gətirir. Şirkət bildirir ki, model uyğun laptopda lokal olaraq 29GB pik yaddaşla işləyə və saniyədə 80-dən çox token dekod edə bilər.

Lokal performans və dizayn

Edge0-145B-nin 29GB pik yaddaş istifadə etdiyi, promptları 1,100+ token/s sürətində emal etdiyi, 80+ token/s sürətində generasiya etdiyi, təxminən 120W tipik enerji istehlak etdiyi və 128K-dan 256K-a qədər konteksti dəstəklədiyi bildirilir. Dizaynı 64 seyrək ekspert qrupu arasında böyük matrisləri paylaşdırır, ona görə hər inference addımında 145B parametrin yalnız təxminən 10B-i iştirak edir. Aktiv ekspertlər GPU yaddaşında qalır, təxminən 40GB-lıq ekspert kitabxanası sistem yaddaşında yerləşir və təxminən 48GB lüğət veriləri SSD-də saxlanılır. CPU və GPU paralel işləyir, speculative decoding bir neçə namizəd tokeni eyni anda yoxlayır. Daha əvvəlki telefon modeli olan Edge0-35B iPhone 18 Pro Max-da 2.5GB-dan az pik yaddaş və 37+ token/s bildirmişdir; bu ölçmələr fərqli model və aparat üçün tətbiq olunur.

Benchmarklar, yaddaş və lokal iş axınları

Edge0-145B DeepSWE 1.1-də 64.6, Terminal-Bench 2.1-də 86.52, HLE-də 35.4, GPQA-Diamond-da 90.4, IFBench-də 80.6 və AA-LCR-də 79.3 bal toplayır. O, ölçülən 29GB pik yaddaşla bu altı benchmark üzrə orta hesabla 72.8 bal toplayır; müqayisə üçün Qwen3.8-Flash-Next 71.7, standart 4-bit deployment üçün təxmini 70GB yer tutumu göstərilir. Qwen3.8-27B ilə müqayisədə artımlar Terminal-Bench üzrə 18.5%, DeepSWE üzrə 53.1%, həmçinin HLE üzrə 14.9%, GPQA üzrə 1.3% və IFBench üzrə 1.4% təşkil edir. Model plan qura, kod yaza və işlədə, xətaları debug edə və nəticələri vizual yoxlaya bilər. Demonstrasiyalara bir saat ərzində Roadster izahedici videosu, bir saat ərzində Blender-də Manhattan 3D səhnəsi, 20 saniyəlik orta əsr şəhəri uçuşu, dron naviqasiya proqramı və montaj animasiyası ilə PCB dizaynı daxildir. Şirkət bildirir ki, Manhattan miqyaslı səhnəni əl ilə hazırlamaq təxminən $12,000-18,000 xərc tələb edər və ən azı bir ay çəkər, aparıcı bulud modeli isə bulud token xərcləri üzrə $150-dən çox xərc yaradardı. Lokal inference uyğun bulud-model token və ya API haqlarını yaratmır, lakin aparat və elektrik enerjisi hələ də xərc tələb edir.

Platforma, portfolio və ekosistem

Edge0-145B ilk gündən macOS, Windows və Linux-u dəstəkləyir; bura Apple M-seriyalı çiplər və RTX Spark, RTX 4090, RTX 5090 kimi NVIDIA platformaları daxildir. Edge0 dörd ailə üzrə 200 model buraxıb: mürəkkəb agent tapşırıqları və vibe coding üçün Edge0, dinləmə və danışıq üçün Audio8, sürətli qərarlar üçün Decision0, yaddaş üçün Embedding0. Portfeli əsas çip platformalarının 95%-ni əhatə edir, 5 milyondan çox istehsal cihazına yayılır, üç ayda 15 milyon yükləməni keçib və 2026-cı il oktyabrına qədər 110,000-dən çox müştəri təşkilatına çatıb. Sentyabrda Edge0-35B launch postu ilk günündə 1.2 milyon baxışı keçib, həm Edge0, həm Audio8 Hugging Face Trending chart-da 1-ci yerə yüksəlib. Lokal inference kod və verilənləri kompüterdə saxlaya, offline əsas imkanları dəstəkləyə və istifadə artdıqca bulud-model token və ya API haqlarından qaça bilər.

Mənbələr: edge0.ai

SiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.