Edge0, 145B parametreli dizüstü yerel AI modelini açık kaynak yaptı

Edge0, Edge0-145B ve Edge0-120B modellerini birleşik bir çıkarım çerçevesi ve dağıtım araçlarıyla birlikte açık kaynak yaptı. Edge0-145B, 145 milyar parametreli ilk açık kaynak yerel yapay zeka modeli olarak tanımlanıyor ve öncü bulut modellerine rakip kodlama, akıl yürütme ve ajan yetenekleri getiriyor. Şirket, modelin 29GB tepe bellek ve saniyede 80'den fazla token çözme ile uyumlu bir dizüstü bilgisayarda yerel olarak çalışabileceğini söylüyor.

Yerel performans ve tasarım

Edge0-145B'nin 29GB tepe bellek kullandığı, istemleri saniyede 1.100'den fazla token işlediği, saniyede 80'den fazla token ürettiği, tipik olarak yaklaşık 120W güç kullandığı ve 128K ile 256K bağlamı desteklediği bildiriliyor. Tasarımı, 64 seyrek uzmanın grupları arasında büyük matrisleri paylaşıyor; böylece her çıkarım adımında 145B parametrenin yalnızca yaklaşık 10B'si katılıyor. Sık kullanılan uzmanlar GPU belleğinde kalıyor, yaklaşık 40GB'lık bir uzman kitaplığı sistem belleğinde bulunuyor ve yaklaşık 48GB'lık kelime verisi SSD'de yer alıyor. CPU ve GPU paralel çalışıyor; spekülatif kod çözme aynı anda birden fazla aday token doğruluyor. Daha önceki telefon modeli Edge0-35B, iPhone 18 Pro Max üzerinde 2,5GB'ın altında tepe bellek ve saniyede 37'den fazla token bildirmişti; bu ölçümler farklı bir model ve donanıma ait.

Kıyaslama, bellek ve yerel iş akışları

Edge0-145B, DeepSWE 1.1'de 64,6; Terminal-Bench 2.1'de 86,52; HLE'de 35,4; GPQA-Diamond'da 90,4; IFBench'te 80,6; AA-LCR'de 79,3 puan alıyor. Bu altı kıyaslamanın ortalaması 29GB ölçülen tepe bellekle 72,8; Qwen3.8-Flash-Next'te 71,7 ve standart 4-bit dağıtım için tahmini 70GB ayak izi. Qwen3.8-27B'ye göre kazanımlar Terminal-Bench'te %18,5 ve DeepSWE'de %53,1; ayrıca HLE'de %14,9, GPQA'da %1,3 ve IFBench'te %1,4. Model plan yapabiliyor, kod yazıp çalıştırabiliyor, hataları ayıklayabiliyor ve sonuçları görsel olarak inceleyebiliyor. Gösterimler arasında bir saat içinde Roadster açıklayıcı videosu, bir saat içinde Blender'da Manhattan 3D sahnesi, 20 saniyelik ortaçağ şehir uçuşu, bir drone navigasyon programı ve montaj animasyonlu bir PCB tasarımı var. Şirket, Manhattan ölçeğinde bir sahnenin manuel olarak yaklaşık 12.000-18.000 dolar ve en az bir ay süreceğini; önde gelen bir bulut modelinin 150 dolardan fazla bulut token ücreti çıkaracağını söylüyor. Yerel çıkarım, buna karşılık gelen bulut modeli token veya API ücreti oluşturmaz; ancak donanım ve elektrik yine de para tutar.

Platform, ürün yelpazesi ve ekosistem

Edge0-145B, ilk günden macOS, Windows ve Linux'u destekliyor; buna Apple M serisi çipler ve RTX Spark, RTX 4090 ve RTX 5090 gibi NVIDIA platformları dahil. Edge0, dört ailede 200 model yayımladı: karmaşık ajan görevleri ve vibe coding için Edge0, dinleme ve konuşma için Audio8, hızlı kararlar için Decision0 ve bellek için Embedding0. Ürün yelpazesi, ana akım çip platformlarının %95'ini kapsıyor, 5 milyondan fazla üretim cihazına yayılıyor, üç ayda 15 milyon indirmeyi geçti ve Ekim 2026 itibarıyla 110.000'den fazla müşteri kuruluşuna ulaştı. Eylül'deki Edge0-35B lansman gönderisi ilk gününde 1,2 milyon görüntülenmeyi geçti; Edge0 ve Audio8'nin ikisi de Hugging Face'in Trending listesinde 1 numaraya yükseldi. Yerel çıkarım, kodu ve veriyi bilgisayarda tutabiliyor, çevrimdışı temel yetenekleri destekleyebiliyor ve kullanım arttıkça bulut modeli token veya API ücretlerinden kaçınabiliyor.

Kaynaklar: edge0.ai