NVIDIA, Nemotron ailesini açık Super VL ve Bolt modelleriyle genişletti

Üç yeni açık model, ajan dağıtımlarının tüm spektrumunu kaplar

NVIDIA bugün, kalıcı ajanlar için açık 120 milyar parametreli Nemotron 3,5 Super VL modelini ve iki edge modelini yayınladı: yerel ajan yükleri için zekâ ile hızı dengeleyen Nemotron 3,5 Bolt 74B-A9B 24GB ve hızlı sohbet ajanları için optimize edilmiş Nemotron 3,5 Bolt E4B 4GB. Super VL ve Bolt 74B-A9B şu anda kullanılabilir; Bolt E4B ise 23 Ekim’de çıkacak.

Ağustos’ta yüksek verimlilik için yayınlanan Lightning ile karmaşık akıl yürütme için Ultra ile birlikte aile, kurumsal sunuculardan edge cihazlarına ve yerel donanıma uzanır.

Super VL: beşte bir boyutta lider doğruluk

Nemotron Coalition ile birlikte oluşturulan Super VL; talimatları yerine getirme, araç kullanımı, çok aşamalı iş süreçleri ve görsel anlama dahil çok modlu ajan görevlerinde lider doğruluk gösteriyor ve bu, NVIDIA’nın en büyük akıl yürütme modelinin yaklaşık beşte bir parametresiyle karşılaştırılabilir. NVIDIA’ya göre model, Artificial Analysis Intelligence Index liderlik tablosunda 5 kat daha yüksek verimlilikle sınıfının en hızlı açık ajan modeli.

Kapalı modellerden farklı olarak kurumlar, Super VL’ı kendi verileriyle ince ayarlayabilir ve kendi altyapılarında dağıtabilir. Model; açık ağırlıklar, veri kümeleri ve eğitim tarifleriyle gelir; yaklaşık 26 trilyon token üzerinde eğitilmiş ve ardından 3,8 milyon örnek ile yüzlerce ortamda reinforcement learning uygulanmıştır.

Bolt, ajan zekâsını edge ortamına taşır

Bolt 74B-A9B 24GB, günlük ajan görevlerini NVIDIA RTX ve DGX Spark üzerinde, 24GB belleğe sığması için doğal 2-bit kuantizasyonla yerel olarak tamamlar. PinchBench’te sınıfındaki açık modeller arasında birinci, BrowseComp’te ikinci olması, kullanıcıların buluta göndermeden araştırma, yazma ve hata ayıklama yapabilmesini sağlar.

Bolt E4B 4GB; GeForce RTX, Jetson ve RTX/DGX Spark üzerinde sesli asistanlar, kişilikler ve gömülü arayüzler için tasarlandı.

Dağıtım ve erişilebilirlik

Scale AI, EY, Hebbia, AI21, Alice, Mercor, Ramp, Dream, Lila Sciences, R1 ve diğerleri Super VL’ı; M&A due diligence’den siber güvenliğe, kodlama ajanlarına, finansal belgelere, bilimsel keşiflere ve tıbbi taleplere kadar görevler için ek eğitim yapıyor. Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce ve Synopsys ise modeli kendi platformlarına entegre ediyor.

Model; görselleri, web sayfalarını ve PDF’leri anlar, metin çıkarır, grafikleri ve diyagramları okur; böylece ajanlar belgeden veriye ve karara ulaşırken sistemler arasında geçiş yapmak zorunda kalmaz. Super VL; Hugging Face, Open Router ve ModelScope üzerinde ve NVIDIA NIM olarak sunulur; DGX Spark, DGX Station, RTX PRO, RTX ve Jetson üzerinde çalışır. Bolt 74B-A9B 24GB ise llama.cpp, Ollama, LM Studio, Unsloth ve vLLM desteğiyle Hugging Face üzerinde erişilebilir.

Kaynaklar: NVIDIA Blog · Nvidia Developer