NVIDIA Nemotron 3.5 Lightning və NeMo Switchyard-ı təqdim etdi
NVIDIA Nemotron 3 ailəsini 30 milyard parametrli MoE modeli və hər sorğunu ən uyğun modelə yönləndirən açıq mənbəli kitabxana ilə genişləndirib.
Nə baş verdi
NVIDIA Nemotron 3 ailəsini genişləndirərək Nemotron 3.5 Lightning-i təqdim edib: şirkətin uzunmüddətli agent yüklənmələri üçün sinfində ən səmərəli adlandırdığı 30 milyard parametrli mixture-of-experts modeli. Model çoxagentli sistemlər daxilində ixtisaslaşmış tapşırıqlar üçün nəzərdə tutulub.
Şirkət eyni vaxtda NeMo Switchyard-ı buraxıb — AI agentləri üçün açıq mənbəli marşrutlaşdırma kitabxanası. O, iş axınının hər addımını avtomatik olaraq ən uyğun modelə yönləndirir və keyfiyyət, gecikmə və ya xərcə görə tənzimlənir — tətbiqləri yenidən yazmaq lazım deyil.
Niyə vacibdir
Agent sistemləri getdikcə "modellər sistemi" kimi işləyir: sərhəd (frontier) modeli planlayır, kiçik modellər isə kod baxışı, alət istifadəsi və təhlükəsizlik xəbərdarlıqlarını yerinə yetirir. NVIDIA-ya görə Lightning 4 dəfəyədək sürətli çıxış və 30% daha sürətli tapşırıq tamamlama verir; Switchyard isə tək Opus 4.8 xərcinin demək olar üçdə biri ilə sərhəd səviyyəsində dəqiqliyi qoruyur.
Nemotron 3.5 Lightning Hugging Face, OpenRouter və build.nvidia.com-da əlçatandır və RTX kompüterlər, DGX Spark və Jetson cihazlarında lokal işləyir. NeMo Switchyard GitHub-dadır.