Geri qayıt
Laya: sərhəd laboratoriyası ideyanı yeni saymazdan bir il əvvəl qurulan açıq qərar mühərriki
SiTech AI Team3 წთ. საკითხავი

Laya: sərhəd laboratoriyası ideyanı yeni saymazdan bir il əvvəl qurulan açıq qərar mühərriki

Yaxşı maliyyələşən laboratoriya bənzər modeli irəliləyiş kimi təqdim etdikdən sonra mühəndis Laya-nı buraxdı: 32,8 ms-də kalibrlənmiş ehtimallar qaytaran açıq System 1 qərar modelləri.

Bir il əvvəl qeyri-avtoreqressiv qərar modelləri dərc edən mühəndis, yaxşı maliyyələşən sərhəd laboratoriyası bənzər arxitekturanı yeni elmi irəliləyiş kimi təqdim etdikdən sonra tamamilə açıq alternativ buraxdı.

Bir illik ideyanın yeni kimi təqdim edilməsi

ConvAI Innovations-ın qurucusu və direktoru Nandakişor Mukkunnoth yazır ki, yanaşmanı 2025-ci ilin martında qurub: ardıcıllıq çevrilmə trayektoriyaları üzrə arXiv məqaləsi, model çəkiləri və Hugging Face-də açıq verilənlər bazası. 2026-cı ilin sentyabrında ChatGPT-nin həmmüəllifi Dioqo Almeyda tərəfindən qurulan TypeSafe AI Jev-i buraxdı; müəllif onu eyni qeyri-avtoreqressiv qərar konsepsiyası adlandırır, lakin texniki məqalələr, açıq çəkilər və açıq təlim verilənləri olmadan. Jev RLCD adlandırdığı üsulla paralel nümunələmə aparır və milyon giriş tokeni üçün 0,042 dollar götürür; tipik cavab müddəti təxminən 150 ms-dir.

Laya nədir

Küskün qalmaq əvəzinə ideyanı Laya kimi yenidən qurdu: System 1 tipli qərar mühərriki. Mətn yaratmır, yalnız strukturlu sxemlər üzərində ehtimal paylanmaları qaytarır. Üç primitiv üzərindən cavab verir: lüğətdən bir açar seçib paylanmanı və kalibrlənmiş inamı qaytaran choice; sənədi 0-dan 3-ə qədər sıralı şkala üzərində yerləşdirən score; və P(true) qaytaran boolean sual noul. Çıxış sahəsi yalnız ədədlərdən ibarət olduğu üçün model halüsinasiya edə bilmir və pozulmuş JSON qeyri-mümkündür, deyir müəllif. İkitərəfli enkoderlərlə bir GPU-da 32,8 ms-də, toplu rejimdə sual başına 7,2 ms-də cavab verir; səhifəyə görə bu Jev-dən altı-səkkiz dəfə sürətlidir, Apache 2.0 çəkiləri ilə və API xərci olmadan.

Üç çekpoint və marşrutlaşdırıcı

Ailə bir Hugging Face repo-sunda üç çekpoint saxlayır: ingilis dili təsnifatı və poçt çeşidləməsi üçün laya (ModernBERT-large, 421 milyon parametr, 512 token kontekst); 100-dən çox dil üçün laya-multilingual (mmBERT-base, 256 min token lüğəti, 322 milyon parametr); və 0,766 dəqiqliklə agent ssenariləri üçün laya-typed-decisions. MASSIVE müqayisəsində 51 dilli tarama ingilis modellərinin latın əlifbasından kənarda necə çökdüyünü göstərdi: Khmer dilində model 0,952 orta inamla 0,000 dəqiqlik aldı. İnam dəqiqlik 82% olsa da, sıfır olsa da heç vaxt 0,885-dən aşağı düşmədi; buna görə inama görə filtrləmə qorumur və marşrutlaşdırma qərarı irəli keçiddən əvvəl verilməlidir. Laya-nın marşrutlaşdırıcısı 22 əlifbanın Unicode yazılarını yoxlayır və ingilis dili üçün 0,09 ms, hind yazıları üçün 0,54 ms, böyük iç-içə JSON üçün 0,73 ms əlavə edir.

Müqayisələr və dürüst sərhədlər

Ümumi müqayisələrdə marşrutlaşdırılmış sistem AG News-də Jev-in 0,910-una qarşı 0,950, DAIR Emotion-da 0,480-ə qarşı 0,595, gözlənilən kalibrləmə xətasında 0,246-ya qarşı 0,081 və median gecikmədə 236–276 ms-ə qarşı 32,8 ms göstərir. Səhifə sərhədləri də sadalayır: choice sxemləri 20 variantdan yuxarı dəqiqliyi itirir — 77 etiketli Banking77-də Laya 0,425, Jev isə 0,870 aldı; baza modellər incə tənzimləmədən əvvəl təxminən 0,35 göstərir; və sual növü üzrə bir temperatur skalyarının uyğunlaşdırılması kalibrləmə xətasını 0,466-dan 0,081-ə endirir.

SSiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.