Tencent Hy4 preview-ı buraxdı və açıq koda verdi: 770B parametr, 1M token kontekst

Tencent avqustun 28-də Tencent Hy4 preview-ı buraxıb və açıq kod kimi paylaşıb: 770 milyard ümumi və 49 milyard aktiv parametrə, milyon tokendən çox kontekst pəncərəsinə malik yeni nəsil dil modeli. Şirkətin sözlərinə görə, model kodlaşdırma, ofis işləri və elmi tədqiqat kimi real məhsuldarlıq tapşırıqları üçün nəzərdə tutulub.

Əlçatanlıq və qiymətlər

Hy4 preview açıq mənbəli model kimi, həmçinin qlobal səviyyədə WorkBuddy, CodeBuddy, Yuanbao, ima və digər Tencent məhsulları vasitəsilə əlçatandır; API ilə qoşulma Tencent Cloud TokenHub və OpenRouter üzərindən mümkündür. Buraxılışda model WorkBuddy və CodeBuddy-də iki həftə pulsuzdur, Hy3-ə pulsuz giriş isə hər iki platformada 30 sentyabra qədər uzadılıb. API qiymətləri: milyon giriş tokeni üçün 0,834 dollar, milyon çıxış tokeni üçün 2,501 dollar və keş uğurunda milyon token üçün 0,042 dollar.

Daxili qiymətləndirmə və imkanlar

163 ekspert və 203 mühəndislik tapşırığının iştirak etdiyi daxili kor qiymətləndirmədə Hy4 preview 4,00-dan orta hesabla 2,99 bal toplayıb — GLM-5.3 (2,92) və Kimi K3-dən (2,94) bir qədər irəlidə. Model proqram mühəndisliyi, oyunlar, maliyyə və təhlükəsizlik sahələrində Tencent mütəxəssisləri ilə birgə yaradılan yüksək keyfiyyətli məlumatlarla öyrədilib. Proqram mühəndisliyində uzun kontekstli inkişaf tapşırıqlarında anlama, planlama, sazlama və yoxlamanı, həmçinin frontend-in vizual keyfiyyətini gücləndirir; ofis və analitik ssenarilərdə maliyyə təhlilini və sənədlər, cədvəllər və təqdimatlar üzərində işi yaxşılaşdırır; oyun hazırlanmasında bir təbii dil sorğusu ilə oynana bilən prototip yarada bilir; elmi tədqiqatda isə süni intellekt Ar-Ge, molekulyar dinamika simulyasiyası, bərk cisim fizikası və fundamental riyaziyyatda nəzərəçarpan irəliləyiş göstərir.

Özünü təkmilləşdirmə və inference

Diqqətçəkən məqam: Hy4 preview ilk dəfə öz inkişaf prosesində iştirak edib — təlim metodlarının, məlumat strategiyalarının, qiymətləndirmə çərçivələrinin və aşağı səviyyəli operatorların avtomatik optimallaşdırılmasında. Model özü yanaşmalar təklif edib, təcrübələr aparıb və nəticələrə əsasən iterasiya edib; kod, jurnallar və rəy növbəti mərhələləri qidalandırıb və beləliklə erkən mərhələli rekursiv özünü təkmilləşdirmə dövrü yaranıb. Model həmçinin öz inference sistemindəki maneələri müstəqil təhlil edib və operator birləşdirmə və kommunikasiya üzrə bir neçə raund optimallaşdırma aparıb: başdan-başa ötürmə qabiliyyəti baza səviyyəsinə nisbətən 31,8% artıb və nəticə müxtəlif kontekst uzunluqları və yükləmə səviyyələrində sabit qalıb. Şirkət Hy4 seriyasının növbəti modellərinin tezliklə çıxacağını bildirir.