TypeSafe AI System One modellərini və Jev-i təqdim etdi

İki il gizli rejimdə işləyən TypeSafe AI şirkəti ilk System One modelini elan edib: proqram təminatının birbaşa istifadə edə biləcəyi sürətli və strukturlaşdırılmış qərarlar qəbul etmək üçün hazırlanmış yeni nəsil öncül modellər sinfi. İlk açıq model Jev artıq erkən giriş rejimində təqdim olunur. Elanı, əvvəllər OpenAI-də dil modellərini təlimat izləməkdə faydalı edən metodlar üzərində çalışmış təsisçi Dioqu Almeida yazıb.

Sətirlərdən tipli qərarlara

Jev mətn yaratmır. Onun çıxışı forması və mümkün cavabları əvvəlcədən müəyyən edilmiş, tip təhlükəsizliyi olan strukturlaşdırılmış dəyərlərdir; buna görə model tip xətası edə bilmir və şirkətə görə bu zəmanət empirik deyil, riyazidir. Hər cavab kalibrlənmiş ehtimallar və inam balları ilə birlikdə gəlir. Almeida modeli öncül intellektin funksiya çağırışı kimi təsvir edir: içəri strukturlaşdırılmamış vəziyyət, çölə tipli ehtimal əsaslı qərarlar.

TypeSafe-in arqumenti budur ki, avtomatlaşdırmanın darboğazı intellekt deyil, interfeysdir. Sətir çıxışı söhbət cavabı, kod, imtina və ya halüsinasiya ola bilər və onu istehlak edən hər proqram nəticəni təhlil edib doğrulamalıdır. Çıxış məhdud olduğu üçün Jev adi koda qeyri-dəqiq qərar qaydası kimi yerləşməlidir: əl ilə yazılmış məntiqin çox kövrək olduğu yerdə təsnifat, marşrutlaşdırma, qiymətləndirmə, çıxarma və ya budaqlaşdırma.

RLCD, paralel seçici və açıqlanan rəqəmlər

Əsasda yeni arxitektura, paralel seçici və şirkətin Reinforcement Learning for Calibrated Decisions adlandırdığı təlim metodu dayanır; söhbət modellərində istifadə olunan insan rəyi və yoxlanıla bilən mükafat əsaslı təlimin yerinə bu tətbiq edilir. Açıqlanan fərq miqyasdadır: Jev bütün çıxışları bir sorğuda qaytarır, token-token yaratmır. TypeSafe milyon giriş tokeni üçün 0,042 dollar qiymət, çıxış tokenlərinin pulsuz olduğunu və 70-500 millisaniyə cavab müddətini açıqlayır; öncül modellərdə bu müddət 3-329 saniyədir, yəni 40-200 dəfə sürətlənmə.

Şirkətin ana səhifəsində 193,6 dəfə sürətli və 444,6 dəfə ucuz rəqəmləri göstərilir; bu rəqəmlər hər modelin eyni hesablama qrafikini aldığı və proqnozların iki istinad modelinin ortalaması ilə müqayisə edildiyi iş axını qiymətləndirmələrindən götürülüb. TypeSafe qeyd edir ki, iş axınlarını öz komandası hazırlayıb, istinad cavabları OpenAI və Anthropic modellərinə meyllidir və buna görə öz nəticələrinə ehtiyatla yanaşmaq lazımdır.

Demolar və ad

Komanda Jev-i strukturlaşdırılmış oyun vəziyyətindən Doom oynayarkən, həmçinin hər addımın yüzlərlə və ya minlərlə keçid arasından seçim olduğu Wikiracing oyununda nümayiş etdirdi; 255-dən çox variantda model əvvəl qiymətləndirib sonra seçim edir. Adlar model sinfi üçün Daniel Kahnemanın Tez və yavaş düşünmək kitabından, Jev üçün isə daha ucuz kömürün kömür istehlakını azaltmadığını iddia edən paradoksun müəllifi iqtisadçı Uilyam Stenli Cevonsdan gəlir. TypeSafe intellekt üçün də eyni mərcə girir: maya dəyərindəki hər dərəcə azalma yeni istifadə sahələri açır.