Geri qayıt
Imp DSPy-nin BEAM-ə tam portunu Elixir-ə gətirir
SiTech AI Team2 წთ. საკითხავი

Imp DSPy-nin BEAM-ə tam portunu Elixir-ə gətirir

Imp Elixir üçün kitabxanadır və DSPy-ni BEAM-ə daşıyır: tərtibatçı dil modelinin hər addımının nə aldığını və nə qaytardığını təsvir edir, optimallaşdırıcı isə proqramı işarələnmiş nümunələrlə yaxşılaşdırır. İmzalar və agent dövrləri OTP altında işləyir.

Elixir üçün yeni Imp kitabxanası özünü DSPy-nin BEAM-ə tam portu kimi təqdim edir. Tərtibatçı dil modelinin addımını tipli funksiya kimi təsvir edir, nəticəni ölçür və optimallaşdırıcıya verir, OTP-nin etibarlılığı və paralelliyi isə yerində qalır.

Imp layihəsinin illüstrasiyası: kartları linza ilə araşdıran imp

Prompt yerinə imza

Əsas vahid imzadır: yalnız nəyin daxil olub nəyin çıxdığı yazılır, məsələn "issue -> kind: enum[bug,feature,question], summary", yanına qısa təsvir əlavə olunur. Imp.predict/2 promptu bundan qurur, cavabı imza ilə tutuşdurur və tipli sahələr qaytarır: kind həmişə üç icazəli dəyərdən biri olur, əks halda çağırış xəta ilə bitir.

Eyni imza başqa rejimlərdə də işləyir: Imp.chain_of_thought/2 modeli əvvəlcə düşünməyə məcbur edir, Imp.react/3 isə ona alətlər verir. Tərtibatçı nə prompt şablonu, nə də cavab analizatoru yazır.

Ölç, sonra yaxşılaşdır

İşarələnmiş nümunələr və metrika verildikdə Imp proqramı qiymətləndirir və yaxşılaşdırır. Üç siyahı lazımdır: optimallaşdırıcının öyrəndiyi trainset, variantları müqayisə edən valset və əvvəl-sonra qiymətləndirilən testset. Imp.evaluate/3 metrikanı hesablayır, məsələn Imp.exact_match(:kind).

Sonra optimallaşdırıcı işə düşür: Imp.Optimizer.GEPA.new/2 uğursuzluqları oxuyub təlimatları yenidən yazmaq üçün daha güclü modeldən istifadə edir. Kitabxanada həmçinin LabeledFewShot və BootstrapFewShot nümunə seçir, MIPROv2 kombinasiyaları axtarır, SIMBA proqramın öz cəhdlərindən qaydalar çıxarır, çəki təlimi də var. Nəticə təlimatları və nümunələri JSON kimi saxlanılan və diff şəklində baxılan yeni proqramdır.

Agentlər və OTP qaydaları

Alət burada adi Elixir funksiyasıdır: Imp.tool/3 ad, təsvir, funksiya və JSON Schema alır, Imp.react/3 isə cavab tapana qədər bu alətləri çağıran agent qurur. README nümunəsində agent Req ilə veb səhifəni oxuyur və versiya nömrəsini qaytarır.

Imp.call/2 proqramı çağıran prosesdə işlədir, Imp.start_run/3 isə onu izlənə, dayandırıla və məhdudlaşdırıla bilən ayrı supervisor prosesi kimi başladır; authorize callback hansı alət çağırışlarına icazə verildiyini müəyyən edir. Imp.Run.events/1 hadisə jurnalını qaytarır, model sorğularının son müddəti var, təsiri artıq baş vermiş ola biləcək alət çağırışı isə unknown kimi bildirilir və səssizcə təkrarlanmır.

Imp təsdiqlənmiş MCP serverinin alətlərini idxal edə bilir, ACP vasitəsilə isə istənilən proqram Zed-ə və digər müştərilərə agent kimi təqdim olunur. Kitabxana Hex-dədir, Elixir 1.19 və C++ kompilyatoru tələb edir, modellərə ReqLLM ilə çıxır. 0.5 versiyası eksperimentaldır və MIT lisenziyalıdır.

SSiTech

SiTech — AI ilə gücləndirilmiş veb hazırlanması

Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.