Prime Intellect-ը Prime Agent-ը վերագրեց Rust-ի և սառը մեկնարկը կրճատեց 52 միլիվայրկյան

Ագենտները վերագրում են ագենտներին

Prime Intellect-ը լիովին վերագրել է իր Prime Agent-ի կոդավորման հառնեսթը Rust-ում: Ավգուստում թողարկմանը հետո Prime Agent-ը ներբեռնվել է 300 000-ից ավելի անգամ և մշակել է 8 տրիլիոնից ավելի տոկեն: Վերագրումը հիմնականաորեն ինքը Prime Agent-ն է իրականացրել: Երկու շաբաթից ավելի ընթացքում 2000-ից ավելի ագենտների խումբը վերջին հաշվով կոդբազան տեղափոխեց, աշխատել է 10 000-ից ավելի Prime Sandbox-ում և Prime Inference-ի GLM-5.3 ենդպոինտից 200 միլիարդից ավելի տոկեն է օգտագործել:

Rust-ում իմպլեմենտացիայի փուլում 1981 ագենտները ծախսեցին 192,99 միլիարդ տոկեն, որին հաջորդեց արդյունավետության բարելավման ցիկլը, որը 228 ագենտների մասնակցությամբ 35,70 միլիարդ տոկեն է օգտագործել: Գագաթի ժամանակ գործընթացում 2209 ագենտ ներգրավված էր, որոնք փոխանցել են միմյանց 16 758 հաղորդագրություն և ընդհանուր 228,70 միլիարդ տոկեն են մշակել:

Ինչու Rust

Խմբի խոսքով, TypeScript-ի օգնությամբ Prime Agent-ը արագ դուրս եկավ, սակայն դրա ոչ պարտադիր տեսակները մեկնարկի ժամանակ կորում են, սխալները շարժվում են անստուգելի բացառությունների տեսքով և CPU-ի համար ծանր աշխատանքը միևնուն event loop-ում մրցակցում է ստեղնաշարից մտող տվյալների հետ: Rust-ը լուծում է այս խնդիրները. բնական կոդը garbage collector-ի առանց հիշողության և մեկնարկի արագության բարելավման հիմնական պատճառն է, Send-ը և Sync-ն տրամադրում են հնարավորություն կոմպիլյատորին ստուգել, թե որ տվյալները կարող են փոխանցվել հատվածների միջև, իսկ exhaustive enum-երը, ownership-ը և lifetime-երը կոդի թողարկումից առաջ բացառում են սխալների ամբողջ դասերը: Clippy-ի pedantic lints-երը ևս հարյուրավոր ստուգումների ավելացնում են, ինչը հատկապես կարևոր է, երբ կոդի մեծ մասը ագենտներն են գրում:

Արխիտեկտուրա և հավասարակարգություն

Վերագրման ժամանակ կոդբազան վերածվեց իննսուն crate, հակադրական կախվածությունների գրաֆով, որը վերահսկում է Cargo-ն: Ամենամեծ կոդբազայի ֆայլը հենց նոր 2500 տող է, TypeScript-ի մոտ 15000-ի փոխարեն, և ոչ մի ֆայլ չի գերազանցում 5000 տողը, մինչդեռ սկզբնական տարբերակում չորս այդպիսի կար: Խումբը ավելացրել է Windows-ի աջակցություն, սեսիայի crash isolation և ավելի հաջորդական daemon-ի պրոտոկոլ. ամեն սեսիա աշխատում է իր սեփական worker պրոցեսում փոքր supervisor-ի տակ:

Ֆունկցիոնալ հավասարակարգությունն ապահովելու համար ագենտները չորս տեսակի ստուգումներ են իրականացրել. TUI-ի հավասարակարգության թեստեր, որոնք համեմատում են TypeScript-ի և Rust-ի բինարների միջև տերմինալի կադրերը, հառնեսթի հավասարակարգության թեստեր, որոնք համեմատում են սեսիայի տրանսկրիպտները և մոդելի պահանջները, պրոտոկոլի հավասարակարգության ստուգումներ daemon-ի բոլոր տեսակի հաղորդագրությունների համար և կոմպոնենտ-կոմպոնենտ ֆունկցիոնալության աուդիտ: Ամեն խնդիրը անցնում էր չորս ագենտի միջով. Planner, Implementer, Reviewer, որը առանձին համատեքստում օգտագործում է այլ մոդել, և Verifier, որը հավասարակարգության ստուգումներն իրականացնում էր նոր sandbox-ում:

Արդյունավետության արդյունքները

Երեք օրացուցային hillclimbing ցիկլը ավելի քան 144 փորձարկումներ և աուդիտի գրառումներ է ամփոփել և ավելի քան 69 վավեր փոփոխություն է միավորել: Սառը մեկնարկի ժամանակ ներմուծման համար պատրաստության լատենտությունը կրճատվել է 736,1 ms-ից 51,9 ms-ը, ինչը 14,18 անգամ բարելավում է, իսկ տաք մեկնարկի լատենտությունը իջել է 552,3 ms-ից 41,4 ms-ը: Մեծ սեսիայի հիշողության ծախսը կրճատվել է 1 130,0 MB-ից 237,3 MB-ը, իսկ տեղադրված չափը՝ 172,1 MB-ից 59,6 MB-ը: Արտաքին հառնեսթների հետ համեմատած, Prime Agent Rust-ը առաջին արտադրությունը 23,6 ms-ում է ստացել և կատարման սկզբի ժամանակը սառը ռեժիմում 55,8 ms-ում է հասնել, TypeScript-ի տարբերակի 722,8 ms-ի և 737,8 ms-ի փոխարեն:

Ինչ է հաջորդում

Prime Agent-ը կրկնում է բաց կոդի պրոեկտ և մեկ հրամանով տեղադրվում է. վերագրված տարբերակի հետ միասին գալիս է բետա ռեժիմում Windows-ի բնական աջակցությունը և Homebrew-ով տեղադրումը: Prime Intellect-ի խոսքով, ընկերությունը հենց նոր արագացնում է ֆունկցիոնալի և evals-ի զարգացումը, վերագրման հիմքի վրա բազմաթիվ ագենտների աշխատանքային գործընթացները հասանելի է դարձնում օգտատերերի համար և ճկունացնում է ինտեգրումը Prime Intellect-ի էկոսիստեմի հետ, այդ թվում՝ ամպային ագենտների խմբերի հետ, inference-ի հետ, traces-ի հետ, sandbox-ների հետ, evals-ի հետ և հոսթինգային ուսուցման հետ: Ընկերությունը նաև նոր աշխատուներ է փնտրում:

Հղումները. primeintellect.ai