Moonshot AI-ը թողարկել է Kimi K3.1 Pro բաց կշիռներով մուլտիմոդալ ագենտային մոդելը

Moonshot AI-ը թողարկել է Kimi K3.1 Pro-ն՝ բաց կշիռներով, ի սկզբանե մուլտիմոդալ ագենտային մոդել և իր ամենակարող 3T-class մոդելը մինչ օրս: Այն հետմարզվել է Kimi K3-ից՝ մեծածավալ համատեղ ամրապնդող ուսուցմամբ հարյուրավոր ներքևային ոլորտներում, առաջին մոդելն է K3.1 շարքում և բերում է 1-million-token համատեքստի պատուհան: Ընկերությունը նշում է, որ այն զգալի բարելավումներ է ապահովում կոդավորման, 3D ստեղծման, ֆինանսական հետազոտությունների, փաստական ճշգրտության և այլ ագենտային հնարավորությունների մեջ:

Ճարտարապետություն և բնութագրեր

Kimi K3.1 Pro-ն օգտագործում է Mixture-of-Experts ճարտարապետություն՝ 2.8 տրիլիոն ընդհանուր պարամետրով և 104 միլիարդ ակտիվացված պարամետրով: Այն ունի 93 շերտ, մեկ խիտ շերտ և ուշադրության շերտերի կազմ՝ 69 KDA շերտ գումարած 24 Gated DSA շերտ: Համատեքստի երկարությունը 1,048,576 tokens է, բառապաշարի չափը՝ 160K, իսկ ուշադրության թաքնված չափը՝ 7,168՝ 96 ուշադրության գլխով: Kimi K3-ի համեմատ՝ ամբողջական ուշադրության Gated MLA շերտերը փոխարինված են Gated DeepSeek Sparse Attention շերտերով՝ ավելի արդյունավետ երկար համատեքստի մոդելավորման համար: Մոդելն օգտագործում է SiTU-GLU ակտիվացում, MoonViT-V2 տեսողական կոդավորիչ՝ 401 միլիոն պարամետրով, և MXFP4 կշիռներ MXFP8 ակտիվացումներով՝ քվանտացմանը տեղյակ ուսուցման միջոցով: Այն ունի 896 փորձագետ, ընտրում է 16-ը յուրաքանչյուր token-ի համար և ներառում է երկու ընդհանուր փորձագետ. լատենտ MoE չափը 3,584 է, իսկ յուրաքանչյուր փորձագետ ունի 3,072 թաքնված չափ: DSA ինդեքսի կարգավորումները ներառում են 128 գլխի չափ, 32 գլուխ և top-k՝ 2,048:

Գնահատման արդյունքներ

Եթե այլ բան նշված չէ, հաղորդված արդյունքները օգտագործում են reasoning effort-ը՝ սահմանված max, temperature 1.0 և top-p 0.95: Աղբյուրի աղյուսակում գծիկը նշանակում է, որ հաղորդված միավոր չկա: Ավելի բարձր միավորները ավելի լավն են, բացառությամբ այն դեպքերի, երբ benchmark-ը հստակ նշում է, որ ավելի ցածրը ավելի լավն է, և Elo միավորները ուղղակիորեն համեմատելի չեն ճշգրտության կամ pass-rate միավորների հետ:

Kimi K3.1 Pro-ն գրանցում է 65.7 Terminal-Bench 4.0-ում, 51.7 SWE Marathon v1.1-ում, 70.0 HLE-Full-ում գործիքներով, 94.2 GPQA-Diamond-ում, 79.6 OSWorld V2.1-ում, 1846 Elo GDPval-AA v2.1-ում և 8.3 Kimi Hallu Bench Hard-ում գործիքներով, որտեղ ավելի ցածրը ավելի լավն է: Այն նաև գրանցում է 75.5 DeepSWE v1.1-ում, 92.1 BrowseComp-ում, 90.0 MMMU-Pro-ում python-ով, 69.4 APEX-Agents-ում, 77.1 ներքին Kimi Code Bench 2.0-ում և 61.2 ներքին Kimi Code Bench 3.0 Long-horizon benchmark-ում:

Տեղակայում և հասանելիություն

API-ն հասանելի է platform.kimi.ai-ում՝ ընտրելով kimi-k3.1-pro, OpenAI- և Anthropic-համատեղելի API-ներով: Առաջարկվող ինֆերենս շարժիչներն են vLLM, SGLang և TokenSpeed: Մոդելը թողարկված է Kimi K3.1 Pro License-ով, և հարցերը կարելի է ուղարկել [email protected]: Hugging Face էջը նշում է վերջին ամսվա 797 ներբեռնում, Safetensors՝ 2.8 տրիլիոն պարամետր մոդելի չափով, F32, BF16 և U8 tensor տեսակներ, մոդելի ծառում երկու finetuned մոդել և մեկ Space, որն օգտագործում է մոդելը:

Մոդելի օգտագործում

Մտածողության ջանքը կարգավորվում է վերին մակարդակի reasoning_effort հարցման դաշտով, որն աջակցում է low, high և max արժեքներին, ընդ որում max-ը լռելյայն է: Բազմահերթ զրույցների և գործիքների կանչերի համար API-ի վերադարձրած ամբողջական assistant հաղորդագրությունը պետք է հետ փոխանցվի messages-ին այնպես, ինչպես կա՝ ներառյալ reasoning_content և tool_calls, ոչ միայն content: Ամբողջական ուղեցույցներն ու օրինակները ներառում են տեսողական մուտք, կառուցվածքային ելք, partial mode, գործիքի ընտրություն, գործիքների դինամիկ բեռնում և համատեքստի քեշավորում:

Աղբյուրներ: huggingface.co