Moonshot AI-მ გამოუშვა Kimi K3.1 Pro, ღია წონების მულტიმოდალური აგენტური მოდელი

Moonshot AI-მ გამოუშვა Kimi K3.1 Pro, ღია წონების, საწყისიდანვე მულტიმოდალური აგენტური მოდელი და კომპანიის ყველაზე ძლიერი 3T კლასის მოდელი დღემდე. ის Kimi K3-ის საფუძველზე, ასობით გამოყენებით სფეროში მასშტაბური ერთობლივი გაძლიერებით სწავლებით გადამზადდა, K3.1 სერიის პირველი მოდელია და 1 მილიონი ტოკენის კონტექსტურ ფანჯარას გვთავაზობს. კომპანიის თქმით, ის მნიშვნელოვან გაუმჯობესებებს იძლევა კოდირებაში, 3D შექმნაში, ფინანსურ კვლევაში, ფაქტობრივ სიზუსტეში და სხვა აგენტურ შესაძლებლობებში.

არქიტექტურა და მახასიათებლები

Kimi K3.1 Pro იყენებს Mixture-of-Experts არქიტექტურას სულ 2,8 ტრილიონი პარამეტრითა და 104 მილიარდი აქტივირებული პარამეტრით. მას აქვს 93 ფენა, ერთი მკვრივი ფენა და ყურადღების ფენების შემადგენლობა: 69 KDA ფენა და 24 Gated DSA ფენა. კონტექსტის სიგრძეა 1 048 576 ტოკენი, ლექსიკონის ზომა 160 ათასი, ხოლო ყურადღების ფარული განზომილება 7 168-ია 96 attention head-ით. Kimi K3-თან შედარებით, სრული ყურადღების Gated MLA ფენები ჩანაცვლებულია Gated DeepSeek Sparse Attention ფენებით გრძელი კონტექსტის უფრო ეფექტური მოდელირებისთვის. მოდელი იყენებს SiTU-GLU აქტივაციას, 401 მილიონი პარამეტრის MoonViT-V2 ვიზუალურ ენკოდერს და MXFP4 წონებს MXFP8 აქტივაციებით კვანტიზაციის გათვალისწინებით სწავლების გზით. მას აქვს 896 ექსპერტი, თითო ტოკენზე ირჩევს 16-ს და მოიცავს ორ საერთო ექსპერტს; MoE-ის ლატენტური განზომილება 3 584-ია, თითოეული ექსპერტის ფარული განზომილება კი 3 072. DSA ინდექსის პარამეტრები მოიცავს თავის განზომილებას 128, 32 თავს და top-k 2 048-ს.

შეფასების შედეგები

თუ სხვაგვარად არ არის მითითებული, მოცემული შედეგები მიღებულია reasoning effort-ის max მნიშვნელობის, temperature 1,0-ისა და top-p 0,95-ის გამოყენებით. წყარო ცხრილში ტირე ნიშნავს, რომ ქულა არ არის მოცემული. უფრო მაღალი ქულები უკეთესია, გარდა იმ შემთხვევებისა, როცა ბენჩმარკი პირდაპირ ამბობს, რომ დაბალი უკეთესია; Elo ქულები პირდაპირ არ შეედრება accuracy ან pass-rate ქულებს.

Kimi K3.1 Pro აფიქსირებს 65,7 ქულას Terminal-Bench 4.0-ზე, 51,7 ქულას SWE Marathon v1.1-ზე, 70,0 ქულას HLE-Full-ზე ინსტრუმენტებით, 94,2 ქულას GPQA-Diamond-ზე, 79,6 ქულას OSWorld V2.1-ზე, 1846 Elo-ს GDPval-AA v2.1-ზე და 8,3 ქულას Kimi Hallu Bench Hard-ზე ინსტრუმენტებით, სადაც დაბალი უკეთესია. ის ასევე აფიქსირებს 75,5 ქულას DeepSWE v1.1-ზე, 92,1 ქულას BrowseComp-ზე, 90,0 ქულას MMMU-Pro-ზე python-ით, 69,4 ქულას APEX-Agents-ზე, 77,1 ქულას შიდა Kimi Code Bench 2.0-ზე და 61,2 ქულას შიდა Kimi Code Bench 3.0 Long-horizon ბენჩმარკზე.

განლაგება და ხელმისაწვდომობა

API ხელმისაწვდომია platform.kimi.ai-ზე kimi-k3.1-pro მოდელის არჩევით, OpenAI-სა და Anthropic-თან თავსებადი API-ებით. რეკომენდებული inference ძრავებია vLLM, SGLang და TokenSpeed. მოდელი გამოვიდა Kimi K3.1 Pro License ლიცენზიით, კითხვების გაგზავნა კი შესაძლებელია [email protected] მისამართზე. Hugging Face-ის გვერდზე მითითებულია გასულ თვეში 797 ჩამოტვირთვა, Safetensors მოდელის ზომით 2,8 ტრილიონი პარამეტრი, tensor-ის ტიპები F32, BF16 და U8, მოდელის ხეში ორი დაფინეტებული მოდელი და ერთი Space, რომელიც მოდელს იყენებს.

მოდელის გამოყენება

ფიქრის ძალისხმევა კონფიგურირდება ზედა დონის reasoning_effort მოთხოვნის ველით, რომელიც მხარს უჭერს low, high და max მნიშვნელობებს, ნაგულისხმევი max-ით. მრავალტური საუბრებისა და tool calls-ისთვის API-ის მიერ დაბრუნებული ასისტენტის სრული შეტყობინება უცვლელად უნდა გადაეცეს messages-ს, მათ შორის reasoning_content და tool_calls, და არა მხოლოდ content. სრული სახელმძღვანელოები და მაგალითები მოიცავს ვიზუალურ შეყვანას, სტრუქტურირებულ გამოსავალს, ნაწილობრივ რეჟიმს, tool choice-ს, ინსტრუმენტების დინამიკურ ჩატვირთვას და კონტექსტის ქეშირებას.

წყაროები: huggingface.co