Apertus 1.5 ღია 8B და 70B მოდელებს მულტიმოდალურ აღქმას და უფრო გრძელ კონტექსტს მატებს

მთავარი გაუმჯობესებები

Apertus 1.5 ღია 8B და 70B მოდელებს ამატებს ჩაშენებულ მულტიმოდალურ აღქმას, რაც ტექსტთან ერთად სურათებისა და აუდიოს მიღებას ითვალისწინებს. მოდელებს აქვთ არჩევითი აზროვნების რეჟიმი, 4-ჯერ გრძელი კონტექსტის ფანჯარა 262 144 ტოკენით, გაუმჯობესებული ინსტრუქციების შესრულება და ხელსაწყოების უკეთ გამოყენება. მოდელის წონები Hugging Face-ზე 2026 წლის 24 ივლისს გამოქვეყნდა Apache 2.0-ის ლიცენზიით.

მულტიმოდალურობა დანერგილია ადრეული შერწყმით: სურათები ტოკენიზდება Emu3.5-ის ტოკენიზატორით, აუდიო კი WavTokenizer-ით, და ტექსტის იმავე მიმდევრობაში დისკრეტულ ტოკენებად შედის. მოდელებს ესმით სურათები და აუდიო, თუმცა გენერირებენ მხოლოდ ტექსტს.

სწავლების პროცესი

მოდელებმა გაიარეს გაგრძელებული წინასწარი სწავლება დამატებითი 4 ტრილიონი ტოკენით 8B-სთვის და 2 ტრილიონი 70B-სთვის, რითაც ჯამური მაჩვენებლები 19 და 17 ტრილიონამდე გაიზარდა. წინასწარი სწავლება ოთხ ეტაპად მიმდინარეობდა: დაუწყვილებელი (ტექსტი, სურათები, აუდიო), დაწყვილებული (სურათი-წარწერა და აუდიო-ტრანსკრიპტი წყვილები), გაგრილება (უფრო მაღალხარისხიანი მონაცემები მათემატიკითა და კოდით) და გრძელი კონტექსტის გაფართოება 8k-დან 262k ტოკენამდე. ყველა სასწავლო ტოკენის ნახევარზე მეტი კვლავ მხოლოდ ტექსტია, რაც ინახავს Apertus 1.0-ის ენობრივ შესაძლებლობებს.

სწავლების შემდგომი ეტაპი და გასწორება

სწავლების შემდგომი ეტაპი ხუთ ნაწილად წარიმართა: SFT 3,7 მილიონ ტექსტურ ნიმუშზე, დამატებით სურათებისა და მეტყველების მონაცემებზე; გრძელი კონტექსტის SFT სრული 262k ფანჯრით; RL შემოწმებადი ჯილდოებით დაახლოებით 350k პრომპტზე; DPO მოსამართლის მიერ შეფასებული წყვილებით; და SDPO ქარტიასთან გასწორებისთვის. მსჯელობის კვალები დაემატა მხოლოდ იმ პრომპტებს, რომლებსაც მოდელი მათ გარეშე ვერ ხსნიდა. ხელსაწყოების გამოყენების მონაცემები შემოიფარგლა მხოლოდ შესრულებით გადამოწმებული ტრაექტორიებით. შუალედური ჩეკპოინტები და შერჩეული მონაცემთა ნაკრებები საჯაროდ ხელმისაწვდომია Hugging Face-ზე.

შეფასება და გამეორებადობა

შეფასება გაფართოვდა მულტიმოდალური და აზროვნების რეჟიმის ბენჩმარკებით. Apertus 1.5 8B აჯობებს მსგავსი ზომის ღია წონის მოდელებს ინსტრუქციების შესრულებასა და მრავალენოვან ამოცანებში, ასევე კონკურენტუნარიანია მულტიმოდალურ შეფასებებში სივრცით და დოკუმენტურ გაგებაში. პროექტი თანამშრომლობს EvalEval Coalition-თან და აქვეყნებს შედეგებს Every Eval Ever სქემით, სადაც დაფიქსირებულია გაშვების პირობები და გენერაციის პარამეტრები სრული გამჭვირვალობისთვის.

მოდელები ხელმისაწვდომია ისეთ პროვაიდერებთან, როგორებიცაა Swisscom, Infomaniak და Phoeniqs, და Hugging Face-ზე მათ ხუთ მილიონ ჩამოტვირთვას გადააჭარბეს. ციურიხში AI+X Summit-ზე გუნდმა გამოაცხადა Apertus 2.0-ის გეგმა, რომელიც მიზნად ისახავს sparse/MoE არქიტექტურას დაახლოებით 600B ჯამური პარამეტრით, ხოლო პრიორიტეტებია აგენტები, მათემატიკა და პროგრამირება.

წყაროები: Hugging Face Blog