Apertus 1.5-ը զինում է բաց 8B և 70B մոդելները մուլտիմոդալ ընկալմամբ և ավելի երկար կոնտեքստով

Հիմնական բարելավումները

Apertus 1.5-ը բաց 8B և 70B մոդելներին ավելացնում է մայրենի մուլտիմոդալ ընկալում, որը նախատեսում է տեքստի հետ միասին պատկերների և աուդիոյի ընդունում: Մոդելներն ունեն ընտրովի մտածողության ռեժիմ, 4 անգամ երկար կոնտեքստի պատուհան 262 144 տոկենով, բարելավված հրահանգների կատարում և գործիքների ավելի լավ օգտագործում: Մոդելի կշերը հրապարակվել են Hugging Face-ում 2026 թվականի հուլիսի 24-ին Apache 2.0 լիցենզիայով:

Մուլտիմոդալությունը ինտեգրված է վաղ միաձուլմամբ: պատկերները տոկենավորվում են Emu3.5 տոկենավորողով, աուդիոն՝ WavTokenizer-ով, և տեքստը նույն հաջորդականության մեջ դառնում է դիսկրետ տոկեններ: Մոդելները հասկանում են պատկերներ և աուդիո, սակայն գեներացնում են միայն տեքստ:

Ուսուցման գործընթացը

Մոդելները անցել են երկարատև նախնական ուսուցում լրացուցիչ 4 տրիլիոն տոկենով 8B-ի համար և 2 տրիլիոն 70B-ի համար, ինչի արդյունքում ընդհանուր ցուցանիշները աճել են մինչև 19 և 17 տրիլիոն: Նախնական ուսուցումը ընթացքում էր քառա փուլով: անկապ (տեքստ, պատկերներ, աուդիո), կապված (պատկեր-տեքստ և աուդիո-տրանսկրիպտ զույգեր), սառեցում (ավելի բարձր որակի տվյալներ մաթեմատիկայով և կոդով) և երկար կոնտեքստի ընդլայնում 8k-ից մինչև 262k տոկեն: Ուսուցման տոկենների կեսից ավելին կրկին միայն տեքստ է, ինչը պահպանում է Apertus 1.0-ի լեզվական հնարավորությունները:

Ուսուցման հետոյի փուլը և կարգավորումը

Ուսուցման հետոյի փուլը իրականացվել է հինգ մասով: SFT 3,7 միլիոն տեքստային օրինակի վրա, լրացուցիչ պատկերների և խոսքի տվյալների վրա; երկար կոնտեքստի SFT ամբողջական 262k պատուհանով; RL ստուգելի պարգևներով մոտավորապես 350k հուշումի վրա; DPO դատավորի կողմից գնահատված զույգերով; և SDPO քարտեզի հետ համապատասխանեցման համար: Որոշման հետքերը ավելացվել են միայն այն հուշումներին, որոնք մոդելը չէր կարող լուծել դրանց առանց: Գործիքների օգտագործման տվյալները սահմանափակվել են միայն կատարմամբ ստուգված տրաեկտորիաներով: Միջանկյալ կետերը և ընտրված տվյալների հավաքածուները հանրայնորեն հասանելի են Hugging Face-ում:

Գնահատում և կրկնելիություն

Գնահատումը ընդլայնվել է մուլտիմոդալ և մտածողության ռեժիմի բենչմարկերով: Apertus 1.5 8B-ն գերազանցում է նման չափի բաց կշռի մոդելներին հրահանգների կատարման և բազմալեզվի խնդիրների լուծման գործում, ինչպես նաև մրցունակ է մուլտիմոդալ գնահատումներում տարածքի և փաստաթղթային հասկանալու գործում: Նախագիծը համագործակցում է EvalEval Coalition-ի հետ և հրապարակում է արդյունքները Every Eval Ever սխեմայով, որտեղ գրանցված են թողարկման պայմանները և գեներացման պարամետրերը ամբողջական թափանցիկության համար:

Մոդելները հասանելի են այնպիսի մատակարարների հետ, ինչպիսիք են Swisscom, Infomaniak և Phoeniqs, և Hugging Face-ում նրանք գերազանցել են հինգ միլիոն ներբեռնումը: Ցյուրիխում AI+X Summit-ում թիմը հայտարարեց Apertus 2.0-ի պլանը, որը նպատակ ունի sparse/MoE ճարտարապետությունը մոտավորապես 600B ընդհանուր պարամետրով, իսկ առաջնահերթություններն են ագենտները, մաթեմատիկան և կոդավորումը:

Նյութերը: Hugging Face Blog