Gemma 4 12B. DeepMind-ը ներկայացրել է առանց կոդավորիչների մուլտիմոդալ մոդել

2026 թվականի հունիսի 3-ին Google DeepMind-ը ներկայացրել է Gemma 4 12B-ն՝ բաց մոդել, որը, ընկերության նկարագրությամբ, գործակալային մուլտիմոդալ ինտելեկտը հասցնում է ուղիղ նոթբուքեր։ Այն տեղավորվում է թեթև E4B-ի և ավելի հզոր 26B Mixture of Experts (MoE) մոդելի միջև՝ ավելի շատ հնարավորություններ պարունակելով ավելի փոքր հիշողության մեջ, և ընտանիքի առաջին միջին չափի մոդելն է, որն ունի բնիկ աուդիո մուտք։

Ինչ է առաջարկում մոդելը

Ըստ Google-ի՝ Gemma 4 12B-ն ստանդարտ բենչմարքներում մոտենում է 26B MoE մոդելի արդյունքներին, սակայն ծախսում է ընդհանուր հիշողության կիսից պակասը։ Այն բավական փոքր է 16 ԳԲ VRAM կամ միասնական հիշողություն ունեցող սովորական նոթբուքերում տեղային աշխատելու համար և տարածվում է Apache 2.0 արտոնագրով։ Թողարկումը ներառում է նաև Multi-Token Prediction (MTP) դրաֆթերներ՝ ուշացումը նվազեցնելու համար։ Google-ի տվյալներով՝ Gemma 4 ընտանիքը գերազանցել է 150 միլիոն ներբեռնումը։

Միասնական ճարտարապետություն՝ առանց կոդավորիչների

Մուլտիմոդալ մոդելների մեծ մասը պատկերներն ու աուդիոն լեզվական մոդելին փոխանցելուց առաջ վերամշակում է առանձին կոդավորիչներով. ըստ Google-ի՝ այդ առանձնացված կոդավորիչները ավելացնում են ուշացում և հիշողության ծախս, ուստի Gemma 4 12B-ն մարզվել է առանց կոդավորիչների։ Տեսողության մասում տեսողական կոդավորիչը փոխարինվել է թեթև ներկառուցման մոդուլով՝ մեկ մատրիցային բազմապատկում, դիրքային ներկառուցում և նորմալացումներ, և պատկերների մշակումը ստանձնում է լեզվական մոդելի հիմքը։ Աուդիոյում կոդավորիչը հանվել է ամբողջությամբ, և չմշակված աուդիո ազդանշանը պրոյեկտվում է տեքստային թոքենների նույն չափողական տարածություն։

Հասանելիություն և գործիքներ

Մոդելը կարելի է փորձարկել LM Studio-ում, Ollama-ում, Google AI Edge Gallery հավելվածում, AI Edge Eloquent հավելվածում և LiteRT-LM CLI-ում։ Նախապես մարզված և հրահանգներով նուրբ կարգավորված չեքփոինթները հասանելի են Hugging Face-ում և Kaggle-ում։ Տեղային ինֆերենսի խողովակաշարերը կարելի է կառուցել Hugging Face Transformers, llama.cpp, MLX, SGLang և vLLM գործիքներով, իսկ արդյունավետ նուրբ կարգավորման համար առաջարկվում է Unsloth։ Արտադրության համար Google-ը մատնանշում է Gemini Enterprise Agent Platform Model Garden-ը, Cloud Run-ը և GKE-ն, ինչպես նաև հրապարակել է պաշտոնական Skills պահոց՝ Gemma-ով աշխատող գործակալների համար։

Նոթբուքում աշխատող մուլտիմոդալ մոդելը կրճատում է տեղային սարքաշարի և մինչ այժմ ամպ պահանջող գործակալային հոսքերի միջև եղած հեռավորությունը։ Սակայն արդյունավետության թվերը Google-ի սեփական տվյալներն են, և Gemma 4 12B-ի անկախ գնահատականները դեռ սպասվում են։