Gemma 4 12B: DeepMind представила мультимодальну модель без енкодерів

3 червня 2026 року Google DeepMind представила Gemma 4 12B — відкриту модель, яка, за описом компанії, приносить агентний мультимодальний інтелект безпосередньо на ноутбуки. Вона займає місце між полегшеною E4B та потужнішою 26B Mixture of Experts (MoE), вміщуючи більше можливостей у меншому обсязі пам'яті, і це перша середня модель Gemma з нативним аудіовходом.

Що пропонує модель

За даними Google, Gemma 4 12B показує результати, близькі до 26B MoE, на стандартних бенчмарках, але споживає менш ніж половину загального обсягу пам'яті. Її достатньо мало для локального запуску на споживчих ноутбуках із 16 ГБ VRAM або уніфікованої пам'яті, і вона поширюється за ліцензією Apache 2.0. Реліз також містить драфтери Multi-Token Prediction (MTP), покликані зменшити затримку. Google каже, що родина Gemma 4 подолала 150 мільйонів завантажень.

Уніфікована архітектура без енкодерів

Більшість мультимодальних моделей використовують окремі енкодери, щоб перетворювати зображення й аудіо перед передачею їх мовній моделі; за словами Google, такі розділені енкодери додають затримку й збільшують витрати пам'яті, тому Gemma 4 12B навчали без енкодерів. У частині зору візуальний енкодер замінено легким модулем вбудовування — одне матричне множення, позиційне вбудовування та нормалізації — і обробку зображень бере на себе сама мовна основа. В аудіо енкодер прибрали повністю, а сирий аудіосигнал проєктується в той самий простір вимірностей, що й текстові токени.

Доступність та інструменти

Спробувати модель можна в LM Studio, Ollama, застосунку Google AI Edge Gallery, застосунку AI Edge Eloquent і CLI LiteRT-LM. Попередньо навчені та донавчені контрольні точки доступні на Hugging Face і Kaggle. Локальні конвеєри інференсу можна будувати з Hugging Face Transformers, llama.cpp, MLX, SGLang і vLLM, а для ефективного донавчання пропонують Unsloth. Для продакшену Google вказує Gemini Enterprise Agent Platform Model Garden, Cloud Run і GKE, а також опублікувала офіційний репозиторій Skills для агентів, що працюють із Gemma.

Модель, здатна на мультимодальні задачі й така, що запускається на ноутбуці, скорочує розрив між локальним обладнанням і агентними робочими процесами, які досі вимагали хмари. Втім, наведені показники продуктивності — власні дані Google; незалежні оцінки Gemma 4 12B ще попереду.