Apertus 1.5, açık 8B ve 70B modellere çok modallı algılamayı ve daha uzun bağlamı ekliyor

Ana iyileştirmeler

Apertus 1.5, açık 8B ve 70B modellere metinle birlikte görsellerin ve sesin alınmasını sağlayan yerel çok modallı algılamayı ekler. Modeller, isteğe bağlı düşünme moduna, 262 144 tokenlik 4 kat daha uzun bağlam penceresine, geliştirilmiş talimat yerine getirmeye ve daha iyi araç kullanımına sahiptir. Model ağırlıkları, 24 Temmuz 2026'da Hugging Face üzerinde Apache 2.0 lisansıyla yayınlandı.

Çok modallılık erken birleştirme ile entegre edilmiştir: görseller Emu3.5 tokenizatörü ile, ses ise WavTokenizer ile tokenize edilir ve metin aynı dizide ayrık tokenlere dönüştürülür. Modeller görselleri ve sesi anlar, ancak yalnızca metin üretir.

Eğitim süreci

Modeller, 8B için ek 4 trilyon token ve 70B için 2 trilyon token ile uzatılmış ön eğitimden geçti; bu da toplam metrikleri 19 ve 17 trilyona yükseltti. Ön eğitim dört aşamada gerçekleşti: eşleştirilmemiş (metin, görseller, ses), eşleştirilmiş (görsel-metin ve ses-transkript çiftleri), ince ayar (matematik ve kod ile daha yüksek kaliteli veriler) ve 8k'den 262k token'e uzun bağlam genişletmesi. Tüm eğitim tokenlerinin yarısından fazlası yine yalnızca metindir; bu da Apertus 1.0'ın dil yeteneklerini korur.

Eğitim sonrası aşama ve hizalama

Eğitim sonrası aşama beş bölümde yürütüldü: 3,7 milyon metin örneği ve ek olarak görsel ve konuşma verileri üzerinde SFT; tam 262k pencere ile uzun bağlam SFT'si; doğrulanabilir ödüllerle yaklaşık 350k istem üzerinde RL; bir hakemin değerlendirdiği çiftlerle DPO; ve karta hizalama için SDPO. Muhakeme izleri yalnızca modelin bunları olmadan çözemediği istemlere eklendi. Araç kullanımı verileri yalnızca doğrulanmış yürüyüşlerle sınırlandırıldı. Ara noktalar ve seçili veri kümeleri Hugging Face üzerinde herkese açık olarak mevcuttur.

Değerlendirme ve tekrarlanabilirlik

Değerlendirme, çok modallı ve düşünme modu kıyaslamalarıyla genişletildi. Apertus 1.5 8B, talimat yerine getirme ve çok dilli görevlerde benzer boyuttaki açık ağırlıklı modelleri geride bırakır ve ayrıca görsel uzay ve belge anlamada çok modallı değerlendirmelerde rekabetçidir. Proje, EvalEval Coalition ile iş birliği yapar ve sonuçları Every Eval Ever şemasıyla yayınlar; burada dağıtım koşulları ve üretim parametreleri tam şeffaflık için kaydedilmiştir.

Modeller, Swisscom, Infomaniak ve Phoeniqs gibi sağlayıcılarla erişilebilir durumdadır ve Hugging Face üzerinde beş milyon indirmeyi aşmışlardır. Zürih'teki AI+X Summit'te ekip, Apertus 2.0 planını duyurdu; bu plan yaklaşık 600B toplam parametreyle sparse/MoE mimarisini hedefliyor ve öncelikler aracılar, matematik ve kodlama.

Kaynaklar: Hugging Face Blog