Cloudflare Clef-omni'yi ekledi, Clef-flash fiyatını düşürdü ve Clef'i hızlandırdı

Clef-omni'ye ses ve video eklendi

Cloudflare, tek bir istekte wav veya mp3 ses, mp4 veya webm video, görsel ve metin alan açık ağırlıklı karar modeli Clef-omni'yi tanıttı. Şirkete göre, bu karar modelleri, TypeSafe'in Jev lansmanından beri yerleşik hale gelen metin odaklı yaklaşımın ötesine geçer ve karar vermeden önce konuşmayı metne dönüştürme veya medya ayrıştırma boru hatlarının zincirli kullanımını gerektirmez. Ağırlıklar Hugging Face üzerinde mevcuttur.

Cloudflare'e göre, Clef-omni, Qwen3-Omni-30B-A3B-Instruct uzmanlarının karışımına dayanarak oluşturulmuştur. Temel algı motorunu korur ve metni sese dönüştüren çıktı bileşenlerini kullanmaz. Çıktı üretiminde model, tüm yük üzerinde hızlı prefill geçişini tamamlar, tüm modaliteleri ve geçerli parametre varyantını eşzamanlı olarak değerlendirir ve çıktı tokenlerini üretmeyi atlar, çünkü Clef modelleri büyük dil modelleri değildir. Ses ve video, görsel karelerle birlikte tek bir akışta işlenmek üzere birleştirilir, ardından aday değerler, iki aşamalı dikkat yönlendirmesi ile iç gömülerden, sözdizimsel dilbilgisi şemasıyla sınırlı değerlendirme için çıkarılır.

Fiyatlar ve bağlam penceresi değişikliği

Clef-flash fiyatı artık milyon giriş tokeni başına $0,09 yerine $0,038. Cloudflare'e göre, optimizasyonlar performansı koruyarak Clef-flash'ı Jev üzerinde ucuzlatıyor. Clef, milyon giriş tokeni başına $0,24'te kalırken, Clef-omni'nin başlangıç fiyatı milyon giriş tokeni başına $0,15. Barındırılan Clef-flash'ın bağlam penceresi artık önceden duyurulan 64k yerine 24k. Cloudflare'e göre, Hugging Face ağırlıkları değişmez ve kendi kendine barındırma için 256k desteğine sahip olacak şekilde eğitilirken, kullanım verileri isteklerin yalnızca %0,24'ünün 24k giriş tokenini aştığını gösteriyor. Clef 64k'ta kalıyor.

Daha hızlı servis ve açıklanan sonuçlar

Cloudflare'e göre, Workers AI üzerinde barındırılan Clef'in çıkarımı yeni model ağırlıkları olmadan daha hızlıdır; şirket bunu servis altyapısındaki çalışmalara, örneğin SGLang'a geçişe bağlıyor. Şirket, SGLang ekibiyle birlikte Clef desteği için pull request'leri üzerinde çalıştı, bunlar arasında SGLang 0.5.22'de planlanan PR #42721 yer alıyor. Açıklanan medyan ve p95 gecikme, yaklaşık 800 token'de 262 ve 438 ms'den 152 ve 351 ms'ye, yaklaşık 3.400 token'de 616 ve 777 ms'den 305 ve 531 ms'ye ve yaklaşık 16.000 token'de 2.721 ve 3.250 ms'den 1.635 ve 1.805 ms'ye düştü.

Clef-omni'nin açıklanan örnekleri arasında BFCL case exact'te 98,2 ve PhishNChips doğruluğunda 73,2 yer alıyor, ancak Cloudflare sonuçların kıyaslamalara göre değiştiğini belirtiyor. Cloudflare tarafından listelenen dahili kullanım durumları arasında genel GitHub docs deposundaki spam sorunlarının tespit edilmesi, EmDash eklentilerinin kütüphaneleri için kimlik avı moderasyonu, kimlikler ve diğer PII üzerinde veri sızıntısı önleme taraması ve tehdit istihbaratında zararlı alan adlarının tespit edilmesi bulunuyor. Clef, tamamen Jev API ile uyumlu olarak tanımlanır ve model ID'sinin değiştirilmesi yoluyla AI Gateway üzerinden erişilebilir.

Kaynaklar: The Cloudflare Blog