Cloudflare Clef-omni əlavə etdi, Clef-flash qiymətini endirdi və Clef-i sürətləndirdi

Clef-omni-yə audio və video əlavə olunur

Cloudflare Clef-omni-ni təqdim etdi, açıq çəkili qəbul qərarı modeli, ki tək bir sorğu ilə wav və ya mp3 audio, mp4 və ya webm video, şəkillər və mətn qəbul edir. Şirkətin dediyinə, bu mətnə əsaslanan yanaşmada qəbul modellərini irəli aparır, ki bu TypeSafe-in Jev-in debütündən sonra möhkəmlənib, və qəbul qərarlarından əvvəl səsin mətnə çevrilməsi və ya medianın bölünməsi pipeline-lərinin zəncirvari istifadəsini tələb etmir. Çəkilər Hugging Face-də mövcuddur.

Cloudflare-in dediyinə, Clef-omni Qwen3-Omni-30B-A3B-Instruct ekspertlərinin qarışığına əsaslanır. O, əsas emal mexanizmini saxlayır və mətni səsə çevirmə komponentlərindən istifadə etmir. Emal zamanı model bütün payload üzərində sürətli prefill keçicini yerinə yetirir, eyni vaxtda bütün modalıqları və etibarlı parametr variantını qiymətləndirir və çıxış tokenlərinin generasiyasını buraxır, çünki Clef modelləri böyük dil modelləri deyil. Audio və video vizual kadrlarla birlikdə vahid ardıcıllığa əks etdirilir və daha sonra namizəd dəyərləri iki mərhələli attention-routing ilə daxili embeddings-dən çıxarılır, ləğv qrammatikası ilə məhdudlaşdırılan qiymətləndirmə üçün.

Qiymətlər və kontekst pəncərəsinin dəyişikliyi

Clef-flash-in qiyməti indi milyon giriş tokeni üçün $0,038-dir, əvvəl $0,09 idi. Cloudflare-in dediyinə, optimizasiyalar Clef-flash-ı Jev üzərində ucuzlaşdırır, performansı qoruyaraq. Clef milyon giriş tokeni üçün $0,24-də qalır, halbuki Clef-omni-nin başlanğıc qiyməti milyon giriş tokeni üçün $0,15-dir. Hostinqdə işləyən Clef-flash-in kontekst pəncərəsi indi 24k-dir, əvvəl reklam olunan 64k əvəzinə. Cloudflare-in dediyinə, Hugging Face çəkiləri dəyişməz və öz hostinq üçün 256k dəstəkləmə üçün təkmilləşdirilib, halbuki istifadə məlumatları göstərir ki, sorğuların yalnız 0,24%-i 24k giriş tokenindən artıqdır. Clef 64k-də qalır.

Daha sürətli hostinq və elan edilən nəticələr

Cloudflare-ə görə, Workers AI-də hostinqdə işləyən Clef-in inferensiya əlavə yeni model çəkilərindən daha sürətlidir; şirkət bunu xidmət infrastrukturuna işlərə, məsələn SGLang-a keçidlə əlaqələndirir. Şirkət SGLang komandası ilə birlikdə Clef dəstəkləmək üçün pull request-lər üzərində işləyib, onların arasında SGLang 0.5.22-də planlaşdırılan PR #42721. Elan edilən median və p95 gecikmə təxminən 800 tokendə 262 və 438 ms-dən 152 və 351 ms-ə qədər azaldılıb, təxminən 3 400 tokendə 616 və 777 ms-dən 305 və 531 ms-ə, və təxminən 16 000 tokendə 2 721 və 3 250 ms-dən 1 635 və 1 805 ms-ə qədər.

Clef-omni-nin elan edilən nümunələri arasında BFCL case exact-də 98,2 və PhishNChips dəqiqliyində 73,2 var, lakin Cloudflare qeyd edir ki, nəticələr benchmark-lərə əsasən fərqlənir. Cloudflare tərəfindən sadalanan daxili istifadə halları arasında onun ümumi GitHub docs repozitoriyasında spam issue-lərin aşkarlanması, EmDash plaginləri kitabxanaları üçün phishing moderasiyası, dövlət ID-ləri və digər PII üçün məlumatların itməsinin qarşısının alınması skanlaması və təhlükəsizlik aşkarlama zamanı zərərli domenlərin aşkarlanması var. Clef tamamilə Jev API ilə uyğun gələn və AI Gateway vasitəsilə model ID-sinin dəyişdirilməsilə əlçatan kimi təsvir olunub.

Mənbələr: The Cloudflare Blog