Cloudflare-მა დაამატა Clef-omni, შეამცირა Clef-flash-ის ფასი და დააჩქარა Clef

Clef-omni-ს ემატება აუდიო და ვიდეო

Cloudflare-მა წარადგინა Clef-omni-ს, ღია წონის გადაწყვეტილების მიღების მოდელი, რომელიც ერთი მოთხოვნით იღებს wav ან mp3 აუდიოს, mp4 ან webm ვიდეოს, სურათებსა და ტექსტს. კომპანიის თქმით, ეს გადაწყვეტილების მოდელებს ტექსტზე ორიენტირებული მიდგომის მიღმა გადააქვს, რომელიც TypeSafe-ის Jev-ის დებიუტის შემდეგ დამკვიდრდა, და აღარ საჭიროებს მეტყველების ტექსტად გადაქცევის ან მედიის დაყოფის პაიპლაინების ჯაჭვურად გამოყენებას გადაწყვეტილების მიღებამდე. წონები ხელმისაწვდომია Hugging Face-ზე.

Cloudflare-ის თქმით, Clef-omni აგებულია Qwen3-Omni-30B-A3B-Instruct ექსპერტთა ნარევის საფუძველზე. ის ინარჩუნებს ძირითად აღქმის ხერხემალს და აღარ იყენებს ტექსტის ხმად გადაქცევის გამომავალ კომპონენტებს. წარმოებაში მოდელი ასრულებს სწრაფ prefill-გავლას მთელ payload-ზე, ერთდროულად აფასებს ყველა მოდალობას და ვალიდურ პარამეტრის ვარიანტს, და გამოტოვებს გამომავალი ტოკენების გენერაციას, რადგან Clef-ის მოდელები არ არიან დიდი ენობრივი მოდელები. აუდიო და ვიდეო აისახება ერთიან თანმიმდევრობაში ვიზუალურ კადრებთან ერთად ერთობლივი დამუშავებისთვის, შემდეგ კანდიდატი მნიშვნელობები ამოღებულია შიდა embeddings-იდან ორსაფეხურიანი attention-მარშრუტიზაციით, ლექსიკური გრამატიკით სქემით შეზღუდული შეფასებისთვის.

ფასები და კონტექსტის ფანჯრის ცვლილება

Clef-flash-ის ფასი ახლა $0,038-ია მილიონ შეყვანის ტოკენზე, $0,09-ის ნაცვლად. Cloudflare-ის თქმით, ოპტიმიზაციები Clef-flash-ს Jev-ზე იაფს ხდის, შესრულების უნარის შენარჩუნებით. Clef რჩება $0,24-ზე მილიონ შეყვანის ტოკენზე, ხოლო Clef-omni-ს საწყისი ფასი $0,15-ია მილიონ შეყვანის ტოკენზე. ჰოსტინგში გაშვებული Clef-flash-ის კონტექსტის ფანჯარა ახლა 24k-ია, ადრე რეკლამირებული 64k-ის ნაცვლად. Cloudflare-ის თქმით, Hugging Face-ის წონები უცვლელია და გაწვრთნილია 256k-ის მხარდასაჭერად თვითჰოსტინგისთვის, მაშინ როცა გამოყენების მონაცემები აჩვენებს, რომ მოთხოვნების მხოლოდ 0,24% სცდება 24k შეყვანის ტოკენს. Clef რჩება 64k-ზე.

უფრო სწრაფი სერვისირება და გამოცხადებული შედეგები

Cloudflare-ის ცნობით, Workers AI-ზე ჰოსტინგში გაშვებული Clef-ის ინფერენსი უფრო სწრაფია ახალი მოდელის წონების გარეშე; კომპანია ამას სერვისული ინფრასტრუქტურის სამუშაოებს, მაგალითად SGLang-ზე გადასვლას, მიაწერს. კომპანია SGLang-ის გუნდთან ერთად მუშაობდა pull request-ებზე Clef-ის მხარდასაჭერად, მათ შორის PR #42721-ზე, რომელიც SGLang 0.5.22-შია დაგეგმილი. გამოცხადებული მედიანური და p95 დაყოვნება შემცირდა 262 და 438 ms-დან 152 და 351 ms-მდე დაახლოებით 800 ტოკენზე, 616 და 777 ms-დან 305 და 531 ms-მდე დაახლოებით 3 400 ტოკენზე, და 2 721 და 3 250 ms-დან 1 635 და 1 805 ms-მდე დაახლოებით 16 000 ტოკენზე.

Clef-omni-ს გამოცხადებულ მაგალითებს შორისაა 98,2 BFCL-ის case exact-ზე და 73,2 PhishNChips-ის სიზუსტეზე, თუმცა Cloudflare აღნიშნავს, რომ შედეგები ბენჩმარკების მიხედვით განსხვავდება. Cloudflare-ის მიერ ჩამოთვლილი შიდა გამოყენების შემთხვევები მოიცავს სპამური issue-ების აღმოჩენას მის საჯარო GitHub-ის docs რეპოზიტორიაში, phishing-ის მოდერაციას EmDash-ის პლაგინების ბიბლიოთეკებისთვის, მონაცემთა დაკარგვის პრევენციის სკანირებას სამთავრობო ID-ებსა და სხვა PII-ზე, და მავნე დომენების აღმოჩენას საფრთხეების დაზვერვაში. Clef აღწერილია როგორც სრულად Jev API-სთან თავსებადი და ხელმისაწვდომია AI Gateway-ის მეშვეობით მოდელის ID-ის შეცვლით.

წყაროები: The Cloudflare Blog