Cloudflare-ը ավելացրեց Clef-omni-ն, իջեցրեց Clef-flash-ի գինը և արագացրեց Clef-ը

Clef-omni-ն ավելանում է աուդիոյով և վիդեոյով

Cloudflare-ը ներկայացրեց Clef-omni-ն՝ բաց կշռերով որոշումների ընդունման մոդել, որը մեկ հարցմամբ ստանում է wav կամ mp3 աուդիո, mp4 կամ webm վիդեո, պատկերներ և տեքստ: Ըստ ընկերության՝ այս որոշումների մոդելները տեքստի վրա հիմնված մոտեցումից անցնում են TypeSafe-ի Jev-ի դեբյուտից հետո ձևավորված մոտեցման, և այլևս չեն պահանջում խոսքի տեքստի վերածելու կամ մեդիայի բաժանման հանգույցային համակարգերի շղթայական կիրառումը որոշում կայացնելուց առաջ: Տվյալները հասանելի են Hugging Face-ում:

Ըստ Cloudflare-ի՝ Clef-omni-ն ստեղծված է Qwen3-Omni-30B-A3B-Instruct փորձագետների խառնուրի հիմքի վրա: Այն պահպանում է հիմնական ընկալման մեխանիզմը և չի օգտագործում տեքստի ձայնի վերածման արտադրային բաղադրիչները: Արտադրության մեջ մոդելը կատարում է արագ prefill-անցում ամբողջ payload-ում, միաժամանակ գնահատում է բոլոր մոդալությունները և վավեր պարամետրերի տարբերակը, և բաց թողնում է արտածվող թոկենների գեներացիան, քանի որ Clef-ի մոդելները մեծ լեզվական մոդելներ չեն: Աուդիոն և վիդեոն ներկայացված են ընդհանուր հաջորդականության մեջ տեսողական կադրերի հետ միասին ինտեգրված մշակման համար, հետո թեկնածու արժեքները հանված են ներքին embeddings-ից երկուփուլ attention-մարշրուտիզացմամբ՝ բառական քերականությամբ սահմանափակ գնահատման համար:

Գները և համատեքստի պատուհանի փոփոխությունը

Clef-flash-ի գինը հիմա $0,038 է միլիոն մուտքային թոկենի համար՝ $0,09-ի փոխարեն: Ըստ Cloudflare-ի՝ օպտիմիզացումները դարձնում են Clef-flash-ը Jev-ի գնով ավելի էժան՝ պահպանելով կատարման ունակությունը: Clef-ը մնում է $0,24-ում միլիոն մուտքային թոկենի համար, իսկ Clef-omni-ի սկզբնական գինը $0,15 է միլիոն մուտքային թոկենի համար: Հոսթինգում գործարկված Clef-flash-ի համատեքստի պատուհանը հիմա 24k է՝ ավելի վաղ գովազդատու 64k-ի փոխարեն: Ըստ Cloudflare-ի՝ Hugging Face-ի կշռերը անփոփոխ են և վերապատրաստված են 256k-ին աջակցելու համար ինքնահոսթինգի համար, մինչդեռ օգտագործման տվյալները ցույց են տալիս, որ հարցումների միայն 0,24%-ը գերազանցում է 24k մուտքային թոկենը: Clef-ը մնում է 64k-ում:

Ավելի արագ սպասարկում և հայտարարված արդյունքներ

Ըստ Cloudflare-ի տեղեկատվության՝ Workers AI-ում հոսթինգում գործարկված Clef-ի եզրակացությունը ավելի արագ է նոր մոդելի կշռերի առակ; ընկերությունը սա վերագրում է սպասարկող ենթակառուցվածքի աշխատանքներին, օրինակ՝ անցմանը SGLang-ի վրա: Ընկերությունը միասին աշխատել է SGLang-ի թիմի հետ Clef-ին աջակցելու pull request-ների վրա, այդ թվում՝ PR #42721-ում, որը նախատեսված է SGLang 0.5.22-ում: Հայտարարված մեդիանական և p95 ուշումը նվազել է 262-ից 152 և 438-ից 351 ms-ի վրա՝ մոտ 800 թոկենի համար, 616-ից 305 և 777-ից 531 ms-ի վրա՝ մոտ 3 400 թոկենի համար, իսկ 2 721-ից 1 635 և 3 250-ից 1 805 ms-ի վրա՝ մոտ 16 000 թոկենի համար:

Clef-omni-ի հայտարարված օրինակների թվում են 98,2 BFCL-ի case exact-ում և 73,2 PhishNChips-ի ճշտության վրա, սակայն Cloudflare-ը նշում է, որ արդյունքները տարբերվում են ըստ համեմատական մեթոդների: Cloudflare-ի կողմից թվարկված ներքին օգտագործման դեպքերը ներառում են սպամային issue-երի հայտնաբերումը իր հանրային GitHub-ի docs պահոցում, ֆիշինգի մոդերացիան EmDash-ի հավելվածների գրադարանների համար, տվյալների կորստի կանխարգելու սկանավորումը պետական ID-երի և այլ PII-ի վրա, ինչպես նաև չարամիտ դոմենների հայտնաբերումը վտանգների դիտարկման մեջ: Clef-ը նկարագրված է որպես ամբողջությամբ համատեղելի Jev API-ի հետ և հասանելի է AI Gateway-ի միջոցով՝ փոխելով մոդելի ID-ն:

Աղբյուրներ՝ The Cloudflare Blog