Cloudflare הוסיפה את Clef-omni, הוזילה את Clef-flash והאיצה את Clef

Clef-omni מקבל שמע ווידאו

Cloudflare הציגה את Clef-omni, מודל לקבלת החלטות במשקל פתוח המעבד שמע בפורמט wav או mp3, וידאו בפורמט mp4 או webm, תמונות וטקסט בבקשה אחת. לפי החברה, מודל זה מעביר את מודלי קבלת ההחלטות מעבר לגישה הממורכזת טקסט, שהתבססה אחרי הבכורה של Jev של TypeSafe, ואינו דורש שימוש בשרשרת של צינורות המרת דיבור לטקסט או פיצול מדיה לפני קבלת ההחלטה. המשקלים זמינים ב-Hugging Face.

לפי Cloudflare, Clef-omni בנוי על בסיס תמסורת מומחים של Qwen3-Omni-30B-A3B-Instruct. הוא שומר על מנוע ההבנה הבסיסי ואינו משתמש ברכיבי פלט של המרת טקסט לדיבור. בייצור, המודל מבצע prefill מהיר על כל ה-payload, מעריך בו-זמנית את כל המודליות ווריאנט פרמטרים תקף, ומדלג על יצירת טוקני הפלט, מכיוון שמודלי Clef אינם מודלי שפה גדולים. שמע ווידאו משולבים ברצף אחד יחד עם מסגרות חזותיות לעיבוד אחיד, ולאחר מכן ערכי מועמדים נשלפים מ-embeddings פנימיים באמצעות מסלול-דרכים של attention עם דירוג לקסיקלי מוגבל בסכמת דקדוק להערכה.

מחירים ושינוי חלון ההקשר

מחיר Clef-flash הוא כעת $0.038 למיליון טוקן קלט, במקום $0.09. לפי Cloudflare, אופטימיזציות הופכות את Clef-flash לזול יותר מ-Jev תוך שמירה על ביצועים. Clef נשאר ב-$0.24 למיליון טוקן קלט, ומחיר ההתחלה של Clef-omni הוא $0.15 למיליון טוקן קלט. חלון ההקשר של Clef-flash המאורח ב-Hugging Face הוא כעת 24k, במקום 64k שפורסם בעבר. לפי Cloudflare, המשקלים ב-Hugging Face נותרו ללא שינוי והותאמו לתמיכה ב-256k לאירוח עצמי, בעוד נתוני השימוש מראים שרק 0.24% מהבקשות חורגות מ-24k טוקני קלט. Clef נשאר ב-64k.

שירות מהיר יותר ותוצאות שפורסמו

לפי Cloudflare, ההסקה של Clef המאורח ב-Workers AI מהירה יותר ללא משקלי המודל החדש; החברה מייחסת זאת לעבודות תשתית, כגון מעבר ל-SGLang. החברה עבדה עם צוות SGLang על pull requests לתמיכה ב-Clef, בהם PR #42721, שמתוכנן ל-SGLang 0.5.22. העיכוב החציוני ו-p95 שפורסם ירד מ-262 ו-438 ms ל-152 ו-351 ms בערך על 800 טוקנים, מ-616 ו-777 ms ל-305 ו-531 ms בערך על 3,400 טוקנים, ומ-2,721 ו-3,250 ms ל-1,635 ו-1,805 ms בערך על 16,000 טוקנים.

בין הדוגמאות שפורסמו ל-Clef-omni נמצאים 98.2 ב-BFCL case exact ו-73.2 בדיוק PhishNChips, אם כי Cloudflare מציינת כי התוצאות משתנות בהתאם לבנצ'מרקים. מקרי השימוש הפנימיים שCloudflare מנתה כוללים זיהוי issues ספאם במאגר ה-docs הציבורי של GitHub שלה, מודרציית פישינג עבור ספריות תוספים של EmDash, סריקה למניעת אבדן נתונים על מזהי ID ממשלתיים ו-PII נוסף, וזיהוי דומיינים זדוניים בניטור איומים. Clef מתואר כתואם לחלוטין ל-Jev API וזמין באמצעות AI Gateway עם החלפת מזהה מודל.

מקורות: The Cloudflare Blog