Cloudflare מדווחת על חשיפת מטמון KV ב-GLM-5.3 Workers AI ועל תיקון ב-SGLang

Cloudflare דיווחה על בעיית בידוד דיירים שהשפיעה על דגם GLM-5.3 Workers AI שלה, המזוהה כ-@cf/zai-org/glm-5.3, לאחר שחוקר אבטחה התריע בפני החברה על חשיפת מטמון KV בין בקשות. Cloudflare אמרה כי הבעיה החלה ב-27 באוגוסט 2026, תוקנה, והדגם שוחזר ב-9 בספטמבר. החברה אישרה שאף דגם אחר המתארח ב-Workers AI לא נפגע.

מה קרה

Cloudflare אמרה כי החשיפה נגרמה משתי בעיות חופפות. היא פרסה את GLM 5.3 עם חלון הקשר של 1,048,576 טוקנים, אך היה במאגר מטמון ה-KV על כרטיסי ה-GPU לפריפיל שלה מקום ל-681,280 טוקנים בלבד. בעיה שנייה הייתה בדרך שבה SGLang, מנוע ההסקה בקוד פתוח ש-Cloudflare משתמשת בו, טיפל בבקשות החורגות מהאורך במצב פריפיל ופענוח מופרדים. הנחיה שלא התאימה למאגר סומנה כנדחית והוחלפה בממלא מקום בטוקן אחד, אך הפריפיל יצר את מטמון ה-KV עבור ממלא המקום והעביר אותו לצומת הפענוח. צומת הפענוח הניח שהפריפיל דרס את מטמון ה-KV בהנחיה המלאה, בעוד שרוב המצב הקודם נשמר בשלמותו, ולכן הוא יצר תגובה תוך גישה לעמודים מיושנים במטמון. בסך הכול, 155 תגובות הושפעו, כולן להנחיות ארוכות מ-681,280 טוקנים. Cloudflare אמרה כי היא לא מצאה עדות לניצול מכוון.

תגובה ותיקון

לפי Cloudflare, החברה קיבלה את הדוח מגדי עברון מ-Knostic ב-8 בספטמבר 2026. Cloudflare שחזרה את הבעיה למחרת בבוקר והוציאה את הדגם לאורליין תוך 40 דקות מהכרזה על תקר. כדי לתקן את התצורה, Cloudflare כיוונה את הגדרת GLM 5.3 שלה להתאים להגדרת GLM 5.2, מה ששיחרר מספיק זיכרון GPU כדי שמאגר ה-KV לפריפיל יוכל להכיל כ-2.04 מיליון טוקנים, כפי שניים מאורך ההקשר של 1,048,576 טוקנים. היא גם תיקנה את המנוע כך שבקשה הנושאת דחייה ממתינה תוסר מתור הכניסה המופרד, עם השגיאה המקורית שלה, לפני ביצוע bootstrap, הקצאה, או העברת KV. Cloudflare אימתה את השינויים מול סקריפט השחזור של החוקר ומול בדיקות סימון הקנארי שלה לפני שחזור הדגם.

תיקונים במקור וחיזוק

Cloudflare פרסמה את הדוח לצד פוסט מ-SGLang כחשיפה מתואמת. היא אמרה שהתיקון לבעיה שוחרר ב-SGLang v0.5.20, עם עדכוני המשך ב-v0.5.21 וב-v0.5.22, והיא ממליצה בחום לכל המפעילים לעדכן תלויות של SGLang לגרסה v0.5.22 ואילך. המתחזקים מיזגו גם שינוי שדוחה בקשות אלה בשלב מוקדם יותר, לפי הגישה של Cloudflare. Cloudflare אמרה ש-GLM 5.3 היה הדגם היחיד שנפגע מהבאג הזה, והיא החילה את תיקון המנוע ואת החיזוק על כל דגם שהיא מגישה עם SGLang. בדיקות הפריסה שלה דורשות עתה את השינויים האלה לכל פריסה חדשה. Cloudflare ממליצה למפעילים למדוד את גודל מאגר ה-KV מול אורך ההקשר בכל צומת פריפיל ופענוח, לשדרג ל-v0.5.22 ואילך, להריץ עם שחרור KV דחוי בשני התפקידים, להגביל אצוות העברת Mooncake, ולהפעיל זיהוי שחיתות במידה ויש תמיכה.

מקורות: Cloudflare