Cloudflare: انكشاف ذاكرة KV في Workers AI لـ GLM-5.3 وإصلاح SGLang

أبلغت Cloudflare عن مشكلة عزل المستأجرين أثرت على نموذج GLM-5.3 في Workers AI، المُدرَج باسم @cf/zai-org/glm-5.3، بعد أن نبّه الشركة باحث أمني إلى انكشاف ذاكرة KV عبر الطلبات. وقالت Cloudflare إن المشكلة بدأت في 27 أغسطس 2026، وتم معالجتها، وأُعيد تشغيل النموذج في 9 سبتمبر. وأكّدت الشركة أن أي نموذج آخر مستضاف على Workers AI لم يتأثر.

ما حدث

قالت Cloudflare إن الانكشاف نتج عن مشكلتين متداخلتين. لقد نشرت GLM 5.3 بنافذة سياق من 1,048,576 رمز، لكن تجمع ذاكرة KV على وحدات GPU للتعبئة المسبقة كان يتسع فقط لـ 681,280 رمز. وكانت المشكلة الثانية في طريقة تعامل SGLang، محرك الاستدلال مفتوح المصدر الذي تستخدمه Cloudflare، مع الطلبات التي تتجاوز الطول في وضع التعبئة المسبقة وفك التشفير المنفصلين. أُشير إلى أن الموجّه الذي لا يتسع للتجمع مرفوض واستُبدل بعنصر نائب من رمز واحد، لكن التعبئة المسبقة أنشأت ذاكرة KV للعنصر النائب ونقلتها إلى عقدة فك التشفير. افترضت عقدة فك التشفير أن التعبئة المسبقة قد استبدلت ذاكرة KV بالموجّه الكامل، بينما بقي معظم الحالة السابقة سليمة، فأنشأت استجابة وهي تقرأ صفحات قديمة من ذاكرة التخزين المؤقت. في المجموع، تأثرت 155 استجابة، جميعها لموجّهات أطول من 681,280 رمز. وقالت Cloudflare إنها لم تجد دليلاً على استغلال متعمد.

الاستجابة والمعالجة

وفق Cloudflare، تلقت التقرير من Gadi Evron من Knostic في 8 سبتمبر 2026. وأعادت Cloudflare إنتاج المشكلة في صباح اليوم التالي وأوقفت النموذج عن العمل خلال 40 دقيقة من إعلان حادث. لتصحيح الإعداد، عدّلت Cloudflare إعداد GLM 5.3 ليتوافق مع إعداد GLM 5.2، مما حرّر ذاكرة GPU كافية لكي يحتوي تجمع KV للتعبئة المسبقة على نحو 2.04 مليون رمز، أي تقريباً ضعف طول السياق 1,048,576 رمز. كما أصلحت المحرك بحيث يُلغى أي طلب يحمل رفضاً معلقاً في قائمة قبول الفصل، مع خطأه الأصلي، قبل أي تهيئة أولية أو تخصيص أو نقل KV. وتحققت Cloudflare من التغييرات مقابل سكربت إعادة إنتاج الباحث واختبارات علامات التحذير (canary marker) الخاصة بها قبل إعادة تشغيل النموذج.

إصلاحات المشروع الأصلي والتعزيز

نشرت Cloudflare التقرير إلى جانب منشور من SGLang كإفصاح منسق. وقالت إن تصحيح المشكلة أُصدر في SGLang v0.5.20، مع متابعات في v0.5.21 وv0.5.22، وتوصي بشدة جميع المشغلين بتحديث تبعيات SGLang إلى v0.5.22 أو أحدث. كما دمج القائمون على الصيانة تغييراً يرفض هذه الطلبات في وقت أبكر، وفق نهج Cloudflare. وقالت Cloudflare إن GLM 5.3 كان النموذج الوحيد المتأثر بهذا الخلل، وقد طبّقت إصلاح المحرك والتشديد على كل نموذج تخدمه عبر SGLang. وأصبحت فحوصات النشر تطلب تلك التغييرات لكل نشر جديد. وتوصي Cloudflare المشغلين بقياس حجم تجمع KV مقابل طول السياق في كل عقدة تعبئة مسبقة وفك تشفير، والترقية إلى v0.5.22 أو أحدث، والتشغيل مع التحرير المؤجّل لذاكرة KV في كلا الدورين، وتحديد دفعات نقل Mooncake، وتمكين كشف التلف حيثما كان مدعوماً.

المصادر: Cloudflare