DeepSeek تكشف عن DSec: منصة بيئات معزولة لتدريب وكلاء الذكاء الاصطناعي على نطاق واسع

نشرت DeepSeek في 19 سبتمبر تقريرًا تقنيًا على arXiv عن DeepSeek Elastic Compute (DSec). الحديث ليس عن بيئة تشغيل منفصلة، بل عن نظام إنتاجي تستخدمه الشركة لتدريب النماذج الوكيلية وتقييمها: أثناء جولات RL يشغّل النموذج أوامر ويقرأ ملفات ويستدعي أدوات داخل بيئات معزولة، وهذا هو العبء الأثقل على البنية التحتية.

بحسب التقرير، تمتد وحدة الإنتاج الواحدة على نحو 160 عقدة CPU و30 ألف نواة ونحو 250 تيرابايت من ذاكرة DRAM. وفي يوم عادي تخدم حوالي 3 ملايين بيئة معزولة؛ ويبلغ التزامن الذروي 380 ألفًا، فيما يتجاوز معدل الإنشاء 5000 بيئة في الثانية.

حزمة SDK واحدة وأربعة أنواع من البيئات

توفّر DSec أربع بنى تنفيذ عبر عميل Python واحد هو libdsec: بيئة FnCall للمهام القصيرة عديمة الحالة، والحاويات لأعمال هندسة البرمجيات واستخدام الأدوات، وmicroVM القائمة على Firecracker لعزل أقوى، والأجهزة الافتراضية الكاملة عند الحاجة إلى نظام تشغيل كامل مثل Android. ويقول المؤلفون إن تجريدًا واحدًا للبيئات لا يغطي كل المهام الوكيلية.

تُبنى كل بيئة من طبقات تُدار إصداراتها بشكل مستقل: صورة أساسية، ومساحة عمل تحمل مستودع المهمة، ومجموعات أدوات toolkit تتحدّث بوتيرة عالية. وتُدمج هذه الطبقات عبر overlayfs بدل صهرها في صورة واحدة. وخلال أسبوع إنتاجي واحد قدّمت المنصة أكثر من 11 ألف صورة أساسية وأكثر من 102 ألف مساحة عمل.

الكثافة والذاكرة و3FS

بيئات الوكلاء تحتفظ بحالتها وتبقى خاملة معظم الوقت: نحو 90% من الحاويات وmicroVM لا تستخدم أكثر من 5% من المعالج المطلوب. لذلك ترفع DSec الكثافة إلى أقصى حد: حتى 3200 حاوية أو 800 microVM على العقدة الواحدة، فيما تخفض virtio-pmem وDAMON ذروة ذاكرة المضيف بنسبة 40,2% والاستهلاك المتكامل زمنيًا بنسبة 21,2%. ويقلّل SCHED_IDLE مع core scheduling تباطؤ المهام الحساسة للتأخير الناتج عن SMT من 45,2% إلى 17,3%.

تُحمَّل بيانات الصور عند الطلب من 3FS، نظام الملفات الموزّع لدى DeepSeek، بينما تبقى بيانات EROFS الوصفية محلية. وفي دفعة من 8192 حاوية، أدّى السحب المسبق للصور الكاملة إلى إطالة زمن الإنجاز 1,71 مرة وكتابة بيانات أكثر بنحو 57%: البيئات لا تلمس سوى 4% إلى 13% من محتوى صورها.

تصميم مشترك مع إطار RL

صُمّمت DSec بالاشتراك مع إطار RL لدى DeepSeek. ولمّا كانت مهام التدريب على GPU تُقطع بشكل متكرر، نُقل تنفيذ rollout بالكامل إلى DSec، خارج مجمّع GPU المخصص للتدريب؛ ويتيح طلب الإيقاف المؤقت للمنصة تحرير الذاكرة مع الحفاظ على حالة البيئة. ويوثّق التقرير أيضًا سلوكيات غير مرغوبة للوكلاء وسبل التخفيف منها: ضوابط وصول AppArmor وقوائم السماح الشبكية عبر eBPF. وقد نُشرت مكوّنات التخزين، OverlayBD المكتوب بلغة Rust ومكتبة ublk، كمصدر مفتوح.