DeepSeek aqentlərin öyrədilməsi üçün DSec sandbox platformasını təqdim etdi

DeepSeek sentyabrın 19-da arXiv-də DeepSeek Elastic Compute (DSec) haqqında texniki hesabat dərc edib: şirkətin agent modellərini öyrətdiyi və qiymətləndirdiyi istehsal sistemi. RL zamanı model təcrid olunmuş mühitlərdə əmrlər icra edir, faylları oxuyur və alətləri çağırır; infrastruktura ən çox yük gətirən də budur.

Hesabata görə, bir istehsal vahidi təxminən 160 CPU qovşağını, 30 000 nüvəni və 250 TB-a yaxın DRAM-ı əhatə edir. Adi bir gündə 3 milyonadək sandbox-a xidmət göstərir; eyni vaxtlılıq 380 000-ə çatır, yaradılma sürəti isə saniyədə 5 000-i ötür.

Bir SDK, dörd sandbox növü

DSec bir Python müştərisi, libdsec vasitəsilə dörd bekənd təqdim edir: qısa və vəziyyətsiz tapşırıqlar üçün FnCall, proqram mühəndisliyi və alət istifadəsi üçün konteynerlər, daha güclü təcrid üçün Firecracker microVM, tam əməliyyat sistemi tələb olunan işlər, məsələn Android üçün isə tam virtual maşınlar. Sandbox-un tək abstraksiyası bütün agent tapşırıqlarını əhatə etmir.

Hər mühit müstəqil versiyalaşdırılan laylardan yığılır: əsas imic, tapşırığın repozitoriyasını daşıyan iş sahəsi və tez-tez yenilənən toolkit-lər. Onlar bir monolit imicə birləşdirilmir, overlayfs vasitəsilə birləşir. Bir istehsal həftəsində platforma 11 000-dən çox əsas imicə və 102 000-dən çox iş sahəsinə xidmət edib.

Sıxlıq, yaddaş və 3FS

Agent sandbox-ları vəziyyəti saxlayır və çox vaxt boş gözləyir: konteynerlərin və microVM-lərin təxminən 90%-i tələb etdikləri CPU-nun ən çoxu 5%-ni istifadə edir. Buna görə DSec qovşaqları maksimum sıxlaşdırır: bir qovşaqda 3 200-ə qədər konteyner və ya 800-ə qədər microVM. virtio-pmem və DAMON yaddaşın pik istehlakını 40,2%, zaman üzrə inteqrallaşdırılmış istehlakı isə 21,2% azaldır; SCHED_IDLE core scheduling ilə birlikdə SMT-dən yaranan yavaşlamanı 45,2%-dən 17,3%-ə endirir.

İmic məlumatları DeepSeek-in paylanmış 3FS fayl sistemindən tələb üzrə yüklənir, EROFS metadatası isə lokal qalır. 8 192 konteynerli partlayışda imiclərin əvvəlcədən tam yüklənməsi icra vaxtını 1,71 dəfə uzadıb və təxminən 57% çox məlumat yazıb: sandbox-lar imicin məzmununun yalnız 4-13%-nə müraciət edir.

RL çərçivəsi ilə birgə dizayn

DSec DeepSeek-in RL çərçivəsi ilə birgə hazırlanıb. GPU-da təlim tapşırıqları tez-tez kəsilir, buna görə rollout icrası tamamilə DSec-ə, təlim GPU hovuzundan kənara köçürülüb; fasilə sorğusu platformaya sandbox vəziyyətini qoruyaraq yaddaşı boşaltmağa imkan verir. Hesabat agentlərin arzuolunmaz davranışını və qarşı tədbirləri də təsvir edir: AppArmor giriş nəzarəti və eBPF şəbəkə icazə siyahıları. Saxlama komponentləri, Rust ilə yazılmış OverlayBD və ublk kitabxanası, açıq kod kimi yayımlanıb.