DeepSeek-მა DSec-ის შესახებ ანგარიში გამოაქვეყნა: სენდბოქსების პლატფორმა AI-აგენტების წვრთნისთვის

DeepSeek-მა 19 სექტემბერს arXiv-ზე ტექნიკური ანგარიში გამოაქვეყნა პლატფორმა DeepSeek Elastic Compute-ის (DSec) შესახებ. ეს ცალკეული სენდბოქსი არაა, არამედ საწარმოო სისტემა, რომელსაც კომპანია აგენტური მოდელების წვრთნისა და შეფასებისთვის იყენებს: RL-ის დროს მოდელი იზოლირებულ გარემოში ბრძანებებს უშვებს, ფაილებს კითხულობს და ხელსაწყოებს იყენებს.

ანგარიშის მიხედვით, ერთი საწარმოო ერთეული დაახლოებით 160 CPU კვანძს, 30 000 ბირთვს და 250 ტერაბაიტამდე DRAM-ს მოიცავს. ტიპურ დღეში ის 3 მილიონამდე სენდბოქსს ემსახურება, პიკური ერთდროულობა 380 000-ს აღწევს, შექმნის სიჩქარე კი წამში 5 000 სენდბოქსს აჭარბებს.

ერთი SDK და ოთხი სახის სენდბოქსი

DSec ერთი Python-კლიენტით, libdsec-ით, ოთხ ტიპის გარემოს სთავაზობს მომხმარებელს: FnCall მოკლე დავალებებისთვის, კონტეინერები პროგრამული ინჟინერიისა და ხელსაწყოებისთვის, Firecracker-ის microVM უფრო მყარი იზოლაციისთვის, სრული ვირტუალური მანქანა კი მაშინ, როცა სრული ოპერაციული სისტემაა საჭირო, მაგალითად Android. ავტორების თქმით, სენდბოქსის ერთი ტიპი ყველა აგენტურ დავალებას ვერ ფარავს.

გარემო დამოუკიდებლად ვერსიონირებადი ფენებისგან იკრიბება: საბაზო იმიჯი, ამოცანის რეპოზიტორიის მქონე სამუშაო სივრცე და ხშირად განახლებადი toolkit-ები ერთ მონოლითურ იმიჯად აღარ ერწყმის, არამედ overlayfs-ით ერთიანდება. ერთ საწარმოო კვირაში პლატფორმამ 11 000-ზე მეტ საბაზო იმიჯს და 102 000-ზე მეტ სამუშაო სივრცეს უმასპინძლა.

სიმკვრივე, მეხსიერება და 3FS

აგენტის სენდბოქსი მდგომარეობას ინახავს და უმეტეს დროს უსაქმურია: კონტეინერებისა და microVM-ების დაახლოებით 90% მოთხოვნილი CPU-ს მხოლოდ 5%-ს ან ნაკლებს იყენებს. ამიტომ DSec სიმკვრივეს მაქსიმალურად ზრდის: ერთ კვანძზე 3 200-მდე კონტეინერი ან 800-მდე microVM თავსდება, virtio-pmem-ისა და DAMON-ის ოპტიმიზაციები კი მეხსიერების პიკურ მოხმარებას 40,2%-ით, დროში ინტეგრირებულს 21,2%-ით ამცირებს. SCHED_IDLE და core scheduling SMT-ით გამოწვეულ შენელებას 45,2%-დან 17,3%-მდე ამცირებს.

იმიჯებს პლატფორმა 3FS განაწილებული ფაილური სისტემიდან საჭიროებისამებრ ტვირთავს, EROFS-ის მეტამონაცემები კი ლოკალურად რჩება. 8 192 კონტეინერის აფეთქებაზე იმიჯების სრულად, წინასწარ ჩამოტვირთვა შესრულებას 1,71-ჯერ აჭიანურებს და 57%-ით მეტ მონაცემს წერს: სენდბოქსები იმიჯის შიგთავსის მხოლოდ 4-13%-ს იყენებს.

RL-ის ჩარჩოსთან თანამუშაობა

DSec DeepSeek-ის RL-ის ჩარჩოსთან ერთად შეიქმნა. წვრთნის დავალებები GPU-ზე ხშირად წყდება, ამიტომ rollout-ის შესრულება მთლიანად DSec-ზე, წვრთნის GPU-პულის გარეთ გადავიდა; პაუზის მოთხოვნა პლატფორმას მეხსიერების გათავისუფლების საშუალებას აძლევს სენდბოქსის მდგომარეობის შენარჩუნებით. ანგარიშში აღწერილია აგენტების არასასურველი ქცევაც და მის საწინააღმდეგო ზომები: AppArmor-ის წვდომის კონტროლი და eBPF-ის ქსელური allowlist-ები. საცავის კომპონენტები, Rust-ზე დაწერილი OverlayBD და ublk-ის ბიბლიოთეკა, ღია კოდად გამოქვეყნდა.