Kubernetes-da GPU-lar: hesaptan başlayaraq hər şeyi özünüz gətirməlisiniz

GPU yükləri minimal zəmanətlə gəlir

GPU-ları Kubernetes-da işə salmaq tez-tez «hər şeyi özünüz gətirin» kimi təsvir olunur və bu həqiqət ilk dəfə hesablama baxımından görünür. Platforma konteynerləri planlaşdırır, lakin komandalar hələ də sürətləndirici yüklərin istehsalda istifadə oluna biləcəyi üçün ətraf hissələri özü yığmalıdır.

Nəticədə klaster yalnız stack-in bir hissəsi olan bir konfiqurasiya əmələ gəlir. Drayverlərdən və runtime komponentlərindən başlayaraq monitorinq və xərc hesablaması ilə qədər olan hər şey müstəqil qərarlar şəkilində gəlir, dəstəklənən bir paket kimi deyil.

Xərc ilk boğmaq nöqtəsidir

Bir çox komanda üçün hesablama ən erkən işarədir ki, Kubernetes-da GPU-larla iş adi konteyner işindən fərqlənir. Sürətləndiricinin gücü bahadır və bərabər yüklənmir; buna görə kimin nə istifadə etdiyi və nə qədər ayrıldığı sualına cavab vermək sonradan çətinləşir.

Bu təzyiq komandaları xərcə baxışı ilkin dizaynın bir hissəsi kimi hesab etməyə məcbur edir, sonradan əlavə edilən detal kimi deyil. Bunu nəzərə almadan klaster sağlam görünə bilər, xərc isə yavaş yavaş artır.

Komandalar nələri öz üzərinə gətirir

«Hər şeyi özünüz gətirin» yanaşması bütün stackə yayılır. Operatorlar adətən drayverlərin uyğunluğu, runtime konfiqurasiyası, növbəyə qoyulma və ya paylaşma siyasəti ilə yanaşı, istifadəni komandaya və ya yükləməyə bağlayan alətlə məşğul olurlar.

Bu üçün Kubernetes üçün yeni bir şey deyil, amma GPU-lar problemləri daha aydın göstərir. Yasmin Rajabi-nin məqaləsi bu vəziyyəti fakturanın mərkəzində duran praktik bir problem kimi təsvir edir.

Mənbələr: The New Stack