Kubernetes-ում GPU-ները: ամեն ինչ ինքն եք բերում, հաշիվից սկսած

GPU-ի բեռները գալիս են մինիմալ երաշխիքներով

Kubernetes-ում GPU-ները գործարկելը հաճախ նկարագրում են որպես «ամեն ինչ ինքն բերել», և հենց հաշիվի վրա առաջին անգամ երեւում է այս իրականությունը: Պլատֆորմը պլանավորում է կոնտեյներները, բայց թիմերին դեռ պետք է հավաքեն շրջապատող մասերը, որոնք արագացուցչի բեռները դարձնում են արտադրության մջում պատասխանատու:

Արդյունքում ստանում ենք այդպիսի կազմաձեւում, որտեղ կլաստերը ստեկի միայն մեկ մասն է: Ամեն ինչ դրա շուրջը՝ սկսած դրայվերներից և runtime-ի բաղադրիչներից մինչեւ մոնիտորինգը և ծախսերի հաշվառումը, գալիս է առանձին որոշումների տեսքով, այլ ոչ թե մեկ աջակցված փաթեթի ձեւով:

Ծախսերն առաջին խոլորության կետն են

Շատ թիմերի համար հաշիվը ամենավաղ ազդանշանն է այն մասին, որ Kubernetes-ում GPU-ների հետ աշխատանքը տարբերվում է սովորական կոնտեյներային աշխատանքից: Արագացուցչի հզորությունն թանկ է և անհավասարակշռորեն օգտագործվում է, ուստի հարցին՝ ով ինչ օգտագործում է և ինչ է մնում, ավելի ուշ պատասխանել դժվար է:

Այս ճնշումը թիմերին ստիպում է ծախսերի տեսանելիությունը դիտարկել որպես նախնական դիզայնի մաս, այլ ոչ թե ուշացած ավելացված մանրամասն: Առանց դրա կլաստերը կարող է առողջ տեսքով թվալ, երբ ծախսերը դանդաղ աճում են:

Ինչ են թիմերը իրենց վրա վերցնում

«Ամեն ինչ ինքն բերել» մոտեցումը տարածվում է ամբողջ ստեկի վրա: Օպերատորները, որպես կանոն, բախվում են դրայվերների համատեղելիության, runtime-ի կազմաձեւման, հերթում տեղադրման կամ կիսման քաղաքականության և այն գործիքների հետ, որոնք օգտագործումը կապում են թմի կամ բեռնի հետ:

Այս ոչինչ չի նոր Kubernetes-ի համար, բայց GPU-ները խնդիրները ավելի ակնհայտ են դարձնում: Յասմին Ռաջաբիի հոդվածը այս իրավիճակը նկարագրում է որպես գործնական սեփականության խնդիր, որտեղ լուծումը հաշիվ-ապրանքագիր է:

Աղբյուրներ: The New Stack