Kubernetes-ზე GPU-ები: ყველაფერი თავად უნდა მოიტანო, დაწყებული ანგარიშიდან

GPU-ის დატვირთვები მინიმალური გარანტიებით მოდის

Kubernetes-ზე GPU-ების გაშვებას ხშირად აღწერენ როგორც „ყველაფერი თავად მოიტანე“, და სწორედ ანგარიშზე ჩანს ეს რეალობა პირველად. პლატფორმა კონტეინერებს გეგმავს, მაგრამ გუნდებს მაინც უწევთ გარშემო არსებული ნაწილების შეკრება, რომლებიც აქსელერატორის დატვირთვებს პროდაქშენში გამოსადეგს ხდის.

შედეგად მივიღებთ ისეთ კონფიგურაციას, სადაც კლასტერი სტეკის მხოლოდ ერთი ნაწილია. ყველაფერი მის გარშემო, დრაივერებიდან და runtime-ის კომპონენტებიდან დაწყებული მონიტორინგითა და ხარჯების აღრიცხვით დამთავრებული, ცალკეულ გადაწყვეტილებებად მოდის და არა ერთი მხარდაჭერილი პაკეტის სახით.

ხარჯი პირველი ხახუნის წერტილია

ბევრი გუნდისთვის ანგარიში ყველაზე ადრეული ნიშანია იმისა, რომ Kubernetes-ზე GPU-ებთან მუშაობა ჩვეულებრივ კონტეინერულ სამუშაოსგან განსხვავდება. აქსელერატორის სიმძლავრე ძვირია და არათანაბრად გამოიყენება, ამიტომ კითხვაზე, თუ ვინ რას იყენებს და რა ჯდება, მოგვიანებით ძნელია პასუხის გაცემა.

ეს ზეწოლა გუნდებს უბიძგებს, ხარჯების ხილვადობა საწყისი დიზაინის ნაწილად მიიჩნიონ და არა მოგვიანებით დამატებულ დეტალად. მის გარეშე კლასტერი შეიძლება ჯანმრთელად გამოიყურებოდეს, მაშინ როცა ხარჯები ნელა იზრდება.

რას იღებენ გუნდები საკუთარ თავზე

„ყველაფერი თავად მოიტანე“ მიდგომა მთელ სტეკზე ვრცელდება. ოპერატორები, როგორც წესი, უმკლავდებიან დრაივერების თავსებადობას, runtime-ის კონფიგურაციას, რიგში დაყენების ან გაზიარების პოლიტიკას და იმ ხელსაწყოებს, რომლებიც გამოყენებას უკავშირებენ გუნდს ან დატვირთვას.

ეს არაფერია ახალი Kubernetes-ისთვის, მაგრამ GPU-ები ხარვეზებს უფრო თვალსაჩინოს ხდის. იასმინ რაჯაბის სტატია ამ სიტუაციას პრაქტიკულ საკუთრების პრობლემად აღწერს, სადაც ამოსავალი წერტილი ინვოისია.

წყაროები: The New Stack