Kubernetes'te GPU'lar: Her şeyi getirmek zorundasınız, faturalandırmadan başlayarak

GPU yükleri minimal garantilerle gelir

Kubernetes'te GPU'ları çalıştırmak sık sık 'her şeyi getir' olarak tanımlanır ve faturalama alanında bu gerçek ilk kez ortaya çıkar. Platform kapsayıcıları planlar, ancak ekiplerin hâlâ iş yüklerini üretimde kullanılabilir hale getirecek çevre bileşenlerini toplamaları gerekir.

Sonuç olarak, küme yalnızca yığının tek bir parçası olduğu bir yapılandırma elde ederiz. Sürücülerden ve çalışma zamanı bileşenlerinden başlayarak izleme ve maliyet kaydına kadar her şey onun etrafında ayrı kararlar olarak gelir, tek bir desteklenen paket şeklinde değil.

Maliyet ilk çentik noktasıdır

Birçok ekip için faturalama, Kubernetes'te GPU'larla çalışmanın normal kapsayıcı işlerinden farklı olduğunun en erken işaretidir. Hızlandırıcı güçtür ve eşit olmadan kullanılır, bu yüzden kimin ne kullandığı ve ne sonuçlandığı sorusuna cevap vermek geç kalınır.

Bu baskı, ekiplerin maliyet görünürlüğünü sonradan eklenen bir ayrıntı değil, başlangıç tasarımının bir parçası olarak düşünmeye teşvik eder. Olmadan küme sağlıklı görünebilir, ancak maliyetler yavaşça artar.

Ekipler neyi üstleniyor?

'Her şeyi getir' yaklaşımı tüm yığına uygulanır. Operatörler genellikle sürücülerin uyumluluğu, çalışma zamanı yapılandırması, sıraya alma veya paylaşım politikası ve kullanımı ekip veya iş yüküyle ilişkilendiren araçlarla başa çıkar.

Bu için Kubernetes'te yeni bir şey değildir, ancak GPU'lar sorunları daha görünür hale getirir. Yasmin Rezaei'nin makalesi bu durumu faturalamanın çözüm noktası olduğu pratik bir mülkiyet problemi olarak tanımlar.

Kaynaklar: The New Stack