NVIDIA تطلق منصة Run:ai مفتوحة المصدر ضمن DSX AI Factory

أصدرت NVIDIA منصة NVIDIA Run:ai كاملة كبرمجيات مفتوحة المصدر ووسعت منصة NVIDIA DSX AI Factory اعتماداً على تنسيق مهام الذكاء الاصطناعي وGPU. مع هذا الإصدار، يحصل المستخدمون والمطورون وشركاء النظام البيئي على إمكانية الوصول إلى قدرات التنسيق بمستوى الإنتاج، مما يساعد النظام البيئي الأوسع على تقديم حلول مصانع الذكاء الاصطناعي المتنوعة إلى السوق بشكل أسرع.

أربعة مكونات معيارية

يوفر KAI Scheduler جدولة Kubernetes تراعي GPU عبر gang scheduling، وتوزيع الحصص والأسهم بعدالة، مع مراعاة الطوبولوجيا، ومشاركة GPU، ودعم Dynamic Resource Allocation. أصدرت NVIDIA مُخطّط KAI بترخيص Apache 2.0 وقدمته إلى CNCF كمشروع Sandbox، بينما يستمر تطوير الجدولة بالكامل في مستودع المجتمع.

يقدم GPU Fractioning Operator تقسيم GPU الطبيعي لـ CUDA في Kubernetes، ويستبدل التنفيذ الاحتكاري السابق بقدرات طبيعية متاحة في CUDA 13.4. يتضمن المشغل مُصدّر مقاييس حسب pod من أجل قابلية الرؤية ويبقى مستقلاً عن المُجدول، رغم أنه يتكامل مع KAI Scheduler في قرارات الوضع. يضيف KAI Resource Management طبقة تنظيمية بالمشاريع والأقسام ودلالات الحصص وnode pool للمجموعات غير المتجانسة. يضع Workload Map عقداً موحداً لإدارة الأحمال يصف pod والمكونات والأدوار، بحيث تستطيع المنصات جدولة أنواع مختلفة من الأحمال ومراقبتها وإدارتها دون الحاجة إلى تضمين كل custom resource definition يدوياً.

الاندماج في النظام البيئي

ثمانية شركاء من نظام NVIDIA DSX البيئي يدمجون المنصة مفتوحة المصدر في عروضهم. تدمجه Crusoe مع Crusoe Managed Kubernetes، وتوسعه Mirantis عبر k0rdent AI باستخدام هذه المنصة، بينما يقدم Nebius إياه في Nebius AI Cloud كنقرة واحدة. تدمجه OpenNebula Systems عبر OneKS، وتوسع Rafay تكاملها إلى خدمة مُدارة بالكامل، وتستخدمه Saturn Cloud لإطلاق خدمات white-label inference عبر منصة Token Factory. يدمجه Spectro Cloud في PaletteAI، ويقدم vCluster قوالب نشر مصادقة مسبقاً تُنشئ بيئة كاملة لكل tenant.

المنصة الكاملة متاحة في منظمة GitHub الخاصة بـ NVIDIA DSX AI Factory وفي NVIDIA NGC كـ Community Product مع Helm chart لتركيب الحزمة المتكاملة. لا يلزم إصدار مدفوع أو ترخيص دعم لـ Community Product، لكنه لا يتضمن الدعم الإنتاجي من NVIDIA. تظل العروض التجارية متاحة عبر NVIDIA Mission Control وNVIDIA AI Enterprise وأسواق سحابية مختارة.

مشاريع مفتوحة المصدر ذات صلة

تُكمل المنصة مشروعين ذات صلة. يقلل Model Streamer من تأخير التشغيل البارد عن طريق نقل أوزان النموذج مباشرة إلى ذاكرة GPU بشكل مُتدفق، وهو مدمج في upstream داخل vLLM وSGLang مع دعم موثق على AWS وGoogle Cloud وMicrosoft Azure. يوفر Grove واجهة Kubernetes API لتنسيق أحمال الاستدلال متعددة المكونات، ويقدم تحجيماً تلقائياً يراعي الطوبولوجيا وgang scheduling هرمي، وهو جزء معياري من NVIDIA Dynamo.

المصادر: Nvidia Developer Blog