داخل Prometheus: عنقود Meta الفائق للذكاء الاصطناعي بقدرة غيغاواط في New Albany

أكملت Meta المرحلة الأولى من Prometheus، وهو عنقودها الفائق للذكاء الاصطناعي بقدرة غيغاواط في موقع مركز بيانات New Albany بولاية Ohio. كان الموقع قبل عامين مركز بيانات تقليدي لحركة الويب، ويستضيف الآن تدريب نماذج أساسية متقدمة تشمل عائلة Muse.

نطاق مليون وحدة GPU

يتكون Prometheus من مئات الآلاف من وحدات GPU موزعة عبر مبانٍ متعددة مترابطة، تربطها أميال من الألياف لتعمل كآلة واحدة. وعند اكتمال النطاق سيضم نحو مليون وحدة GPU موزعة. يعمل النظام حاليًا على منصتين من NVIDIA، مع وصول ثالثة قريبًا مبنية على Vera Rubin NVL72. وتوفر Catalina المبنية على GB200 NVL72 عدد 72 وحدة GPU مع 13.4 TB من HBM3e و720 PFLOPS قصوى من قدرة FP8، بينما ترفع Clemente المبنية على GB300 الذاكرة إلى 288 GB لكل وحدة GPU وتتجاوز واحد exaFLOP من قدرة FP4 القصوى.

الشبكات والموثوقية

بالإضافة إلى شبكة مركز البيانات القياسية، تتيح شبكة Ethernet Back-End مخصصة اتصالًا مباشرًا بين وحدات GPU داخل المباني وعبرها. تربط أنسجة مستوى المباني ما يصل إلى 20,736 وحدة GPU، بينما تمتد شبكة Backend Aggregation من 2 km إلى أكثر من 100 km مع نطاق إقليمي بعدة Pbps. تفيد Meta بأن الإنتاجية الفعالة (goodput) تتجاوز 85% في عمليات التدريب المسبق وتتجاوز 90% في عمليات التعلم المعزز، مع رفع إصلاحات البرامج الثابتة متوسط الوقت بين الانقطاعات من نحو 47,000 إلى أكثر من 54,000 ساعة GPU.

هندسة الاستقرار

بلغت الانقطاعات ذروتها قرب 1,000 حدث لكل 8K وحدة GPU يوميًا في منتصف 2025؛ وقد خفض عام من العمل متعدد التخصصات هذا المعدل بنسبة 99%. عالجت إصلاحات موجهة سلامة إشارة NVLink عبر أكثر من 600,000 اتصال، وأعطال ذاكرة HBM وLPDDR، وصحة المحولات، وأحداث الشبكة الخلفية. يعمل كل نطاق NVL72 المكون من 72 وحدة GPU بشريحة من 64 وحدة GPU مع ثمانية قطع غيار داخل الرف، ويجمع استعادة الأعطال بين تحمل الأخطاء الواعي بالتوازي ونقاط التحقق الموزعة غير المتزامنة. تُدار التقلبات الكهربائية بنسبة 30-40% عبر إطار Dynamo Dimmer للحد من الاستهلاك، المدعوم ببطاريات الرف وتخزين المنشأة، بينما يدعم مزيج من التبريد السائل المعزز بالهواء والتبريد السائل للمنشأة الأسطول غير المتجانس.

المصادر: Engineering at Meta