أمازون تفتح النسخة التجريبية من TorchNeuron لتشغيل أكواد PyTorch على رقائق Trainium

مسار أقل احتكاكًا إلى Trainium

فتحت أمازون TorchNeuron كنسخة تجريبية عامة بعد نسخة تجريبية خاصة بدأت في أواخر العام الماضي. يقع البرنامج بين PyTorch ورقائق Trainium التابعة لأمازون، مما يتيح للمطورين تشغيل أكواد PyTorch الحالية بعد تغيير بسيط في الإعدادات بدلًا من إعادة كتابتها لواجهات خاصة بالرقائق.

وصف كولين بريس، نائب رئيس برمجيات التقنية في Annapurna Labs، الهدف بأنه «إذا كنت تعرف PyTorch، فأنت تعرف Trainium». وقال إن تكييف أكواد PyTorch مع أجهزة أخرى قد يستغرق أشهرًا عندما يعتمد على منصة CUDA التابعة لـ Nvidia، وإن الأداة الجديدة تهدف إلى إزالة هذا الحاجز.

داخل النسخة التجريبية

استخدمت أكثر من 30 شركة وفرق داخلية في أمازون TorchNeuron خلال النسخة التجريبية الخاصة. وقالت Deepgram، وهي شركة ناشئة في مجال الذكاء الاصطناعي للكلام في سان فرانسيسكو، إن الاختبارات أظهرت أن Trainium يعالج حوالي 60% صوتًا إضافيًا لكل دولار مقارنة بإعدادات GPU الحالية، وقال بريس إن الشركة تشغل Trainium الآن في بيئة الإنتاج.

وقالت أمازون أيضًا إن TorchNeuron سيصدر كمصدر مفتوح يوم الثلاثاء، بالتزامن مع مؤتمر PyTorch في سان خوسيه بولاية كاليفورنيا. ولتغطية مجموعة واسعة من النماذج، تختبر أمازون TorchNeuron ليليًا ضد أكثر من 100,000 نموذج من Hugging Face.

داخل أمازون، استخدم فريق Prime Video أداة TorchNeuron لبناء Prime 360، وهو نظام ذكاء اصطناعي يعيد بناء لعبات NBA بأبعاد ثلاثية لإعادة العرض من زوايا لا تستطيع الكاميرات التقليدية التقاطها. تعمل الميزة على Trainium وستظهر في بثوث مختارة من Prime Video هذا الموسم من NBA.

الطلب وضغط السوق

يشمل أكبر مستخدمي Trainium مختبرات ذكاء اصطناعي ذات علاقات مالية وثيقة بأمازون. تستخدم Anthropic الرقائق لتدريب نماذج Claude وتشغيلها، ووافقت OpenAI في فبراير على استخدام 2 جيجاواط من سعة Trainium كجزء من صفقة تستثمر فيها أمازون 50 مليار دولار في OpenAI.

كتب آندي جاسي في أبريل أن أعمال أمازون في الرقائق، بما في ذلك Trainium وGraviton، حققت معدل إيرادات سنوي يتجاوز 20 مليار دولار، وقدر بنحو 50 مليار دولار إذا بيعت الرقائق عبر أعمال رقائق مستقلة. تتتبع أمازون هذه الوحدة إلى استحواذها في 2015 على شركة الرقائق الإسرائيلية Annapurna Labs مقابل 350 مليون دولار وفقًا للتقارير.

المصادر: GeekWire · About Amazon · PyTorch Blog