نائب رئيس Fireworks AI يقول الذكاء الاصطناعي المحلي قد يهدر إنفاق GPU مع نمو الاستدلال المُدار

تدعم Fireworks AI تشغيل الذكاء الاصطناعي محلياً، لكن نائب الرئيس روب فيرغسون يجادل بأن على العديد من الشركات تجنب تشغيل النماذج في مراكز بياناتها الخاصة لأن أجهزة GPU باهظة التكلفة ولا تُجدي إذا لم تُستخدم بشكل كافٍ. كما يقول مزود الاستدلال المُدار إن توجيه المهام عبر محفظة من النماذج والتخزين المؤقت ومعالجة البيانات والسرعة يمكن أن يغير التكلفة الحقيقية لعمل الذكاء الاصطناعي.

الذكاء الاصطناعي المحلي واقتصاديات GPU

قال فيرغسون لـ The Register إن Fireworks AI تحاول دفع العملاء بعيداً عن الذكاء الاصطناعي المحلي لأن الأمر كله مسألة اقتصاديات. وقال إن 10,000 وحدة GPU تمثل مليار دولار من رأس المال، وأن الشركات لا تريد تلك الأنظمة خاملة. وللأحمال الحساسة، تقدم Fireworks خدمة تُسمى Sovereign ولديها شركاء مثل Microsoft، مع أن فيرغسون قال إن معظم عمل الاستدلال على الأرجح لا يحتاج إلى هذا المستوى من الحماية.

توجيه النماذج بدلاً من نموذج واحد

قال فيرغسون إن أفضل نموذج هو محفظة، وليس نموذجاً واحداً مثل Astra أو Fable، وأن التوجيه بين نماذج قليلة أفضل من استخدام نموذج واحد وحده. تقوم Fireworks بذلك عبر Nexus وواجهة برمجة التطبيقات الخاصة بها، إلى جانب منافسين مثل Together AI و Baseten و DeepInfra. وتقول الشركة إنها لا تقوم بتوجيه ساذج مثل بوابة ذكاء اصطناعي؛ بل تقيّم المهام عند وصولها وتوجهها إلى النموذج الأمثل.

تبني Fireworks موجّهات مخصصة، ويحدّث نموذجها التلقائي باستمرار. ويصنّف صعوبة المهام ويلاحظ انتسابات النماذج، مثل أن Kimi أفضل قليلاً في JavaScript من Python. أرجع فيرغسون ميزة الشركة إلى فريق الهندسة وعمل المؤسسين على PyTorch، وقال إن الفريق يفهم العمليات العددية وطوبولوجيات خليط الخبراء ودقة الفاصلة العائمة والتوجيه عبر بنى معقدة قد تشمل أكثر من مزود واحد.

التكلفة والبيانات والسرعة

قال فيرغسون إن الذكاء الاصطناعي يعود باستمرار إلى الاقتصاديات، بما في ذلك مقدار العمل الذي يمكن توجيهه إلى نماذج مخزنة مؤقتاً أو مفتوحة ومتى تكون التخصص ضرورياً. وقال إن شركات النماذج الرائدة غير شفافة حول معدلات التخزين المؤقت، مستشهداً بشركة علوم بيانات حيث خزّنت Fireworks مؤقتاً حوالي 90 بالمئة من المهام، بينما خزّن Opus من Anthropic 30 بالمئة. وقال إن إعادة عمل الذكاء الاصطناعي هي أكبر تكلفة، وأن تكلفة الرموز ليست التكلفة الحقيقية، ويجب على العملاء تتبع التكلفة لكل مهمة.

كما قال فيرغسون إن الشركات تقلل من قيمة بياناتها. لدى Fireworks سياسة عدم الاحتفاظ بالبيانات، لكنه قال إن شركات أخرى غالباً لا تتبع ذلك، ويجب على العملاء الحصول على قيمة إذا استُخدمت بياناتهم. وقال إن هذه النماذج تحفظ ما تدربت عليه، وهناك شواهد على ذلك. كما قال إن السرعة غير مقدرة بما يكفي وتغير طريقة عمله مع الذكاء الاصطناعي. وادّعى فيرغسون أن تجميع النماذج يمكن أن يقلّل الفاتورة بنسبة 50 بالمئة على الأقل. وقال إن Fireworks يقول إن التكلفة أقل بستة إلى ثمانية أضعاف، مع ضمان انخفاض الفاتورة إلى النصف عندما لا يزال العملاء يستخدمون مزيجاً من النماذج المغلقة والمفتوحة.

المصادر: The Register