Aiven تخفض تكاليف التوكنات 80% بنماذج مفتوحة الأوزان وتبني بوابة LLM

تقول شركة Aiven، وهي مزوّد أوروبي لخدمات قواعد البيانات مفتوحة المصدر ومقرّها فنلندا، إنها وفّرت 80 بالمئة من تكاليف التوكنات في استخدامات الذكاء الاصطناعي داخل الشركة بالانتقال إلى نماذج مفتوحة الأوزان، وإنها تبني بوابة تتيح لمطوريها تبديل النماذج بحسب الحاجة.

لماذا نماذج مفتوحة الأوزان

بنَت الشركة أعمالها على استضافة قواعد البيانات مفتوحة المصدر وتقديمها كخدمة، وانتقلت في العامين الأخيرين إلى مجال تعلّم الآلة. وقال فيلّه ليهتو، نائب رئيس Aiven للاستراتيجية، في حديث إلى The Register، إن التعامل مع بنية تحتية مفتوحة المصدر للذكاء الاصطناعي ليس أمرًا بسيطًا عندما يُراد بناء شيء يعمل عبر سحابات مختلفة. لكن الشركة، حين منحت مطوريها إمكانية الوصول إلى نماذج LLM، أرادت أن تدير تكاليف التوكنات بنفسها وأن تتحكم بمصيرها في ما يتصل باستخدام الذكاء الاصطناعي.

وبعد موجة من الجدل حول السعي إلى تعظيم استهلاك التوكنات، صار المطورون عمومًا أكثر اهتمامًا بخفض تكاليفهم عبر مزيج من النماذج، بينها بدائل صينية أرخص من نماذج الحدود الغربية، ونماذج مفتوحة الأوزان تأتي بتكلفة أدنى. وهذه النماذج تنشر معاملاتها المدرَّبة علنًا، وأبرزها الأوزان والانحيازات، ويمكن تشغيلها محليًا أو استضافتها بتكلفة أقل من نماذج الحدود لدى OpenAI وAnthropic. ومن أمثلتها عائلة Llama من Meta، وعائلة Qwen من Alibaba Cloud، وDeepSeek الصينية، وMedium 3.5 وDevstral من Mistral AI، وGemma من Google. وقال ليهتو إن نسبة صغيرة من المستخدمين هم من المستخدمين المكثّفين، وإن جزءًا كبيرًا من إنفاقهم يمكن توفيره باستخدام نماذج مفتوحة الأوزان. وأضاف أن Aiven واجهت خيارًا بين وضع سقوف صارمة للتوكنات أو إيجاد طريقة أكثر كفاءة لاستخدامها، فاختارت الثانية عبر تطبيق بوابة داخلية.

كيف تعمل البوابة

بنَت Aiven بوابتها على إطار العمل مفتوح المصدر LiteLLM، واستضافته بنفسها، وأضافت إليه ميزات مثل إعداد الميزانيات وإدارة الوصول، إضافة إلى مكوّنات أخرى مفتوحة المصدر. وتشغّل النماذج على وحدات معالجة رسوميات مستأجرة، وتستضيف النماذج بنفسها أيضًا. وقال ليهتو إن Aiven واصلت استخدام نماذج الحدود، لكن لوضع خطط العمل فقط، وإن معظم العمل يُنجز بنماذج مفتوحة الأوزان بينما تُخطَّط الأجزاء الأكثر حساسية بنماذج الحدود. ولأن أداء النوعين يتفاوت، كان من المهم أيضًا الاعتماد على مقاييس أخرى مثل التكلفة لكل مهمة، كما قال. وتقول الشركة إنها سجّلت انخفاضًا بنحو 80 بالمئة في الإنفاق لدى المستخدمين المكثّفين.

العملاء والخطط

تخطط Aiven لتقديم البوابة كخدمة للعملاء، لمساعدتهم على إدارة تكاليف التوكنات عبر تسهيل إدخال نماذج مفتوحة الأوزان إلى سير عملهم وإخراجها منه. ومن عملائها شركة التجارة الإلكترونية الألمانية Conrad، وشركة معالجة المدفوعات البريطانية Dojo، ومزوّد الأمن السيبراني Sophos، وشركة الاتصالات Avaya. وقال ليهتو إن جذور Aiven في المصادر المفتوحة تجعل تقديم البوابة كخدمة أمرًا طبيعيًا وملائمًا لاحتياجات المؤسسات. وهي مرشّحة لأن تكون واحدة فقط من بين موردين يسعون إلى مساعدة المؤسسات على خفض تكاليف استخدام الذكاء الاصطناعي.

المصادر: The Register