Baseten ضمن أول شركاء B2B Marketplace من OpenAI

أصبحت Baseten واحدة من أوائل مزودي استدلال النماذج المفتوحة في B2B Marketplace التابع لـ OpenAI. وفقًا لبيان الشركة، فإنها تقدم النماذج المفتوحة لمستخدمي OpenAI داخل Codex وعبر Responses API.

ما الذي يتغير للعملاء المؤسسيين

وفقًا لبيان نُشر على مدونة Baseten، يمكن للمؤسسات استخدام التزامات OpenAI المبرمة بالفعل للنماذج المفتوحة التي تعمل على Baseten أيضًا، سواء في Codex أو عبر Responses API. تُعد نماذج Codex وGPT من أكثر الخيارات شيوعًا لتوليد الأكواد، لذا فإن نقل جزء من العمل إلى النماذج المفتوحة هو هدف الشركة: ذكاء أكثر لكل دولار.

سير عمل متعدد النماذج

وفقًا لتقدير Baseten، فإن كتابة الأكواد بوكلاء AI هي حاليًا أكثر حالات استخدام AI انتشارًا. تستخدم الشركات مزيجًا من النماذج وتوزع المهام عبر موجّهات ثابتة أو تكيفية إلى النموذج الذي يعطي أفضل نسبة بين التكلفة والجودة والسرعة. تقلصت الفترة بين إصدار النماذج المفتوحة والمغلقة الجديدة إلى أسابيع، لذلك لا يظل نموذج واحد الأفضل لجميع المهام لفترة طويلة.

البنية التحتية والخصوصية والدعم

وفقًا لـ Baseten، تعمل المنصة على أكثر من 90 عنقودًا موزعة على أكثر من 20 سحابة، وتكون عمليات النشر نشطة في عدة مواقع في وقت واحد: عند تعطل مزود أو منطقة، يُعاد توجيه حركة المرور ولا يتوقف العمل. تتعاون الشركة مع أكثر من 200 مزود حوسبة وتنشر النماذج المفتوحة الرائدة على Model APIs في يوم الإصدار.

يعمل الاستدلال على بنية تحتية أمريكية مع عدم الاحتفاظ بالطلبات (ZDR). عند الحاجة، يُثبَّت النشر على منطقة معينة، وتتوفر مصادقة وتفويض مفصلان. تذكر Baseten أيضًا أن Blaxel أصبحت جزءًا منها وتمنح كل وكيل بيئة sandbox خاصة به، بينما دربت LangChain نماذجها الخاصة لـ LangSmith Engine باستخدام Baseten Loops.

للوصول إلى النماذج المفتوحة، يسجل مستخدمو OpenAI في قائمة اهتمام Marketplace.