Cloudflare تطلق Auto Router: AI Gateway يختار النموذج بنفسه لكل طلب

أطلقت Cloudflare ميزة Auto Router ضمن AI Gateway في نسخة تجريبية عامة. هذه طبقة توجيه تختار النموذج بنفسها لكل طلب ولم تعد تترك الاختيار للمستخدم. يكفي أن تحدد النموذج cloudflare/auto. ووفقاً لـ Cloudflare، أدى استخدامها الداخلي في بيئة OpenCode إلى خفض التكلفة حتى 30%، إذا عقدنا المقارنة مع الاعتماد فقط على أقوى النماذج.

ماذا يُظهر القياس

قارنت Cloudflare بين cloudflare/auto وClaude Opus 5.5 من Anthropic وGPT-6 Sol من OpenAI في اختبار داخلي مبني على أدوات العمل: البريد الإلكتروني، التقويم، Slack، الملفات، السفر والمالية. ونتيجة ثلاث محاولات لـ 97 مهمة، نجح الراوتر في 252 محاولة من أصل 291، أي 86,6%، وبلغت التكلفة الإجمالية 2,10 دولار، وتكلفة النجاح الواحد 0,0084 دولار. حقق Claude Opus 5.5 نسبة 96,6% بتكلفة 5,91 دولار، بينما حقق GPT-6 Sol نسبة 84,2% بتكلفة 2,64 دولار. وتبين أن تكلفة الراوتر تساوي نحو 80% من تكلفة Sol و35% من تكلفة Opus.

كيف يُتخذ القرار

أولاً، يحدد AI Gateway قائمة النماذج القادرة على استقبال الطلب. ويصفّي النماذج بحسب التنسيق، ووضع التشغيل، وبيانات التفويض، والفوترة، وقواعد الوصول، وحدود التكلفة، ويستبعد مؤقتاً المزوّدين غير العاملين. ثم يقرأ مصنّف يعمل على Workers AI آخر رسائل المحادثة، ويحدد نوع المهمة من 14 فئة، ويقيّمها بحسب الصعوبة والغموض والأهمية والاعتماد على السياق. وتربط مصفوفة النقاط هذه الإشارات بنتائج الاختبار، وبعدها يختار الراوتر النموذج الأعلى فائدة: تُحسب الفائدة بطرح غرامة تكلفة قابلة للضبط من الجودة المتوقعة. وفي الجلسات الوكيلية الطويلة، يراعي الراوتر أيضاً قراءة الذاكرة المؤقتة وكتابتها، لأن تغيير النموذج يفقد السياق الساخن وتكلفة إعادة كتابته مرتفعة.

اكتشاف التكلفة الزائدة

إلى جانب الراوتر، وسّعت Cloudflare ميزة User Insights، لوحة حركة مرور الذكاء الاصطناعي، التي تشير الآن إلى المحادثات التي يكون فيها النموذج المختار أقوى من اللازم للمهمة. وتعرض اللوحة أيضاً أي مستخدم أو وكيل أو تطبيق يتسبب في هذه التكلفة. ويعثر عرض Potential Savings على الطلبات التي لا يضر تنفيذها بنموذج أرخص بالجودة، بينما يقسم تحليل المهام حركة المرور إلى فئات: البرمجة، البحث، الكتابة، التلخيص وتحليل البيانات. والتصنيف غير متزامن ولا يتدخل أثناء معالجة الطلب، لذلك لا يبطئ الاستجابة، لكن التحليل يتأخر نحو يوم واحد عن حركة المرور. ميزة User Insights مجانية لمستخدمي AI Gateway. كما أن Cloudflare Access، الذي يربط حركة المرور بالمستخدمين المفوّضين، مجاني للفرق التي تضم حتى 50 مستخدماً.

لماذا هذا مهم

اختارت معظم الشركات بالفعل أدواتها اليومية، لكن تكلفة الذكاء الاصطناعي تنمو أسرع من النتائج. لا تحل الميزانية والحدود الصارمة كل شيء، لأن الإنسان لا يزال مضطراً لاتخاذ القرار طلباً بطلب حول ما إذا كان التلخيص يحتاج إلى أقوى نموذج. فكرة Cloudflare هي أن يتخذ AI Gateway نفسه هذا القرار، لأنه يمر عبره كل طلب. ميزة Auto Router مجانية أثناء البيتا، وتخطط الشركة مستقبلاً لإطلاق cloudflare/auto-best، الذي لا يأخذ التكلفة في الحسبان ويختار أعلى جودة.

المصادر: Cloudflare Blog (Auto Router) · Cloudflare Blog (User Insights)