ميتا تحوّل قدرة استدلال الذكاء الاصطناعي الاستغلالية إلى توصيات إعلانية أفضل

مفارقة قدرة الاستدلال

أنشأت ميتا نظامًا يحسّن توصيات الإعلانات عبر الاستفادة من قدرة الاستدلال الاستغلالية المتوفرة في أسطولها. تواجه أساطيل الاستدلال مفارقة القدرة: قد تكون محدودة عالميًا، بينما تظل أجزاء كبيرة من القدرة غير مستغلة محليًا. وتتضمن الأسباب الشائعة عدم تطابق ذروة التوريد مع تقلب الطلب، وعدم تطابق أوقات تدريب النماذج مع أوقات توفير القدرة، وعدم تطابق نسبة الموارد بين المناطق، وعدم تطابق نوع المسرّع. وعلى نطاق ميتا، تمثّل هذه الفجوات الزمنية مجتمعةً قدرة كبيرة، وعند استغلالها بأمان تُنتج توصيات إعلانية أفضل.

مقيدا المرونة

يستخدم النظام مقيدين متكاملين. يضبط Rank More Ads (RMA) عدد المرشحين المقيّمين في مراحل الترتيب عند توفر قدرة استغلالية، مما يزيد من فرص اكتشاف إعلانات مناسبة للمستخدم. يتطلب RMA موارد فائضة من كل من CPU والمسرّع. أما Serve Better Models (SBM) فيضبط نسبة الطلبات المحوّلة إلى نموذج أقوى وفقًا لتغيّرات قدرة المسرّع، مما يحافظ على عدد الإعلانات الداخلة إلى مراحل الترتيب ثابتًا لتبقى طلب CPU مستقرًا. وبذلك يمكن لـ SBM استخدام الموارد الفائضة للمسرّع فقط، والتي لا يستهلكها RMA. ويستخدم مكون موجّه النموذج إشارات قيمة الطلب لإعطاء الأولوية للطلبات التي من المرجح أن تحقق أكبر عائد من النموذج الأقوى.

حماية حركة المرور الأساسية

يحمي العزل المادي والمنطقي القدرة المحجوزة للخدمات الأساسية. يستخدم SBM العزل المادي: حيث تستهدف النماذج الأساسية والأقوى وجهات توجيه منفصلة، بنسخ مخصصة للأساسية ونسخ استغلالية للنموذج الأقوى. أما RMA فيستخدم العزل المنطقي: إذ يحسب النظام عدد عمليات ترتيب المرشحين الإضافية التي يمكن للنسخ الاستغلالية إنجازها، ويحدد ميزانية عالمية. يستخدم RMA حلقة تغذية راجعة مغلقة مع وحدة تحكم PID مركزية وتنفيذ على جانب العميل يعتمد على تأخير الكود المرصود. ويستخدم SBM حلقة مماثلة، حيث تحدد وحدة التحكم المركزية التغطية المستهدفة، بينما يقوم الموجّه على جانب العميل بإجراء الاختيار عبر عملية explore-and-exploit مع مراعاة القيمة. ومع تفريغ الحمل متعدد الطبقات لمراعاة القيمة، يستجيب كل من الخوادم والعملاء في غضون ميلي ثانية عند تغيّر القدرة فجأة.

ما التالي

تخطط ميتا لزيادة مرونة الحمل عبر توسيع نطاق عمل RMA وSBM وتطوير مقيدين جدد، مثل مرونة الحوسبة المسبقة التي تنجز العمل قبل وقت الطلب. كما توسّع الشركة قابلية نقل النماذج والاستدلال بين المناطق لتوسيع تجمع القدرة المتاحة، وتبني نظامًا قائمًا على التحسين يضبط توزيع القدرة تلقائيًا بين مقيدات المرونة لصالح المستخدمين والناشرين الإعلانيين.

المصادر: Meta Engineering