Meta GEM 2026: نموذج أساسي مركزي واحد لتوصيات الإعلانات

Meta توسّع GEM ليصبح نموذجاً إعلانياً مركزياً

وصفت هندسة Meta جيل 2026 من GEM، وهو Generative Ads Model، ينتقل من التحسين المنفصل لكل نطاق إلى نموذج أساسي مركزي واحد لتوصيات الإعلانات. يتعلّم GEM من بيانات وإشارات جميع منصات Meta الإعلانية، وينفّذ تحسين مسار التحويل الكامل: من الوعي إلى النظر في الإعلان وصولاً إلى التحويلات.

وتفيد الشركة بأن GEM حسّن التحويلات بنسبة 18,9% ونسبة النقر إلى الظهور CTR بنسبة 12% عبر أسطح Meta الإعلانية وأهدافها؛ وعلى مدار العام الماضي، بلغت الزيادة لدى الجماهير المستهدفة على Facebook وInstagram وتحويلات off-site 5,8% و4,1% و1,6%.

معمارية Kunlun تحني منحنى التوسّع

لتحقيق كفاءة نماذج أكبر بكثير، أنشأت Meta نموذج Kunlun، وهي معمارية على غرار LLM طُوّرت مع أحدث GPU؛ وهي تتيح توسّعاً مشابهاً لـ LLM وتزيد تعقيد النموذج 2,5 مرات مقارنة بالإصدارات السابقة من GEM. تجمع الطبقات بين attention مخصص ومكوّن تلخيصي وتفاعل متقاطع بتصميم mixture-of-experts؛ فيما يحوّل block-aligned sparse attention التعقيد من تربيعي إلى خطي، وتسرّع شبكة per-example feed-forward الانتشار الأمامي 2 مرات.

يقلّل CompSkip من FLOPS بنسبة 43% عبر تخطي الحسابات بخسارة شبه معدومة في الجودة، بينما يدمج OneSeq التسلسلات غير المتجانسة في طبقة واحدة. وفي الإنتاج، ضاعف GEM السياق الطويل 2 مرات وأظهر إمكانية زيادته 25 مرة؛ وتتبع الجودة قانون قوة مع طول التسلسل، بينما تستفيد النماذج الكبيرة من التسلسلات الطويلة بشكل غير متناسب.

نقل الذكاء والتعلّم بين الأسطح

تعد خدمة النموذج الأساسي في الوقت الفعلي مكلفة، لذا ينقل GEM الذكاء إلى نماذج أدنى عبر LoopFM. يربط LoopFM الذاكرة التاريخية العميقة بتقطير المعرفة ويضاعف النقل من دون تكلفة إضافية. يضيف Solaris حساباً مسبقاً استكشافياً: في المهام الخلفية غير المتزامنة يقيّم أزواج المستخدم-الإعلان المحتملة قبل استدلال النموذج الرأسي، وعند غياب تطابق دقيق ينتقل هرمياً إلى embeddings مجمّعة أو خاصة بمستخدم مشابه.

على المستوى النظامي، يدمج GEM التنبؤ عبر عشرات الأسطح التي يستخدمها 3,6 مليار شخص يومياً، ويتنبأ في الوقت نفسه بالنقرات والتحويلات من تحويلات off-site وصولاً إلى تثبيت تطبيق الجوال. إن مزج البيانات منخفض التكلفة وإطار الخبراء حسب النطاق، بخبراء عامين وآخرين خاصين بكل سطح، يجعل هذا التعلّم غير المتجانس قابلاً للإدارة.

التدريب على مقياس LLM

يتدرب GEM الآن على بضعة آلاف من أحدث GPU، باستخدام kernels مخصصة مثل Jagged Flash Attention، وتدريب مختلط منخفض الدقة للغاية، يشمل MXFP8 attention و MLP، إلى جانب توازٍ 5D قائم على الطوبولوجيا، طُوّر مع البنية الشبكية لـ Meta. وتفيد Meta بأن كفاءة التدريب end-to-end تضاعفت خلال 12 شهراً، وبلغت نسبة استخدام FLOPS للنموذج 20-25%، بينما زاد إجمالي FLOPs 4 مرات.

وفي المستقبل، تخطط Meta لأن يتعلّم GEM من كل بيانات المنصة، بما في ذلك النصوص والصور والفيديوهات، وأن ينتقل إلى سياق طويل بمقياس LLM، وأن يتوسّع إلى عناقيد أكبر، وأن يطبّق تحسينات مدعومة بالذكاء الاصطناعي مثل التصميم المشترك للمعمارية والقدرة على الاستدلال بعد التدريب post-training، لكي يُنقل ذكاء أكبر إلى النماذج الأدنى.

المصادر: Engineering At Meta · Meta Engineering