نموذج مفتوح بحجم 4B يضاهي GPT-5.6 Sol في الاسترجاع بتكلفة أقل 100 مرة

مشكلة التكلفة في البحث الوكيلي

في 5 أغسطس 2026 نشرت Neon مقالًا مشتركًا مع Castform يوضح كيف يمكن لنموذج مفتوح بحجم 4B، أُعيد تدريبه بالتعلّم المعزّز (RL)، أن يضاهي نموذجًا حدوديًا مملوكًا في مهام الاسترجاع، بتكلفة أقل بنحو 100 مرة لكل طلب.

يتتبع المقال تحوّل طريقة العثور على المعلومات لدى الوكلاء. في نحو عام 2022 استثمرت الصناعة في البحث بالتمثيلات المتجهية — وأصبح pgvector أكثر إضافات Neon تنزيلًا — بينما بنى المهندسون مسارات RAG يدويًا. وبحلول 2025 أصبح الاسترجاع وكيليًا: تُخطّط النماذج وتبحث في حلقة بدل إرسال استعلام واحد. وكل دورة تعني استدعاءً جديدًا للنموذج الحدودي؛ وطلب متعدد الخطوات نموذجي مع gpt-5.6-sol يستغرق أكثر من 10 ثوانٍ ويكلّف نحو 0.03 دولار من البداية إلى النهاية.

كيف يُدرَّب نموذج مفتوح على البحث

النماذج المفتوحة الصغيرة أرخص بنحو 100 مرة، لكنها فور إخراجها من العلبة تتخلف عن نماذج الواجهات البرمجية المغلقة. ويعالج إعادة التدريب بـ RL هذه الفجوة. هدف Castform هو تمكين المطوّرين من إعادة تدريب النماذج دون التعامل مع تفاصيل تعلّم الآلة ووحدات GPU؛ ويصف الشريك المؤسس Ying Hang Seah ذلك بأنه يسير كما هندسة الأوامر، مشيرًا إلى أن أفضل بيانات تدريب لدى معظم الفرق موجودة أصلًا في قواعد بياناتها.

يعمل المسار بالكامل على Neon: الوثائق الخام في Postgres، ومهام التدريب الاصطناعية تُكتب بإضافتي lakebase_text وlakebase_vector، وكل استدعاء بحث في كل تجربة يمر عبر Lakebase Search، ويستخدم الاستدلال في الإنتاج أداة البحث نفسها. وتقيّم دالة المكافأة ثلاثة أمور: العثور على المصدر الصحيح، والاستشهاد بالمقطع الصحيح، والوصول إلى الإجابة الصحيحة.

بنية تحتية للأحمال المتفجرة

ينتج التدريب حملًا متفاوتًا بشدة: آلاف التجارب المتوازية، كل منها يجري عشرات استدعاءات البحث. وتمتص التوسعة الديناميكية لـ Neon هذه الذروات دون حجز أقصى سعة على مدار الساعة. ويرى الكتّاب أن هذه البنية تصبح أهم عندما يبدأ الوكلاء بتعديل البيانات: فالتفريع يمنح كل تجربة حالة قاعدة بيانات معزولة، واستعلامات السفر الزمني تتيح إعادة بناء ما رآه الوكيل.

الخلاصة البارزة: في مهمة محددة مثل البحث، يمكن لنموذج مفتوح أُعيد تدريبه أن يضاهي النماذج الحدودية ويتفوق عليها بتكلفة أقل بمراتب — أي أن الاسترجاع الوكيلي لم يعد مضطرًا للعمل على أغلى نموذج متاح.

📖 المصدر