النماذج المحلية صارت جيدة فعلًا: تجربة مهندسة على حاسوب Mac من 2022

تعمل المهندسة فيكي بويكيس مع النماذج المحلية منذ ظهورها، وتلخّص في مقال نُشر في 15 يونيو 2026 الوضع الجديد: أصبحت أخيرًا جيدة فعلًا. جهازها للاختبار هو حاسوب M2 Mac من عام 2022 بذاكرة 64 غيغابايت وتخزين سعة 1 تيرابايت.

جرّبت Mistral 7B وGemma 3 وOpenAI OSS-20B وQwen 3 MoE وإصدارات أخرى من Qwen بينها Qwen 2.5 Coder، عبر بيئات متعددة: llama.cpp خام مع Open WebUI وllama-cpp-python وOllama وllamafiles وLM Studio.

أين تقف النماذج المحلية اليوم

تعتبر بويكيس إطلاق GPT-OSS نقطة التحوّل: أول نموذج تتوقف فيه عن التحقق المتكرر مقارنة بنموذج عبر واجهة API. معيارها الشخصي بسيط: هل عليّ التحقق من هذا مقابل نموذج API؟

ومع أحدث إصدارات عائلة Gemma 4 بدأت أخيرًا بالبرمجة الوكيلية محليًا، إذ تعمل الحلقات بنحو 75% من دقة وسرعة النماذج الرائدة. نموذجها المحلي الافتراضي هو gemma-4-26b-a4b داخل LM Studio. استخدمته لتحويل سكربت في دفتر ملاحظات إلى مستودع من خمسة أو ستة وحدات، ولتصحيح تلميحات الأنواع العامة، وتدقيق مقالات المدونة، وكتابة اختبارات الوحدة، وبناء مستودع لنموذج توصية من نوع two-tower من الصفر. وينمو مخزن K-V حتى 64 غيغابايت، وكانت هذه المهام مستحيلة على النماذج المحلية قبل ستة أشهر فقط.

كيف نشغّل الوكلاء المحليين اليوم

يلزم ثلاثة عناصر: محرّك استدلال محلي، وهيكل تشغيل وكيلي، وملف النموذج، مع توجيه الهيكل إلى العنوان المحلي. تستخدم بويكيس Pi كهيكل وLM Studio كخادم استدلال، وتشير إلى أن استخدام llama.cpp مباشرة سيكون على الأرجح أسرع.

ولأجل السلامة، تعمل كل جلسة Pi داخل حاوية Docker بصلاحيات bash فقط، فلا يمكنها تشغيل كود Python أو تصفح الويب. واختارت للنموذج gemma-4-12b-qat: أحدث وأصغر وأسرع، دون تضحية كبيرة بالدقة.

ما لا يعمل بعد

قد يكون الاستدلال بطيئًا، ونوافذ السياق صغيرة ومحدودة بعتادك الخاص، وتعاني الإصدارات المبكرة من عدم تطابق قوالب الأوامر، وإن كان ذلك يُصلَح بسرعة. وقد صار النظام البيئي أسهل بكثير بفضل LM Studio وزر Use This Model من HuggingFace.

وترى أنه ليس جاهزًا بعد لتطوير البرمجيات الإنتاجي. أما الميزة فهي الشفافية: يمكن مشاهدة توليد الرموز مباشرة، وتغيير نافذة السياق وأمر النظام والتكميم، ومواجهة النماذج بعضها ببعض.