لماذا ما زلت متشائماً إزاء النماذج اللغوية بعد نافييه–ستوكس

حجة ضد الضجة

يقول منشور نُشر في 15 سبتمبر على مدونة dank.systems إن الحماس المحيط بالنماذج اللغوية الكبيرة تجاوز ما تستطيع هذه الأنظمة فعله. ويكتب الكاتب أن قيمة المختبرات الرائدة تقوم على رواية مفادها أنها ستُنتج قريباً جداً «بديلاً آلياً كاملاً لمعظم العاملين في المعرفة»، بينما لا تزال النماذج الحالية بحاجة إلى «إشراف شاق وضوابط وقائية حتى في أبسط المهام».

ويرى أن الاستعراضات التي تصدّرت العناوين — عمل نافييه–ستوكس، واكتشافات تنفيذ الشيفرة عن بُعد في FreeBSD، وحادثة Hugging Face — لا تثبت تحقيق استقلالية ذات معنى، ويستشهد كدليل بشركات برمجيات لا تزال توظف مهندسين قد يحصلون على درجات أدنى من النماذج التي تشرف عليهم في اختبارات اليوم.

تعميم ضيق وكلفة المواصفات

وتتعلق الحجة الثانية بالتعميم: فالنماذج تتقن المهام فقط في جوار ضيق للمهام التي دُرِّبت عليها، وحتى هناك فإن «تغييرات صغيرة داخل فئة مهام مغطاة تؤدي إلى فشل كامل أو إلى التلاعب بمكافأة التدريب». وإصلاح ذلك يتطلب مواصفة صارمة يكتبها خبراء المجال، ووقتهم باهظ — والمواصفة نفسها مهارة مستقلة، لذلك يرى أن التقاطع بين من يعرفون المجال ومن يستطيعون تحديده بدقة ضئيل جداً.

وقد تتجاوز كلفة العمل كلفة التنفيذ المباشر لوصف غير رسمي. ففي هندسة العتاد، يضم مشروع معالج نموذجي نحو ثلاثة أضعاف عدد مهندسي المواصفات والتحقق مقارنة بمهندسي التصميم، وليس من النادر بلوغ نسبة 5 إلى 1، بحسب المنشور.

الرياضيات أفضل الحالات، والمراجعة البشرية بديل احتياطي

النتائج الرياضية هي، بتعبير الكاتب، «أفضل سيناريو على الإطلاق» للعمل وفق مواصفة صارمة: فنص المبرهنة مواصفة بحد ذاته، وقد دقق فيه المجتمع الرياضي عقوداً، وتحويله إلى صيغة Lean ترجمة لكائنات مُختبَرة من mathlib. ومع ذلك فليس Lean محصناً؛ فقد سمحت أخطاء في السلامة المنطقية سابقاً للنماذج اللغوية بتمرير براهين زائفة عبر نواة النظام.

أما البديل، وهو المراجعة البشرية، فلا يتوسع بحجم ما تنتجه النماذج، وهو نفسه عُرضة للتلاعب؛ ويستشهد الكاتب بالباب الخلفي في xz وبحادثة «الإيداعات المنافقة» في نواة لينكس. وإذا بقيت المراجعة البشرية في الحلقة، فإن وتيرة الإنتاج تبقى محدودة بوقت البشر وانتباههم.

أي الشركات تستطيع تشغيل ذكاء اصطناعي مستقل

وخلص المنشور إلى أن النماذج اللغوية تشبه في معظم المجالات «متدرباً سريعاً وفعّالاً في يد شخص بالغ، لكنه لا يُترك ليدير المكان». وثلاث فئات فقط من الشركات يمكنها قبول الاستخدام المستقل الكامل: تلك التي تتحمل الفشل بكلفة زهيدة (كفرق النمذجة السريعة)، وتلك التي لديها مجموعة مهام ضيقة ومحمية جيداً (عمل متكرر في بيئة مضبوطة، أو محادثات خدمة العملاء)، وتلك التي تدفع أصلاً كلفة المواصفات والتحقق الصارمين (تصميم الشرائح، واكتشاف الأدوية).

والفئتان الأولى والثانية حساسة للسعر، ويرجح الكاتب أن تكفيهما نماذج مفتوحة على عتاد رخيص. وخلاصته أن الآثار ستمتد إلى ما هو أبعد بكثير من المختبرات الرائدة.