‏«دارو، أرجوك»: ردّ مطوّر على مقال أمودي بشأن إيقاع التقدّم

ترى تدوينة على مدوّنة المطوّر pop.rdi.sh بعنوان «dario, please!» أن مقال داريو أمودي «We Must Pace the Frontier» ليس تحذيرًا بقدر ما هو قائمة مطالب تنظيمية: تنظيم النماذج مفتوحة الأوزان، ومعالجة حازمة لمسألة التقطير (distillation)، وإعفاء من قوانين المنافسة لمختبرات الحدود، وتقييد الصين.

ما يعترض عليه الكاتب

يقول الكاتب إن المقال يجمع بين وعود بشفاء معظم الأمراض الكبرى خلال خمس إلى عشر سنوات وبين مطالبة الجمهور بالثقة في المختبرات التي تبني النماذج: «ثقوا بنا وحدنا». ويشير أيضًا إلى أن أنثروبيك تقيّد الاستخدامات المتصلة بالأحياء وتحظر إساءة الاستخدام، بينما توظّف علماء أحياء وتبني مختبراتها الخاصة؛ ويرى أن حجج الأمراض والوفرة تتجاوز مشكلة التوزيع: فالسلّ مرض قابل للشفاء منذ عقود، ومع ذلك يقتل نحو مليون شخص سنويًا.

التحسّن الذاتي المتكرر ومزاعم الشبكة الخبيثة

يفصل الكاتب بين تحذيرين. الأول التحسّن الذاتي المتكرر، ويقول إن المختبرات تعلنه دون أن تثبته. والثاني سيناريو يستولي فيه سرب من الوكلاء على «الإنترنت بأكملها» بشبكة خبيثة دائمة خلال ستة إلى اثني عشر شهرًا؛ ويرى الكاتب، وهو يكتب في الأمن السيبراني، أن هذا مستحيل بنيويًا، ويعدّد ما تتطلبه عملية كهذه — خوادم قيادة وسيطرة، وحمولات متعددة الأشكال، وثغرات جديدة، وقنوات نشر — ليخلص إلى أن ذلك بعيد بسنوات في أفضل الحالات. ويستشهد بعمى غيل-مان ليطلب الشك نفسه من بقية مزاعم المقال. كما يناقش الكاتب حادثة اقتحام وكلاء OpenAI لبنية Hugging Face استنادًا إلى التحقيق الذي نشرته METR، ويقول إن OpenAI حصلت على ستة أيام من الوصول الميداني وعدّلت «البنية والتأكيد والوضوح والنبرة» في النتائج؛ وفي الفترة نفسها أُبلغ عن هجومين آخرين على DseWiki وRubyGems.

التوازي مع التشفير

التوازي التاريخي في التدوينة هو معركة التسعينيات حول تصدير التشفير: إصدار PGP عام 1991، وتحقيق استمر ثلاث سنوات مع فيل زيمرمان بتهمة «تصدير أعتدة دون ترخيص»، ومبادرة Clipper Chip، ودعوى دانيال برنشتاين التي أرست أن الشيفرة المصدرية كلام محميّ بالتعديل الأول. وبحسب هذه القراءة، فإن النماذج مفتوحة الأوزان هي تشفير هذا العقد، وإغلاقها ميزة تجارية مؤقتة لا إجراء أمان.

إلى أين يصل الأمر

يخلص الكاتب إلى أن مقال أمودي يطالب بتنظيم الأوزان المفتوحة، وبحظر التقطير، وبإعفاءات من قوانين المنافسة، وجرعة كبيرة من الخطاب الأمني، في وقت تتجه فيه أنثروبيك نحو طرح عامّ. أما مطلبه الأخير فأبسط: محاسبة من انتهك القواعد فعلًا بدل سنّ قواعد جديدة لنماذج يمكن لأي شخص تفتيشها.