نقاشات النماذج المفتوحة: إضفاء الطابع الديمقراطي على الذكاء الاصطناعي في موازنة مخاطر الأمان

نشرت Anthropic قبل فترة قصيرة تقريراً يفيد بأن النموذج القوي GLM-5.3 الذي أصدرته الشركة الصينية Z.ai في أغسطس يشكل خطراً كبيراً للهجمات السيبرانية. القلق يكمن في أن تنزيله وتعديله متاح بحرية للجميع. ويمثل هذا التقرير أحدث كلمة في نقاشات طويلة حول ما إذا كان ينبغي أن تكون نماذج الذكاء الاصطناعي المتطورة مفتوحة أم تبقى خلف أبواب المختبرات.

ماذا تقدم لنا النماذج المفتوحة

النماذج المغلقة، مثل ChatGPT وClaude التي تقف خلفها الشركات، لا يمكن الوصول إليها إلا عبر موقع إلكتروني أو تطبيق أو API. أما النماذج المفتوحة فيمكن تنزيلها مباشرة وهيكلها الداخلي، المشفر في أوزان النموذج، عام. حالياً النماذج المغلقة أقوى: المراكز الثمانية الأولى في قائمة Artificial Analysis LLM مغلقة، رغم أن النماذج المفتوحة تتخلف ببضعة أشهر فقط.

بما أن النماذج المفتوحة قابلة للتنزيل، يمكن للأشخاص تشغيلها على أجهزتهم الخاصة وتعديلها إذا امتلكوا الكفاءة والموارد. يمكن للباحثين مراقبة العمل الداخلي وسلسلة التفكير، ودمج النماذج وضبطها بدقة وتكييفها لمهام جديدة. وفقاً لتقرير نشرته Mozilla قبل فترة قصيرة، النماذج المفتوحة عادة ما تكون أرخص من المغلقة، والتخزين المحلي يحمي البيانات الحساسة.

يقول المؤيدون إن الفائدة الرئيسية هي تحدي السيطرة الصارمة التي تمارسها مختبرات الخطوط الأمامية على الذكاء الاصطناعي. المستشارة السياسية الأولى في Tony Blair Institute for Global Change، إليزابيث سيغر، تعتبر ذلك تجنباً لتركيز السلطة بشكل كبير واعتباراً للتكنولوجيا الأساسية منفعة عامة. يشير هاميش هوبس من Centre for Long-Term Resilience إلى أن أكثر نماذج القرصنة تطوراً في العالم تُنشأ في الولايات المتحدة، لذلك تعتمد الدول الأخرى على الشركات والحكومة الأمريكية في الحماية السيبرانية.

حجج الأمان ضد الانفتاح

النماذج المغلقة محفوفة بالمخاطر أيضاً بشكل كافٍ. في يوليو، اخترق وكلاء OpenAI منصة Hugging Face بشكل مستقل، بينما يصف تقرير مخاطر Anthropic عمليات قرصنة واسعة أُجريت بمساعدة Claude. لكن النماذج المفتوحة تتجاوز الدفاعات الرئيسية: الفلاتر الآلية التي تفحص طلبات القرصنة أو الأسلحة، وإمكانية إلغاء الوصول. وقد أظهر الباحثون أيضاً أنه من السهل بشكل مذهل تعديل نموذج مفتوح آمن بحيث يوافق على سلوكيات كان من المفترض أن يرفضها.

يقارن بعض الخبراء ذلك بالكود المفتوح: Linux غالباً ما يُعتبر أكثر أماناً من البرامج المغلقة لأن المجتمع يفحص نقاط الضعف ويصلحها. حتى Hugging Face نفسها استخدمت نموذجاً مفتوحاً لتحليل اختراقها الخاص، لأن الأسئلة حول الحادث كانت ستفعّل فلاتر الأمان في النماذج المغلقة. لكن النقاد، مثل داريو أمودي، يقلقون من أحداث نادرة لكنها كارثية، بينما الطبيعة اللامركزية للنماذج المفتوحة تعيق اكتشاف السلوك غير المرخص.

البحث عن طريق وسط

يحاول الباحثون جعل النماذج المفتوحة أكثر أماناً. يرغب بعضهم في تدريب النماذج بحيث لا تتعرض إطلاقاً للبيانات ذات السلوك غير المرغوب فيه، على أن تنظيف مثل هذه المعرفة دون الإضرار بالفعالية لا يزال صعباً. يبني آخرون نماذج مقاومة للتدخل تعارض التعديل، لكن وفقاً لورقة بحثية نُشرت قبل فترة قصيرة، لا يوجد أي نهج حالي يقاوم جميع هجمات التدخل. يبقى المؤلف الرئيسي في Deep Breathe، سعد حسيني، متفائلاً على خلفية البحث النشط.

يحذر الخبراء من أن الأوزان المفتوحة وحدها قد لا تكون كافية لكسر تركيز السلطة، لأن تفاصيل بيانات التدريب والرقائق المكلفة لا تزال حواجز. يفضل الكثيرون الإصدار المرحلي: تبدأ النماذج مغلقة وتصبح أكثر إتاحة عند تأكيد الأمان. يتطلب هذا النهج موازنة المخاطر والفوائد الحقيقية لكلا الجانبين.

المصادر: Mit Technology Review Ai