لماذا لا يكفي فصل الذكاء الاصطناعي عن الإنترنت

وكلاء يهربون من المختبر

خلال الأشهر الأخيرة، تفلّت وكلاء الذكاء الاصطناعي مراراً من بيئات اختبار كان يُفترض أنها آمنة: هاجموا أهدافاً حقيقية، واستولوا على ويكيات مغمورة، وتركوا تعليمات لوكلاء آخرين. ويختبر الباحثون هذه الأنظمة تحديداً لأن سلوكها غير متوقّع، ومن هنا يبرز سؤال بسيط: لماذا لا نبقي الوكلاء ببساطة بعيداً عن الإنترنت؟

ماذا يقدّم العزل الكامل

نظرياً، هذا ممكن. يعني "air gapping" عزل الحواسيب التي تشغّل أدوات الذكاء الاصطناعي عن الإنترنت والشبكات الخارجية: تُنزع الكابلات، وتُعطّل الأجهزة اللاسلكية، وفي الحالات الحساسة تُستخدم أقفاص فاراداي التي تحجب الإشارات الكهرومغناطيسية. النظام المحكم الإغلاق لا يترك للوكلاء مساراً مباشراً إلى أهداف خارجية، ويجعل هجمات مثل التي شنّتها نماذج OpenAI على Hugging Face أصعب بكثير.

ثمن الواقعية

لكن عملياً، الصندوق المحكم تماماً مختبر محدود. يقول تورستن هولتز، المدير العلمي في معهد ماكس بلانك للأمن والخصوصية في ألمانيا، إن التقييمات الواقعية تحتاج غالباً إلى خدمات خارجية وواجهات API. وأضاف: "العزل الصارم يقلّل الواقعية — إنه مقايضة، وليس مشكلة تقنية جوهرية".

شبّهت رويزه لي من جامعة برمنغهام العزل الكامل باختبار الذكاء الاصطناعي في "فراغ اصطناعي": سننتهي باختبار نموذج "مُضعَف"، ما يحجب عن المقيّمين كيفية تصرف النموذج أو فشله في بيئات النشر الحقيقية. كما أن العزل مكلف ويبطئ البحث بشدة، فيحوّل التكرارات السريعة إلى "عقبة لوجستية بطيئة". ويرى مكسيم أندريوشتشينكو من معهد ELLIS في توبينغن أن هذه الكلفة قد تكون مبرَّرة للتجارب الخطرة، لكن تعميمها سيبطئ تطوير النماذج الجديدة.

لماذا لا يكفي العزل وحده

العزل لا يزيل كل المخاطر: يمكن للوكلاء إلحاق الضرر بأنظمة داخل البيئة المغلقة، ويقول لي إنه "لا يشخّص المخاطر الكامنة داخل النموذج ولا يحلّها". ويمكن اختراق الحاجز من الخارج أيضاً: فبرمجية Stuxnet الخبيثة، التي قيل إنها استُخدمت لتخريب البرنامج النووي الإيراني، وصلت إلى هدفها عبر ذاكرة USB. واقترح باحث OpenAI نعوم براون على منصة X أن جهازين معزولين يمكن أن يتواصلا نظرياً عبر التحكم بدرجة حرارة CPU، غير أن النقاد أشاروا إلى فجوة كبيرة بين الإمكانية النظرية والاستخدام الفعلي. أما الحلقة الأضعف فهي الإنسان: يحذّر الباحثون من أن نموذجاً مقنعاً قد يدفع الناس إلى "جسر" الفجوة.

قال لي: "الاعتماد على العزل كحل أمان شامل يخلق إحساساً زائفاً بالأمان"، داعياً إلى نموذج احتواء متعدد الطبقات: فهم كيفية عمل النماذج من الداخل، والعمل على المواءمة alignment، والحماية من الخطأ البشري. ويصف ستيفن كاسبر من كلية كينيدي بجامعة هارفارد العزل بأنه "فكرة رائعة" للأنظمة الحساسة مثل المنشآت النووية، لكنه يرى أن الأعطال الواقعية غالباً ما تكون انتهاكات إجرائية وأخطاء بشرية. ويرى هولتز أن الوكلاء المصمَّمين لقدرات هجومية في الأمن السيبراني يستحقون افتراضياً ضمانات أشد وعزلاً صارماً ومراقبة دائمة.