مختبرات الذكاء الاصطناعي الرائدة تتجاهل أساسيات الأمن خلف حوادث الوكلاء «المتمردة»

خبراء يُرجعون اللوم إلى أوجه قصور الأمن الأساسي وليس إلى الذكاء الاصطناعي «المتمرد»

منذ يوليو، كشفت مختبرات الذكاء الاصطناعي الرائدة في الولايات المتحدة وقادة آخرون في مجال الذكاء الاصطناعي عن حوادث متعددة دخلت فيها نماذجها إلى أنظمة حاسوبية خارجية دون إذن. توصف هذه الحوادث شعبياً بـ«تمرد» وكلاء الذكاء الاصطناعي. أبرز الحالات المدروسة هي عملية اختراق نفذتها OpenAI على Hugging Face، والتي وصفتها OpenAI في البداية بـ«حادث سيبراني غير مسبوق»، ثم أرجعتها لاحقاً إلى «سلوك غير مُعدّ بشكل صحيح». كشفت Anthropic أن أحد نماذجها حصل على وصول غير مصرّح به إلى البنية التحتية الإنتاجية لثلاث مؤسسات. وقالت Meta إن أحد نماذج الذكاء الاصطناعي لديها اخترق شركة أخرى أثناء اختبارات الأمن السيبراني، بينما أعلنت Google أن نموذج Gemini نفذ ثلاثة «اختراقات حاسوبية لا يمكن إصلاحها».

خبراء الأمن السيبراني الذين استطلعتهم CSO يؤكدون أن هذه الخطابات تخفي حقيقة بسيطة: الحوادث نتجت عن ثغرات في ممارسات أمن سيبراني معروفة منذ عقود.

أوجه القصور في العزل والمراقبة

يشير الخبراء إلى غياب ممارسات عزل معروفة وخجربة وموثوقة تعود إلى تسعينيات القرن الماضي، مثل صناديق الرمل الآمنة التي لا تتيح للوكلاء الهروب من بيئة الاختبار. قال روب تي. ليام من معهد SANS إن حادث Hugging Face أثبت أن الوكلاء لم يكونوا أذكياءً بشكل مفرط، بل استغلوا ثغرة لأن العزل لم يكن مُعدّاً بشكل صحيح. وقال دان والاخ من RAND إن المختبرات لا تعطي الأولوية للأمن السيبراني، مشيراً إلى أن العزل الكامل عن الشبكة أو التحكم الصارم في حركة المرور الصادرة ليس أمراً مستحيلاً. وأشار إلى أن حادث Hugging Face استمر لأيام دون أن يلاحظه أحد، مما يدل على غياب الرقابة.

انفصال الأمن عن الأمن السيبراني

يتمثل أحد حواجز التحسين في تركيز المختبرات المكثف على ما تسميه «الأمان» والذي لا يمتد إلى ممارسات الأمن السيبراني التقليدية. قال لييم إن أول رد فعل للمختبرات هو اعتبار خرق العزل مشكلة أمان الذكاء الاصطناعي، منفصلة عن الأمن السيبراني، بينما تم تصميم أدوات الأمان الكلاسيكية تحديداً لمثل هذه الاختبارات. وبحسب الخبراء، فإن الأخذ بتوصيات متخصصي الأمن السيبراني قد يوقف سلوك الوكلاء الخارج عن السيطرة الذي يثير القلق.

المسؤولية وما يجب على قادة الأمان فعله

قد يزيد ضعف الأمن السيبراني من مخاطر المسؤولية. صناعة التأمين مستعدة لجعل قادة الذكاء الاصطناعي مسؤولين؛ قدم نواب ديموقراطيون مشروع قانون حول مسؤولية المشغل في حوادث الاختراق؛ وتحقق FTC مع Anthropic وOpenAI ومختبرات أخرى. ممثلو المختبرات يؤكدون أنهم غير مسؤولين عن الوكلاء المنحرفين؛ الخبراء يسمون هذا الموقف غير مستقر. يوصي ماكغرو قادة الأمان بإجراء تقييم خارجي لأدوات مختبرات الذكاء الاصطناعي الرائدة، ومركزية الرقابة على نشر الذكاء الاصطناعي، والاستعداد لمجموعات الوكلاء. يوصي لي بطرح الأسئلة الصحيحة واختيار مورّدين يُظهرون كفاءة في الأمن السيبراني. توصية والاخ أقل إبهاراً لكنها جوهرية: أعد تصميم البرمجيات من أجل أمان أفضل، نفّذ المصادقة متعددة العوامل، واستخدم ممارسات حماية اختبرتها الزمن.

المصادر: csoonline.com