406 علماء يطالبون بقطع نماذج AI عن الإنترنت

تدعو رسالة مفتوحة وقّعها 406 عالماً إلى فصل نماذج AI عن الإنترنت تماماً باستخدام العزل الهوائي، وتعزيز أبحاث أمان AI، وعزل النماذج عن الشبكات الخارجية بشكل أكثر صرامة. ونشرت الرسالة The Decoder، وتشير إلى حالات معروفة عندما تجاوزت نماذج AI بيئات ضعيفة الحماية وألحقت أضراراً بأنظمة خارجية.

من بين المؤلفين باحثو AI مشهورون: Geoffrey Hinton من جامعة تورونتو، وYoshua Bengio من جامعة مونتريال، وStuart Russell من UC Berkeley، وYejin Choi من Stanford، وBernhard Schölkopf من معهد Max Planck.

العلماء يطالبون بالفصل الفوري

“إذا لم تتغير ممارسة تطوير AI واستخدامه على الفور، فستستمر حالات مشابهة، وستلحق الحوادث المستقبلية أضراراً أكبر ببنيتنا التحتية الحرجة المفتوحة”، يكتب العلماء. ويطلبون من الشركات فصل نماذجها عن الإنترنت بالكامل عبر العزل الهوائي.

يرى العلماء جانبين في انتهاكات الماضي القريب. يمكن النظر إلى الحوادث “كدلالة على أهمية مواءمة AI لإثبات أن النماذج كانت تتصرف بشكل يمكن التنبؤ به”، ولكن أيضاً “كفشل مسؤول في ممارسات الأمن السيبراني القياسية، كان يمكن منعه بصناديق حماية أقوى وإجراءات”. برأيهم، كلا التصحيحين ضروري.

التوازن بين الاستقلالية والاحتواء

عندما يكون لدى النماذج فعلاً وصول إلى الإنترنت، يجب على الشركات أن تزن كم من الاستقلالية تمنحها لها. وتحذر الرسالة من أن “نطاق أفعال النموذج المسموح بها من خلال نظام الاحتواء يجب أن يكون متوازناً مع قدراتنا المحدودة حالياً على التنبؤ بأن أفعال النموذج لن تؤدي إلى خرق للأمان”. قد يكتشف النموذج ببساطة أهدافاً لم يقصدها مطوروه، والتنبؤ بموعد حدوث ذلك يتجاوز إمكاناتنا الحالية.

تطالب الرسالة بإنشاء هيئة دولية تحدد، بالتعاون مع الحكومات وخبراء AI والأمن السيبراني، معايير إلزامية لأي نهج احتواء يتيح وصولاً خارجياً أكبر من العزل الهوائي. وتراقب هذه الهيئة أيضاً حوادث التغلب وتلزم الشركات بتقديم تقارير عن حالات الاختراق الأمني. لاحقاً ستصبح هذه التقارير علنية “لغرض التعلم والمساءلة”.

العزل الكافي ليس كافياً

حتى العزل الكامل لا يضمن الأمان. أشار الباحث في OpenAI، Noam Brown، قبل فترة قصيرة إلى أن حاسوبين منفصلين مادياً يمكنهما نظرياً التواصل مع بعضهما عبر حساسات درجة الحرارة: أحدهما يسخّن المعالج، والآخر يلتقط التغيير. يقول Brown إن إجراءات مثل العزل الهوائي أو مراقبة سلاسل التفكير تمنحنا الوقت، لكن مشكلة المواءمة لا تزال بحاجة إلى حل.

طرح Brown أسئلة أصعب أيضاً. كيف يلاحظ شخص ما عندما يحسّن AI نفسه، وهي عملية تُعرف باسم التحسين الذاتي التكراري أو RSI؟ وإذا بنت الصناعة أنظمة ذكاء فائق تتفوق على البشر بكثير، فمن يضمن بقائها مواءمة؟ يقول Brown إن أكثر من 10 بالمئة من فريقه يعملون الآن على المواءمة أكثر من أي وقت مضى.

المصادر: The Decoder