باحثو الأمن السيبراني غير راضين عن القيود في نموذج Fable من Anthropic

أطلقت Anthropic نموذج Fable يوم الثلاثاء ووصفته بأنه نسخة عامة ومحدودة من Mythos، نموذجها للأمن السيبراني. وقد أثارت القيود المصاحبة له شكاوى من باحثين ومتخصصين في الأمن، يقولون إن المرشّحات تعمل حتى على مهام لا علاقة لها بمهاجمة الأنظمة.

مرشّحات تتفاعل مع الموضوع لا مع الطلب

كتبت فالنتينا «تشومبي» بالميوتي، الباحثة الأمنية في IBM X-Force، أن Fable «يرفض أي طلب قد يكون مرتبطًا بالسيبرانية ولو بشكل غير مباشر، حتى المهام غير المؤذية مثل قراءة تدوينة». وعندما يُفعّل الطلب إجراءات الحماية، يوقف النموذج المحادثة ويخبر المستخدم بأن «إجراءات السلامة صنّفت هذه الرسالة ضمن مواضيع الأمن السيبراني أو الأحياء». وأشار باحث آخر على منصة X إلى أن مجرد طلب مراجعة كود كافٍ لتفعيل المرشّحات.

لماذا توجد هذه القيود

وضعت Anthropic هذه القيود للحد من خطر استخدام Fable في كتابة برمجيات خبيثة أو اختراق البرمجيات، وهو قلق قديم لدى الشركة. أما قيود الأحياء فتنبع من قلق مشابه يتعلق بالأسلحة البيولوجية. كما بُرمج النموذج ليعود إلى Claude Opus 4.8 عند تفعيل إجراءات الحماية. وبشكل منفصل تدير Anthropic برنامج Cyber Verification Program: فالمتخصصون الأمنيون المعتمدون يحصلون على قيود أقل عند استخدام Claude. ولدى OpenAI برنامج مشابه باسم Trusted Access for Cyber.

Mythos وProject Glasswing

عندما أطلقت Anthropic نموذج Mythos في نيسان/أبريل، حصرته في عدد محدود من الشركات والمؤسسات ضمن مبادرة Project Glasswing التي تهدف إلى تأمين البرمجيات والبنى التحتية الحيوية. وفي الأسبوع الماضي وسّعت الشركة الوصول إلى Mythos ليشمل مئات المؤسسات في 15 دولة.

مطابقة كلمات مفتاحية لا حكم

قال مات سويش، وهو مخضرم في الأمن السيبراني يعمل الآن في شركة Tolmo الناشئة لأمن الذكاء الاصطناعي، لموقع TechCrunch: «إذا طلبت منه كتابة كود آمن، يفترض أن هذا عمل أمني لا ممارسة هندسية جيدة، فتُخفَّض جودة الاستجابة». ويرى أن المحفّزات تقوم على الكلمات المفتاحية، لذا فأي شيء من الحقل المعجمي للأمن السيبراني يفعّلها. وأضاف أن هذا مفهوم في هذه المرحلة وأن القيود ستُخفَّف مع الوقت: «في إصدار كهذا، الأفضل أن تلتقط كثيرين لا قليلين، وأن ترخي القيود لاحقًا». ولم ترد Anthropic فورًا على طلب للتعليق.