دراسة: نماذج الذكاء الاصطناعي يمكنها إخفاء قدرات اعتباطية بشكل قابل للإثبات

حلقات مخفية في أوزان النموذج

أظهر فريق بحثي أن نماذج الذكاء الاصطناعي يمكنها إخفاء قدرات اعتباطية بشكل قابل للإثبات داخل أوزانها. أُرسلت الورقة المعنونة «AI Models Can Provably Hide Arbitrary Capabilities» إلى arXiv في 9 أكتوبر 2026 وقُبلت في NeurIPS 2026. والمؤلفون هم Andis Draguns وSumeet Ramesh Motwani وRaymond Douglas وChristian Schroeder de Witt.

تستهدف الورقة افتراضًا رئيسيًا في تقييم القدرات: وهو أن إثارة سلوكيات خطيرة مخفية قبل الإطلاق أمر ممكن على ما يبدو. يُظهر الباحثون أن هذا الافتراض يفشل في الظروف المعادية عبر بناء هجمات backdoor تُزرع في الشبكات العصبية المشفرة داخل النموذج المضيف. ولا تُفك هذه الحلقات المخفية وتُكتمل إلا عند تلقي محفّز سري.

باستخدام بناءً يسميه المؤلفون «أقفالًا رقمية»، تظل الحلقات المخفية، بالاعتماد على افتراضات تشفيرية، صعبة الكشف بشكل قابل للإثبات وقابلة للتفسير حتى عندما يمتلك المدقق وصولًا كاملًا إلى أوزان النموذج. وتوسع هذه الطريقة عملًا سابقًا: من إخفاء سلاسل ثابتة إلى إخفاء عمليات حسابية اعتباطية.

نفّذ الفريق نسخة إثبات المفهوم في PyTorch واختبر التحدي باستخدام fine-tuning، وإضافة ضوضاء إلى الأوزان، والبحث عن محفّز قائم على التدرج، والتدريب الخصامي الكامن. أُجريت التجارب على مهمة التنبؤ بتفاعلات كيميائية صغيرة، اختيرت بوصفها وكيلًا للقدرات المرتبطة بـ CBRN. وأظهرت النتائج مقاومة أمام كل هذه الأساليب.

مع الضمانات التشفيرية، تسلط النتائج الضوء على حد أساسي لتدقيق القدرات القائم على التحدي. نشر المؤلفون نماذجهم علنًا لدعم تطوير آليات حماية أفضل. تضم الورقة 22 صفحة، و6 أشكال، و3 جداول، وتصنف ضمن فئات التعلم الآلي والتشفير والأمان.

المصادر: Arxiv