Araşdırma: AI modelləri istənilən qabiliyyətləri sübut edilə bilən şəkildə gizləyə bilərlər

Model çəkilərində gizli dövrlər

Araşdırma qrupu göstərdi ki, AI modelləri öz çəkilərində istənilən qabiliyyətləri sübut edilə bilən şəkildə gizləyə bilərlər. „AI Models Can Provably Hide Arbitrary Capabilities“ adlı iş 2026-cı ilin 9 oktyabrında arXiv-ə göndərildi və NeurIPS 2026-da qəbul edildi. Müəlliflər Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas və Christian Schroeder de Witt-dir.

İş qabiliyyətlərin qiymətləndirilməsinin əsas fərziyyəsini hədəf seçir: görünəşə görə buraxılışdan əvvəl gizli təhlükəli davranışların təyin oluna bilməsi mümkündür. Tədqiqatçılar göstərir ki, bu fərziyyə düşmən şəraitində backdoor hücumları ilə host modelə yerləşdirilən şifrəli neyron şəbəkələri üçün yalandır. Bu gizli dövrlər yalnız gizli tətik qəbul edildikdə şifrələnir və icra olunur.

Müəlliflərin rəqəmsal qıfıl adı verdiyi konstruksiyalardan istifadə etməklə, gizli dövrlər kriptoqrafik fərziyyələrə əsaslanan sübutla çətin aşkarlanır və interpretasiya oluna bilir, hətta auditor modelin çəkilərinə tam girişi olanda belə. Bu yanaşma əvvəlki işi genişləndirir: sabit sətirlərin gizlədilməsindən istənilən hesablamaların gizlədilməsinə qədər.

Qrup konsepsiyanı sübut edən variantı PyTorch-də həyata keçirdi və fine-tuning, çəkilərə şüyü əlavə etmə, qradiyentə əsaslanan tətik axtarışı və gizli adversarial təlim ilə çağırışı yoxladı. Eksperimentlər kiçik kimyəvi reaksiya proqnozlaşdırma tapşırığında aparıldı; bu tapşırıq CBRN ilə əlaqəli qabiliyyətlərin proksisi kimi seçildi. Nəticələr bütün bu üsullara qarşı müqaviməti göstərdi.

Kriptoqrafik zəmanətlərlə birlikdə nəticələr çağırışa əsaslanan qabiliyyətlərin auditinin fundamental həddini göstərir. Müəlliflər modellərini daha yaxşı müdafiə mexanizmləri inkişaf etdirmək üçün açıq şəkildə nəşr etdilər. İş 22 səhifədən ibarətdir, onda 6 şəkil və 3 cədvəl var və o, maşın öyrənməsi, kriptoqrafiya və təhlükəsizlik kateqoriyalarında təsnif edilir.

Mənbələr: Arxiv