კვლევა: AI მოდელებს თვითნებური შესაძლებლობების დამტკიცებადი დამალვა შეუძლიათ

ფარული წრედები მოდელის წონებში

მკვლევართა ჯგუფმა აჩვენა, რომ AI მოდელებს შეუძლიათ საკუთარ წონებში თვითნებური შესაძლებლობები დამტკიცებადად დამალონ. ნაშრომი სახელწოდებით „AI Models Can Provably Hide Arbitrary Capabilities“ 2026 წლის 9 ოქტომბერს arXiv-ზე გაიგზავნა და NeurIPS 2026-ზე მიიღეს. ავტორები არიან Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas და Christian Schroeder de Witt.

ნაშრომი სამიზნედ იღებს შესაძლებლობათა შეფასების მთავარ დაშვებას: თითქოს გაშვებამდე შესაძლებელია ფარული საშიში ქცევების გამოწვევა. მკვლევრები აჩვენებენ, რომ ეს დაშვება მტრულ პირობებში მცდარია ისეთი backdoor-შეტევების აგებით, რომლებიც დაშიფრულ ნეირონულ ქსელებს მასპინძელ მოდელში ჩაშენებენ. ეს ფარული წრედები მხოლოდ მაშინ გაშიფრდებიან და სრულდებიან, როცა საიდუმლო ტრიგერს მიიღებენ.

ავტორების მიერ ციფრულ საკეტებად წოდებული კონსტრუქციების გამოყენებით, ფარული წრედები კრიპტოგრაფიულ დაშვებებზე დაყრდნობით დამტკიცებადად ძნელად გამოსაწვევი და ინტერპრეტირებადი რჩება, მაშინაც კი, როცა აუდიტორს მოდელის წონებზე სრული წვდომა აქვს. მიდგომა აფართოებს ადრინდელ ნაშრომს: ფიქსირებული სტრიქონების დამალვიდან თვითნებური გამოთვლების დამალვამდე.

ჯგუფმა კონცეფციის დამადასტურებელი ვარიანტი PyTorch-ში განახორციელა და გამოწვევა შეამოწმა fine-tuning-ით, წონებში ხმაურის დამატებით, გრადიენტზე დაფუძნებული ტრიგერის ძიებითა და ლატენტური ადვერსარული წვრთნით. ექსპერიმენტები მცირე ქიმიური რეაქციის პროგნოზირების ამოცანაზე ჩატარდა, რომელიც CBRN-თან დაკავშირებული შესაძლებლობების პროქსიდ აირჩიეს. შედეგებმა ყველა ამ მეთოდის მიმართ გამძლეობა აჩვენა.

კრიპტოგრაფიულ გარანტიებთან ერთად, შედეგები ავლენს გამოწვევაზე დაფუძნებული შესაძლებლობათა აუდიტის ფუნდამენტურ ზღვარს. ავტორებმა თავიანთი მოდელები საჯაროდ გამოაქვეყნეს უკეთესი დაცვის მექანიზმების განვითარების მხარდასაჭერად. ნაშრომი 22 გვერდს მოიცავს, მასში 6 ფიგურა და 3 ცხრილია, და ის კლასიფიცირებულია მანქანური სწავლების, კრიპტოგრაფიისა და უსაფრთხოების კატეგორიებში.

წყაროები: Arxiv