מחקר: מודלי AI יכולים להסתיר יכולות שרירותיות באופן מוכח

מעגלים חבויים במשקלי המודל

צוות החוקרים הראה שמודלי AI יכולים להסתיר באופן מוכח יכולות שרירותיות במשקליהם. העבודה בשם „AI Models Can Provably Hide Arbitrary Capabilities" נשלחה ל-arXiv ב-9 באוקטובר 2026 והתקבלה ב-NeurIPS 2026. המחברים הם Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas ו-Christian Schroeder de Witt.

העבודה מתמקדת בהנחה המרכזית של הערכת יכולות: כבר לפני השחרור אפשר לעורר התנהגויות מסוכנות חבויות. החוקרים מראים שהנחה זו שגויה בתנאים עוינים באמצעות בניית התקפות backdoor המשלבות רשתות עצביות מוצפנות במודל המארח. המעגלים החבויים האלה מפוענחים ומופעלים רק כאשר הם מקבלים טריגר סודי.

באמצעות מבנים שהמחברים מכנים מעטפות דיגיטליות, המעגלים החבויים נשארים כמעט בלתי ניתנים לגילוי ולפירוש על בסיס הנחות קריפטוגרפיות, גם כאשר למבקר יש גישה מלאה למשקלי המודל. הגישה מרחיבה עבודה קודמת: מהסתרת מחרוזות קבועות ועד להסתרת חישובים שרירותיים.

הצוות יישם גרסה מוכחת של הקונספציה ב-PyTorch ובדק את האתגר באמצעות fine-tuning, הוספת רעש למשקלים, חיפוש טריגרים מבוסס גרדיאנט ואימון אוירסרי לטנטי. הניסויים בוצעו על משימת חיזוי תגובות כימיות קטנות, שנבחרה כפרוקסי ליכולות הקשורות ל-CBRN. התוצאות הראו עמידות מול כל השיטות הללו.

יחד עם ערבות קריפטוגרפיות, התוצאות מצביעות על מגבלה יסודית של בדיקת יכולות מבוססת אתגרים. המחברים פרסמו את המודלים שלהם בכוונה כדי לתמוך בפיתוח מנגנוני הגנה טובים יותר. העבודה כוללת 22 עמודים, בהם 6 תרשימים ו-3 טבלאות, והיא מסווגת בקטגוריות של למידת מכונה, קריפטוגרפיה ואבטחה.

מקורות: Arxiv