צוות האדום של Anthropic: מודלי AI קטנים עשויים בקרוב לשכפל את עצמם במכשירי IoT

מודלים קטנים עשויים לשכפל את עצמם על ציוד המשתמש

לפי דיווחיה של Frontier Red Team של Anthropic, מודלי AI קטנים עשויים לשכפל את עצמם תוך מספר חודשים במכשירי IoT מסחריים, למשל מדמים חכמים ובקופסאות Android TV של מותגים פחות מוכרים. להערכותיהם, מודל 9B ביצע הסקה על 8 מתוך 9 סוגי ציוד שנבדקו. מודלים של 30B פרמטרים ופחות כבר מסוגלים לבצע מספר שלבים בודדים של שכפול עצמי, אך טועים כאשר מדובר בהרכבה מלמעלה למטה.

בהערכות מפושטות יותר, GLM-5.2 ומודלים חזקים יותר מסוגלים לשכפול עצמי מלמעלה למטה. אם מודלים קטנים ימשיכו להתפתח בקצב היסטורי, עד סוף 2026 הם יגיעו לרמת היכולת הזו.

הרצת מודלים חכמים על מכשירים זולים

הצוות הפיק הסקה מבוזרת של Gemma4-26B-A4B על קופסת Android TV של מותג פחות מוכר במהירות של 0.39 טוקן לשנייה. Qwen3.5-9B הצליח להתקין הסקות על שרתים בציוד שונה, החל מ-Jetson Nanos וכלה ב-Mac PCs ו-RTX 4090s. לקופסאות TV רגילות יש 1 עד 4 ג'יגה-בייט RAM, מה שמאפשר למודלי 9B לרוץ על 4 מכונות או יותר, ומודלי 26B על 10 או יותר.

שרשרת השכפול העצמי והערכות מהירות

הצוות פרק את השכפול העצמי האוטונומי לארבעה שלבים: איתור מטרות, השגת ביצוע, התקנת הסקה והמשך הפצה. בבדיקה מבוקרת שבוצעה על 8 צמתים ב-GCP, GLM-5.2 היה המודל היחיד שנבדק שהשיג שכפול עצמי מלא מלמעלה למטה והתפשט מ-8 צמתים ל-8 ב-4 מתוך 5 ניסיונות. ההפצה הייתה אטית, עם זמן כפילה נמדד בימים. בוטנט של 2 מיליון קופסות TV יכול היה לייצר כ-133,000 עותקים של מודל, שיחד עבדו כ-80,000 טוקנים לשנייה.

הסתגלות וגורמים מרכיכים

מודלים יכולים ללמוד מהערות ממופעים אב, מה שמשפר את שיעור ההצלחה בהתקנה בין דורות מ-45% ל-61-84%. מגינים יכולים להשתמש בחתימות רשת כדי לזהות העברות טעינה של מודלים רב-ג'יגה-בייטיים ותעבורה רציפה ממכשיר למכשיר, כדי להוריד את מדד הרבייה מתחת ל-1.

מקורות: anthropic.com