כיצד AI משנה את נוף איומי הסייבר — ניתוח שנתי של Anthropic במיפוי ל-MITRE ATT&CK
Anthropic ניתחה 832 חשבונות חסומים והראתה שמתקפות סייבר המופעלות על ידי AI הופכות לאוטונומיות ומתוחכמות יותר. מסגרת MITRE ATT&CK מתקשה לשקף איומים חדשים אלו.
כיצד AI משנה את נוף איומי הסייבר — ניתוח שנתי של Anthropic במיפוי ל-MITRE ATT&CK
חברת Anthropic, הידועה כמפתחת Claude, פרסמה דוח איומים מקיף שבו ניתחה 832 חשבונות חסומים שהפרו את כללי השימוש בדגמי ה-AI שלה במהלך שנה אחת. זהו המחקר הראשון המפורט כל כך על האופן שבו תוקפים משתמשים במודלי שפה גדולים (LLM) לביצוע מתקפות סייבר.
היקף הבעיה: 832 חשבונות חסומים
במהלך 12 חודשים זיהתה וחסמה Anthropic 832 חשבונות הקשורים לפעילות זדונית. חשבונות אלו השתמשו ב-Claude עבור:
- איסוף מודיעין (Reconnaissance) — איסוף מידע על מטרות, ניתוח שטח התקפה
- הנדסה חברתית — יצירת הודעות פישינג משכנעות ותרמיות
- פיתוח קוד זדוני — כתיבת נוזקות, אקספלוייטים וכלי עקיפת הגנה
- ניצול חולשות — ניתוח CVE ויצירת קוד PoC
- אוטומציה של מתקפות — יצירת שרשרות מתקפה אוטונומיות לחלוטין
סיווג לפי MITRE ATT&CK
Anthropic סיווגה את האיומים שזוהתה באמצעות מסגרת MITRE ATT&CK — טקסונומיה סטנדרטית לטקטיקות וטכניקות מתקפת סייבר. הניתוח הראה שדגמי AI משמשים בכל שלב בשרשרת המתקפה:
| טקטיקת MITRE ATT&CK | כיצד AI משמש |
|---|---|
| Reconnaissance (T1595) | איסוף נתונים אוטומטי על מטרות, ניתוח DNS, סריקת פורטים |
| Resource Development (T1583) | יצירת דומייני פישינג, יצירת תעודות SSL |
| Initial Access (T1566) | יצירת הודעות פישינג מותאמות אישית באיכות גבוהה |
| Execution (T1059) | כתיבת סקריפטים להרצת קוד זדוני |
| Persistence (T1053) | יצירת מנגנוני עקביות במערכת |
| Defense Evasion (T1027) | הסתרת קוד, עקיפת אנטי-וירוס ו-EDR |
| Credential Access (T1110) | יצירת מילוני סיסמאות, אסטרטגיות brute-force |
למה MITRE ATT&CK מפגר
אחת המסקנות המרכזיות של הדוח היא שמסגרת MITRE ATT&CK לא מכסה במלואם איומי AI חדשים. הטקסונומיה המסורתית נוצרה עבור מתקפות סייבר קלאסיות, שבהן האדם הוא המבצע העיקרי. AI משנה פרדיגמה זו:
- מדרגיות — אדם אחד עם AI יכול לבצע עבודת צוות שלם
- אוטונומיה — AI יכול לעבור שלבי מתקפה באופן עצמאי ללא פיקוח מתמיד
- התאמה — מודלים יכולים לשנות טקטיקה בזמן אמת
- סף כניסה נמוך — לביצוע מתקפות מתוחכמות כבר לא נדרשים ידע טכני מעמיק
קטגוריות איומים חדשות
Anthropic זיהתה מספר סוגי איומים שאין להם מקבילים ישירים ב-MITRE ATT&CK:
- גילוי חולשות בסיוע AI — חיפוש אוטומטי של חולשות אפס-יום
- יצירת נוזקות פולימורפיות — נוזקות שמשנות את הקוד בכל הרצה
- הנדסה חברתית אוטומטית בקנה מידה — אלפי הודעות פישינג מותאמות אישית בו-זמנית
- שרשרות מתקפה חוצות-דומיינים — שרשרות מתקפה המשתרעות על מספר מערכות ושירותים
השפעה על אבטחת הסייבר
לדוח זה יש השלכות רחבות על תעשיית אבטחת הסייבר:
1. שינוי מודל האיומים. ארגונים צריכים לבחון מחדש את מודלי האיומים שלהם תוך התחשבות במתקפות AI. אמצעי הגנה מסורתיים עשויים להיות לא מספקים מול בינה מלאכותית.
2. צורך בכלים חדשים. נדרשים פתרונות חדשים לזיהוי תוכן זדוני שנוצר על ידי AI, כולל הודעות פישינג, נוזקות והנדסה חברתית.
3. עדכון מסגרות. MITRE ATT&CK וטקסונומיות דומות חייבות להתפתח כדי לכלול טכניקות מתקפה ספציפיות ל-AI.
4. הכשרת כוח אדם. מומחי אבטחת סייבר צריכים להבין כיצד AI משמש במתקפות ולדעת כיצד להתגונן מולם.
תגובת Anthropic
Anthropic נוקטת במספר צעדים למניעת שימוש לרעה:
- שיפור מערכות זיהוי שימוש זדוני בזמן אמת
- שיתוף פעולה עם רשויות אכיפת חוק וסוכנויות מודיעין
- פרסום דוחות איומים להגברת מודעות התעשייה
- פיתוח שיטות alignment חדשות למניעת פלט זדוני
מסקנות
דוח Anthropic הוא איתות חשוב לכל תעשיית אבטחת הסייבר. AI לא רק מחזק מתקפות קיימות, אלא יוצר סוגי איומים חדשים באופן מהותי שקשה לסווג באמצעות מסגרות מסורתיות. ארגונים שלא יסתגלו למציאות החדשה מסתכנים בלהיות קורבנות של הדור הבא של מתקפות הסייבר.