סוכני AI פרצו ל-Anthropic דרך תוכנה עסקית של צד שלישי

סטארט-אפ הסייבר Cathedral השתמש בסוכני AI כדי לחדור למערכות הפנימיות של Anthropic דרך תוכנה עסקית של צד שלישי, במסגרת תוכנית פרסי הבאגים של מעבדת ה-AI. לדברי Cathedral, הסוכנים מצאו הודעות Slack, נתוני שכר ורשומות פנימיות אחרות בתוך שעות; Anthropic אומרת שהניסיונות נמשכו כמה ימים ושקוד המקור ומשקולות המודל לא נחשפו מעולם. התקרית ממחישה עד כמה מהר סוכני AI יכולים לסרוק רשתות ארגוניות מסביב לשעון ובמחיר נמוך.

הגישה ש-Cathedral דיווחה עליה

Cathedral, שהוקמה על ידי עובדים לשעבר ב-DOGE, מוכרת כלי אבטחה מבוססי AI לסוכנויות ממשלתיות ולחברות. לפי טיוטת הדוח שלה, שסקר The Washington Post, החוקרים נכנסו דרך תוכניות ניהול ומכירות חיצוניות. סוכני AI שהריצו מודלים מתקדמים מצאו נתיבים לתמלולי פגישות, לנתוני שכר, למודעות דרושים ולהודעות Slack בפחות משתים עשרה שעות. Anthropic אישרה גישה מוגבלת למערכות מכירות, משאבי אנוש ו-IT, כולל פרטי קשר של חלק מהלקוחות והשותפים ונתוני חשבון משתמש בסיסיים. שיחות עם Claude, קוד המקור ומשקולות המודל לא נחשפו. Anthropic סגרה את נקודות הגישה שנפגעו באותו יום, השביתה את תוכנות הצד השלישי עד לפתרון הבעיה ודיווחה לרשויות הפדרליות בארה"ב.

מחלוקת על הנתונים ועל משך האירוע

Cathedral טוענת שהתקרית נמשכה פחות משתים עשרה שעות. Anthropic אומרת שניסיון התקיפה נמשך כמה ימים, ושהיא עברה לתוכנה של צד שלישי רק לאחר ימים של בדיקת המערכות של Anthropic עצמה, לפי איש צוות ה-red team לוגן גרהאם. Anthropic אומרת ש-Cathedral מצאה שתי חולשות בתוכנת צד שלישי אך דיווחה על אחת בלבד, ואת השנייה היא גילתה ותיקנה בעצמה. Anthropic גם מאשימה את Cathedral בהפרת כללי התוכנית בגלל גילוי חלקי, ואומרת שתקיפת ספקי צד שלישי והוצאת נתונים חרגו מתנאי ה-safe harbor. Cathedral מתעקשת שפעלה לפי נוהלי מחקר אבטחה מקובלים. עובד OpenAI לשעבר ויל דפיו טען ש-Anthropic מפחיתה מחומרת האירוע, ואמר שמקורות מהימנים לדעתו סיפרו לו ש-Cathedral השיגה גישת אדמין מלאה לסביבת העבודה ב-Slack, יכלה לקרוא כל הודעה ולהיכנס לכל חשבון משתמש. דפיו הוסיף ששתי המעבדות, Anthropic ו-OpenAI, שמרו את כל סודות המחקר ב-Slack, ושמפתחות API של אדמין היו מפוזרים במערכות. ג'ייקוב קוקסון, עובד Anthropic שעזב בספטמבר 2026, מתח ביקורת בעבר על כך ש-Anthropic מריצה מחקר AI מסוכן בתוכנה משרדית כמו Slack. גרהאם דחה את הדברים ואמר שהמקורות של דפיו שגויים, אך אישר את החשש הרחב: התעשייה צריכה להמציא מחדש את האבטחה שלה בכל שנה. דפיו דרש פרטים והטיל את האחריות על קצב המירוץ ב-AI, שבו מנהלים מעדיפים מהירות על פני אבטחה. אלכס סטאמוס, מנהל האבטחה הראשי ב-Cognition, אמר ל-The Washington Post שהוא רואה בממצאים משהו משמעותי, ושתוכנות צד שלישי משולבות הן בעיה מרכזית בתעשייה.

סוכני AI וההגנה

אחרי חודשים של אזהרות מפני תקיפות סייבר מבוססות AI ומול תקלות אבטחה עצמיות, Anthropic נמצאת כעת בצד המותקף. גרהאם הזהיר שתוקפים כבר מריצים סוכני AI מסביב לשעון, ומתמקדים בתלויות חיצוניות. לדבריו, גם מודלים שנמצאים חצי דור עד דור שלם מאחורי המודלים המובילים כיום מספיקים, וליריבים בעתיד יהיו מערכות חזקות יותר. הפתרון שלו הוא בדיקות חדירה פנימיות רצופות ובנייה מחדש של תוכנה עם אימות פורמלי, שאותו AI הופך כעת לכדאי כלכלית. הוא כתב שכדאי לארגונים לבדוק את עצמם ב-red team כל הזמן, כי המודלים הנוכחיים יצירתיים מאוד. הוא לא התייחס לשאלה איך הצליחה Cathedral לחדור כל כך עמוק למרות של-Anthropic יש גישה למודלים שנחשבים לחזקים בעולם להגנת סייבר.

מקורות: The Decoder