Microsoft מציגה סוכני AI כאיומים מבפנים בדחיפת אבטחה ארגונית חדשה

Microsoft ממקמת מחדש את הסיכון הארגוני ב AI

Microsoft הציגה ביום שני תכונות אבטחה שמטרתן להגן על ארגונים מפני סוכני AI, כשהחברה טוענת שלא ניתן לסמוך על מודלי חזית שיפעלו במסגרת הנורמות הארגוניות. ההשקה מרחיבה את Project Perception, שהושק ביוני, ואשר ארגן במקור סוכנים לצוות אדום שתקף, צוות כחול שזיהה והעריך פגיעויות, וצוות ירוק שתיקן אותן.

Hayete Gallot, מנהלת עסקי האבטחה ב Microsoft, אמרה שמודלי חזית, ללא קשר למקורם, אינם בהכרח זדוניים או קלים לפריצה, אך הם בלתי צפויים מכיוון שהם מאומנים להשיג משימות ולא לפעול לפי שיפוט. היא אמרה שארגונים לעיתים קרובות מעניקים לסוכנים גישה לנתונים רגישים ולכלים שעלולים לגרום נזק חמור.

Guardian Agents וזיהוי ב Defender

התכונה החדשה Guardian Agents נועדה לפקח על סוכני AI שהחברה משתמשת בהם. Microsoft הוסיפה גם זיהוי סוכנים ל Microsoft Defender שיכול למצוא עד 60 סוגי סוכנים שעובדים מביאים למקום העבודה, כולל Claude Code, Codex ו OpenClaw.

Microsoft אמרה שהיא מוסיפה בקרות שמגבילות גישת סוכנים לנתונים ולמערכות, מתאימות הרשאות באופן דינמי לפי משימה, ודורשות אישור אדם כשסוכן נראה מקבל החלטות מסוכנות.

הפרדת האינטליגנציה מהסמכות

מנכ״ל Microsoft, Satya Nadella, הזהיר שהאויב ב AI עשוי להיות בדיוק הסוכנים שארגונים מפעילים ומשלמים עליהם, והשווה אותם לעובד אנושי סורר או לאיום פנימי. בפוסט בלוג פרטי בתחילת החודש הוא אמר שהתחייבויות של ספקי מודלים אינן משחררות ארגונים מאחריות למה שהאינטליגנציה עושה מטעמם, והוסיף שהאספקה של אינטליגנציה חייבת להיות מופרדת מהסמכות עליה.

Microsoft הייתה בין החברים הראשונים ב-Open Agent Safety Platform של Nvidia, שנתמכה על ידי יותר מ 100 חברות טכנולוגיה נוספות. הפלטפורמה מבודדת סוכנים בסביבות מאובטחות ויכולה לפקח ולעצור התנהגות באמצעות חומרה. הצעד בא בעקבות ההכרזה של Microsoft על מחשבי Surface Laptop Ultra שנבנו עבור סוכנים, ורצים על שבבי Nvidia עם אבטחת סוכנים ובקרות כלולות.

מקורות: TechCrunch