Microsoft AI agentlərini yeni korporativ təhlükəsizlik təşəbbüsü ilə daxili təhdid kimi göstərir

Microsoft korporativ AI riskini yenidən formalaşdırır

Microsoft bazar ertəsi günü müəssisələri AI agentlərindən qorumaq üçün nəzərdə tutulmuş təhlükəsizlik xüsusiyyətlərini təqdim etdi; şirkət irəli modellərin təşkilat normaları çərçivəsində davranacağına etibar edilməyəcəyini bildirir. Bu buraxılış iyun ayında təqdim edilən Project Perception layihəsini genişləndirir; layihə agentləri ilk olaraq hücum edən qırmızı komanda, zəiflikləri aşkarlayıb qiymətləndirən mavi komanda və onları düzəldən yaşıl komanda kimi təşkil edirdi.

Microsoft-un təhlükəsizlik biznesi üzrə rəhbəri Hayete Gallot dedi ki, irəli modellər mənşəyindən asılı olmayaraq etibarsız sayılır: səbəb onların zərərli və ya asanlıqla hacklənə bilən olması deyil, proqnozlaşdırıla bilməməsidir. Onlar təşkilati normalara və ya mühakiməyə uyğun davranmaq yerinə tapşırıqları yerinə yetirməyə təlim alıblar. O dedi ki, müəssisələr agentlərə çox vaxt ciddi ziyan vura bilən həssas məlumatlara və alətlərə giriş verir.

Guardian Agents və Defender aşkarlanması

Yeni Guardian Agents xüsusiyyəti şirkətin istifadə etdiyi AI agentlərini izləmək üçün nəzərdə tutulub. Microsoft həmçinin Microsoft Defender-a işçilərin iş yerinə gətirdiyi, Claude Code, Codex və OpenClaw daxil olmaqla 60 növə qədər agenti aşkarlaya bilən aşkarlama funksiyası əlavə etdi.

Microsoft dedi ki, agentlərin məlumat və sistemlərə girişini məhdudlaşdıran, tapşırığa görə icazələri dinamik tənzimləyən və agent riskli qərar qəbul etdikdə insan təsdiqi tələb edən nəzarətlər əlavə edir.

İntellektin təchizatının səlahiyyətdən ayrılması

Microsoft CEO-su Satya Nadella xəbərdarlıq edib ki, AI düşməni müəssisələrin qurub ödədiyi agentlər özləri ola bilər; o, onları başına buyruq bir işçiyə, yəni daxili təhdidə bənzədib. Bu ayın əvvəlində şəxsi blog yazısında o dedi ki, model təminatçılarının zəmanətləri müəssisələri intellektin onların əvəzinə etdiyi hərəkətlərə görə məsuliyyətdən azad etmir və intellektin təchizatı onun üzərindəki səlahiyyətdən ayrılmalıdır.

Microsoft, 100-dən çox digər texnoloji şirkət tərəfindən dəstəklənən Nvidia-nın Open Agent Safety Platform-un ilk üzvlərindən idi. Platforma agentləri təhlükəsiz mühitlərdə təcrid edir və davranışı aparat vasitəsilə izləyə və dayandıra bilər. Bu addım Microsoft-un agentlər üçün hazırlanmış, Nvidia çiplərində işləyən və agent təhlükəsizliyi ilə nəzarətləri özündə birləşdirən Surface Laptop Ultra kompüterlərini elan etməsindən sonra gəldi.

Mənbələr: TechCrunch