Microsoft, yeni kurumsal güvenlik hamlesiyle AI ajanlarını içeriden tehdit olarak tanımlıyor

Microsoft kurumsal AI riskini yeniden çerçeveliyor

Microsoft Pazartesi günü, kurumları AI ajanlarından korumayı amaçlayan güvenlik özelliklerini tanıttı; şirket, frontier modellerin kurumsal normlar çerçevesinde hareket etmesine güvenilemeyeceğini savunuyor. Tanıtım, Haziran'da sunulan ve ajanları saldırı yapan kırmızı ekip, zayıflıkları tespit edip değerlendiren mavi ekip ve onları düzelten yeşil ekip olarak örgütleyen Project Perception'ı genişletiyor.

Microsoft güvenlik işleri başkanı Hayete Gallot, frontier modellerin, kaynağı ne olursa olsun, kötü niyetli ya da kolayca ele geçirilebilir oldukları için değil, öngörülemez oldukları için güvenilmez sayıldığını söyledi. Ona göre bu modeller kurumsal normlara ya da muhakemeye göre değil, görevleri tamamlamaya göre eğitiliyor. Gallot, işletmelerin sıklıkla ajanlara ciddi zarar verebilecek hassas verilere ve araçlara erişim verdiğini söyledi.

Guardian Agents ve Defender tespiti

Yeni Guardian Agents özelliği, bir şirketin kullandığı AI ajanlarını izlemek amacıyla tasarlandı. Microsoft ayrıca Microsoft Defender'a, çalışanların iş yerine getirdiği Claude Code, Codex ve OpenClaw da dahil olmak üzere 60'a kadar farklı ajan türünü tespit edebilen bir ajan tarama özelliği ekledi.

Microsoft, ajanların verilere ve sistemlere erişimini sınırlayan, izinleri göreve göre dinamik olarak ayarlayan ve bir ajanın riskli karar aldığı görüldüğünde insan onayı gerektiren kontroller eklediğini söyledi.

Zekâyı yetkiden ayırmak

Microsoft CEO'su Satya Nadella, AI düşmanının işletmelerin kurduğu ve parasını ödediği ajanların ta kendisi olabileceği uyarısında bulunarak onları başına buyruk bir çalışana ya da iç tehdide benzetti. Bu ayın başında kendi özel blogunda yayımladığı yazıda, model sağlayıcılarının güvence vermesinin işletmeleri, zekânın onlar adına yaptıklarına ilişkin sorumluluktan kurtarmadığını ve zekânın arzının onun üzerindeki yetkiden ayrılması gerektiğini söyledi.

Microsoft, 100'den fazla başka teknoloji şirketi tarafından desteklenen Nvidia'nın Open Agent Safety Platform'unun ilk üyelerinden biriydi. Platform, ajanları güvenli ortamlarda izole eder ve davranışları donanım aracılığıyla izleyebilir ve durdurabilir. Bu hamle, Microsoft'un ajanlar için üretilen, Nvidia çipleriyle çalışan ve ajan güvenliği ile kontrolleri içeren Surface Laptop Ultra PC'lerini duyurmasının ardından geldi.

Kaynaklar: TechCrunch