Microsoft називає агентів ШІ загрозою зсередини в новій ініціативі корпоративної безпеки

Microsoft переосмислює ризики корпоративного ШІ

Microsoft у понеділок представила функції безпеки, спрямовані на захист підприємств від агентів ШІ, оскільки компанія стверджує, що передовим моделям не можна довіряти діяти в межах організаційних норм. Цей запуск розширює Project Perception, представлений у червні, який спочатку поділяв агентів на червону команду, що атакувала, синю команду, що виявляла й оцінювала вразливості, і зелену команду, що усувала їх.

Керівниця бізнесу безпеки Microsoft Хайете Галло сказала, що передові моделі, незалежно від походження, не обов'язково є зловмисними або легко зламними, але є непередбачуваними, оскільки їх навчають досягати завдань, а не керуватися організаційними нормами чи судженням. Вона сказала, що підприємства часто надають агентам доступ до чутливих даних і інструментів, які можуть завдати серйозної шкоди.

Guardian Agents і виявлення в Defender

Нова функція Guardian Agents має на меті контролювати агентів ШІ, яких використовує компанія. Microsoft також додала до Microsoft Defender функцію виявлення агентів, яка може виявляти до 60 типів агентів, яких співробітники приносять на робоче місце, зокрема Claude Code, Codex і OpenClaw.

Microsoft сказала, що додає засоби контролю, які обмежують доступ агентів до даних і систем, динамічно змінюють дозволи залежно від завдання та вимагають схвалення людини, коли агент, здається, приймає ризиковані рішення.

Відокремлення інтелекту від влади

Генеральний директор Microsoft Сатья Наделла попереджав, що ворогом у сфері ШІ можуть бути самі агенти, які підприємства розгортають і за які платять, порівнюючи їх із несумлінним співробітником-людиною або загрозою зсередини. У приватному дописі в блозі раніше цього місяця він сказав, що запевнення постачальників моделей не звільняють підприємства від відповідальності за те, що інтелект робить від їхнього імені, додаючи, що постачання інтелекту має бути відокремлене від влади над ним.

Microsoft була одним із перших учасників платформи Open Agent Safety Platform від Nvidia, яку підтримують понад 100 інших технологічних компаній. Платформа ізолює агентів у захищеному середовищі та може відстежувати і зупиняти поведінку за допомогою апаратного забезпечення. Цей крок слідує за оголошенням Microsoft про комп'ютери Surface Laptop Ultra, створені для агентів, які працюють на чипах Nvidia із включеними засобами безпеки та контролю для агентів.

Джерела: TechCrunch