Microsoft-ը AI ագենտներին ներկայացնում է որպես ներքին սպառնալիք ձեռնարկությունների անվտանգության նոր նախաձեռնությունում

Microsoft-ը վերաձևակերպում է ձեռնարկությունների AI ռիսկը

Microsoft-ը երկուշաբթի օրը ներկայացրեց անվտանգության գործառույթներ, որոնք նախատեսված են ձեռնարկություններին AI ագենտներից պաշտպանելու համար։ Ընկերության պնդմամբ՝ առաջադեմ մոդելներին չի կարելի վստահել, որ դրանք կգործեն կազմակերպության նորմերի սահմաններում։ Այս մեկնարկը ընդլայնում է հունիսին ներկայացված Project Perception-ը, որը սկզբում ագենտներին բաժանել էր կարմիր թիմի, որը հարձակվում էր, կապույտ թիմի, որը հայտնաբերում և գնահատում էր խոցելիությունները, և կանաչ թիմի, որը դրանք ուղղում էր։

Microsoft-ի անվտանգության բիզնեսի ղեկավար Hayete Gallot-ը ասաց, որ առաջադեմ մոդելները, անկախ ծագումից, անվստահելի են ոչ այն պատճառով, որ չարամիտ են կամ հեշտ կոտրվող, այլ որովհետև անկանխատեսելի են։ Դրանք մարզված են առաջադրանքներ կատարելու, այլ ոչ թե առաջնորդվելու կազմակերպական նորմերով կամ դատողությամբ։ Նա ասաց, որ ձեռնարկությունները հաճախ ագենտներին մուտք են տալիս դեպի զգայուն տվյալներ և գործիքներ, որոնք կարող են լուրջ վնաս հասցնել։

Guardian Agents-ը և Defender-ի հայտնաբերումը

Նոր Guardian Agents գործառույթը նախատեսված է ընկերության կողմից օգտագործվող AI ագենտներին վերահսկելու համար։ Microsoft-ը նաև ագենտների հայտնաբերման գործառույթ է ավելացրել Microsoft Defender-ում, որն ի վիճակի է գտնել աշխատողների կողմից աշխատավայր բերված ագենտների մինչև 60 տեսակ՝ ներառյալ Claude Code-ը, Codex-ը և OpenClaw-ը։

Microsoft-ը հայտնել է, որ ավելացնում է վերահսկողության միջոցներ, որոնք սահմանափակում են ագենտների մուտքը դեպի տվյալներ և համակարգեր, առաջադրանքին համապատասխան դինամիկ կերպով ճշգրտում են թույլտվությունները և պահանջում մարդկային հաստատում, երբ ագենտը, թվում է, ռիսկային որոշումներ է կայացնում։

Ինտելեկտի տարանջատումը իշխանությունից

Microsoft-ի գլխավոր տնօրեն Satya Nadella-ը նախազգուշացրել է, որ AI-ի թշնամին կարող է լինել հենց այն ագենտները, որոնք ձեռնարկությունները ներդնում են և վճարում են դրանց, համեմատելով նրանց անկառավարելի աշխատակցի կամ ներքին սպառնալիքի հետ։ Այս ամսվա սկզբին իր անձնական բլոգի գրառման մեջ նա գրել է, որ մոդելներ մատակարարողների հավաստիացումները չեն ազատում ձեռնարկություններին այն պատասխանատվությունից, թե ինչ է անում ինտելեկտը նրանց անունից, և հավելել է, որ ինտելեկտի մատակարարումը պետք է անջատվի դրա նկատմամբ իշխանությունից։

Microsoft-ը Nvidia-ի Open Agent Safety Platform-ի առաջին անդամներից էր, որին աջակցում են 100-ից ավելի այլ տեխնոլոգիական ընկերություններ։ Պլատֆորմը մեկուսացնում է ագենտներին անվտանգ միջավայրերում և կարող է ապարատային միջոցով վերահսկել ու կանգնեցնել նրանց վարքագիծը։ Այս քայլը հետևում է Microsoft-ի՝ Surface Laptop Ultra համակարգիչների մասին հայտարարությանը, որոնք նախատեսված են ագենտների համար, աշխատում են Nvidia-ի չիպերով և ներառում են ագենտների անվտանգության ու վերահսկողության միջոցներ։

Աղբյուրներ: TechCrunch