Microsoft-ი AI აგენტებს შიდა საფრთხეებად წარმოაჩენს კორპორატიული უსაფრთხოების ახალ ინიციატივაში

Microsoft-ი კორპორატიულ AI რისკს ახლებურად წარმოაჩენს

Microsoft-მა ორშაბათს წარადგინა უსაფრთხოების ფუნქციები, რომლებიც კორპორაციებს AI აგენტებისგან დაცვაში უნდა დაეხმარონ. კომპანია ამტკიცებს, რომ არ შეიძლება დაეყრდნო frontier მოდელებს, როცა საქმე ორგანიზაციის ნორმების ფარგლებში მოქმედებას ეხება. გაშვება აფართოებს ივნისში წარმოდგენილ Project Perception-ს, რომელიც თავდაპირველად აგენტებს აწყობდა წითელ გუნდში, რომელიც თავს ესხმოდა, ლურჯ გუნდში, რომელიც აღმოაჩენდა და აფასებდა მოწყვლადობებს, და მწვანე გუნდში, რომელიც მათ ასწორებდა.

Microsoft-ის უსაფრთხოების ბიზნესის ხელმძღვანელმა ჰეიეტ გალომ განაცხადა, რომ frontier მოდელები, წარმომავლობის მიუხედავად, შეიძლება არც მავნე იყვნენ და არც ადვილად გატეხვადი, მაგრამ არაპროგნოზირებადი არიან, რადგან მათ ამოცანების შესრულებაზე წვრთნიან და არა განსჯით ხელმძღვანელობაზე. მისი თქმით, კორპორაციები ხშირად აძლევენ აგენტებს წვდომას მგრძნობიარე მონაცემებზე და ინსტრუმენტებზე, რომლებსაც სერიოზული ზიანის მიყენება შეუძლიათ.

Guardian Agents და Defender-ის დეტექცია

ახალი Guardian Agents ფუნქცია განკუთვნილია კომპანიის მიერ გამოყენებული AI აგენტების მონიტორინგისთვის. Microsoft-მა ასევე დაამატა აგენტების გამოვლენა Microsoft Defender-ში, რომელსაც შეუძლია იპოვოს 60-მდე ტიპის აგენტი, მათ შორის Claude Code, Codex და OpenClaw, რომლებსაც თანამშრომლები სამუშაო გარემოში შემოიტანენ.

Microsoft-ის თქმით, ემატება კონტროლი, რომელიც ზღუდავს აგენტების წვდომას მონაცემებსა და სისტემებზე, დავალების მიხედვით დინამიკურად არეგულირებს ნებართვებს და მოითხოვს ადამიანის დამტკიცებას, როდესაც აგენტი, როგორც ჩანს, სარისკო გადაწყვეტილებებს იღებს.

ინტელექტის გამიჯვნა უფლებამოსილებისგან

Microsoft-ის აღმასრულებელმა დირექტორმა სატია ნადელამ გააფრთხილა, რომ AI მტერი შეიძლება სწორედ ის აგენტები აღმოჩნდეს, რომლებსაც კორპორაციები განათავსებენ და ფულს უხდიან; მან ისინი შეადარა თანამშრომელ-მოღალატეს ან შიდა საფრთხეს. ამ თვის დასაწყისში პირად ბლოგპოსტში მან აღნიშნა, რომ მოდელის მომწოდებლის დაპირებები კორპორაციებს არ ათავისუფლებს პასუხისმგებლობისგან იმაზე, თუ რას აკეთებს ინტელექტი მათი სახელით, და დასძინა, რომ ინტელექტის მიწოდება უნდა გამოიყოს მასზე უფლებამოსილებისგან.

Microsoft-ი იყო Nvidia-ს Open Agent Safety Platform-ის ერთ-ერთი პირველი წევრი, რომელსაც 100-ზე მეტი სხვა ტექნოლოგიური კომპანია უჭერს მხარს. პლატფორმა აგენტებს იზოლირებს უსაფრთხო გარემოში და აპარატურული საშუალებებით შეუძლია მათ ქცევას თვალყური ადევნოს და შეაჩეროს. ეს ნაბიჯი მოჰყვება Microsoft-ის განცხადებას Surface Laptop Ultra-ის პერსონალური კომპიუტერების შესახებ, რომლებიც აგენტებისთვის შეიქმნენ, Nvidia-ს ჩიპებზე მუშაობენ და მოიცავენ აგენტების უსაფრთხოებასა და კონტროლს.

წყაროები: TechCrunch