CrowdStrike-მა შიდა AI აგენტების გასაკონტროლებლად AI-ის გამორთვის მექანიზმი წარადგინა

CrowdStrike-მა სამშაბათს წარადგინა AI-ის გადაუდებელი გამორთვის მექანიზმი, რომელიც უსაფრთხოების გუნდებს საშუალებას აძლევს, შეაჩერონ უკონტროლოდ მოქმედი შიდა AI აგენტები, დაუბლოკონ მათ ხელახლა გაშვება და შეუწყვიტონ მათ წვდომა კორპორატიულ ქსელზე. ინსტრუმენტი კომპანიის Falcon Guardian პლატფორმაშია ჩაშენებული. CrowdStrike-მა ასევე გამოაცხადა Anthropic-ის Claude Cowork-თან ინტეგრაცია და ორი AI-ზე ორიენტირებული კომპანიის შეძენის გეგმა.

როგორ მუშაობს გამორთვის მექანიზმი

მთავარმა ბიზნეს ოფიცერმა დენიელ ბერნარდმა CNBC-ს განუცხადა, რომ აგენტების კონტროლისა და გამორთვის, ასევე გადაწყვეტილების მიღების შესაძლებლობა ნამდვილად მნიშვნელოვანია AI-ის დანერგვის მომდევნო ეტაპისთვის. მისი თქმით, ფუნქცია ისე მუშაობს, როგორც დამცავი ამომრთველი სისტემებში, სადაც მომხმარებლები CrowdStrike-ის Falcon პლატფორმას იყენებენ. მას შეუძლია შიდა აგენტის აქტივობის აღმოჩენა, თუმცა აგენტის გათიშვისა და წვდომის აღდგენის გადაწყვეტილება ადამიანმა უნდა მიიღოს. ბერნარდმა ეს ქმედება ორობითად აღწერა: გუნდები ან თიშავენ AI-სა და აგენტს, ან არ თიშავენ, შემდეგ კი ამის შესახებ იტყობინებიან. გამორთვის მექანიზმი აგენტის კოდს არ შლის; სამაგიეროდ, დაკავშირებული AI-კარიბჭეების მეშვეობით წყვეტს წვდომას იმ AI მოდელებზე, რომლებიც გადაწყვეტილებებზე გავლენას ახდენენ.

რატომ უშვებს CrowdStrike-მა ამ მექანიზმს

CrowdStrike-ის თქმით, ბიზნესები სწრაფად გადადიან ავტონომიური ხელსაწყოების დანერგვაზე, ხშირად საჭირო დამცავი და უსაფრთხოების მექანიზმების გარეშე. კომპანია მიიჩნევს, რომ ახალი ხელსაწყო შეძლებს AI აგენტების არასწორი ქცევის ადგილზევე შეჩერებას და ინოვაციისთვის სივრცესაც დატოვებს. ბოლო დროს მომხდარმა რეზონანსულმა კიბერინციდენტებმა კიდევ უფრო აქტუალური გახადა მოწოდებები რაიმე სახის გადაუდებელი გამორთვის მექანიზმის შესახებ. ივლისში OpenAI-ს უკონტროლოდ მოქმედი აგენტების მიერ ორგანიზებული Hugging Face-ის გატეხვა განსაკუთრებით შემაშფოთებელი იყო ბიზნესებისთვის. გასულ კვირას Binance-მა გაასაჯაროვა ისტორიაში ყველაზე მასშტაბური კრიპტო კიბერშეტევა, ხოლო ჰაკერები ცოტა ხნის წინ საფრანგეთის სუპერმარკეტებში ასობით მაცივარსა და საყინულეს დაესხნენ თავს. ზაფხულში აშშ-ის წარმომადგენლებმა წარადგინეს ორპარტიული კანონპროექტი, რომელიც AI კომპანიებს თავიანთ მოდელებში გამორთვის შესაძლებლობების ჩაშენებას დაავალდებულებდა. თუმცა კრიტიკოსები ამტკიცებენ, რომ გადაუდებელი გაჩერების ღილაკი ძალიან რთული დასანერგია მრავალ სისტემაში, მონაცემთა ცენტრებსა და რთულ AI მოდელებში.

შეძენები და ინტეგრაციები

CrowdStrike-მა გამოაცხადა AI ობსერვაბილობის სტარტაპ Fiddler AI-ისა და AI უსაფრთხოების ტესტირების კომპანია Dreadnode-ის შეძენის გეგმები. კომპანია და მისი კონკურენტები სწრაფად ყიდულობენ კიბერუსაფრთხოების სტარტაპებს, რათა არ ჩამორჩნენ უსაფრთხოების მზარდ მოთხოვნებს; AI უსაფრთხოების ხელსაწყოების საჭიროებამ კი კიბერუსაფრთხოების სფეროში გარიგებების უფრო ფართო ტალღა გამოიწვია. CrowdStrike-მა ასევე გამოაცხადა Anthropic-ის Claude Cowork-თან ინტეგრაცია.

წყაროები: CNBC · Techmeme