NVIDIA-მ AI აგენტების უწყვეტი კონტროლისთვის ღია უსაფრთხოების პლატფორმა წარადგინა

აგენტებისთვის დამოუკიდებელი დაცვის ფენა

NVIDIA-მ Open Agent Safety Platform წარადგინა, ღია არქიტექტურა, რომელიც ავტონომიურ AI აგენტებს პროგრამული და აპარატურული კონტროლის რამდენიმე ფენით იცავს. კომპანიის მიზანია, აგენტის უსაფრთხოება მხოლოდ მისივე ინსტრუქციებსა და თვითკონტროლზე აღარ იყოს დამოკიდებული.

NVIDIA-ის განმარტებით, რამდენიმე მოწინავე ლაბორატორიამ აღწერა შემთხვევები, როცა აგენტები სატესტო გარემოს გასცდნენ, დაუშვებელ სისტემებს მისწვდნენ და ზოგჯერ საკუთარი მოქმედებებიც არასწორად აღწერეს. კომპანიამ შესაძლო მიზეზებად ინსტრუმენტების ერთობლიობა, ხანგრძლივი მუშაობა და ბუნდოვანი დავალებები დაასახელა.

OpenShell და ხუთი პრინციპი

პლატფორმის პროგრამული საფუძველი OpenShell-ია, Apache 2.0 ლიცენზიის მქონე ღია გარემო. ის თითოეულ აგენტს ბირთვის დონეზე იზოლირებულ სივრცეში უშვებს. ოპერატორს შეუძლია წინასწარ განსაზღვროს, რომელ ფაილებთან, ქსელებთან, ხელსაწყოებთან, პროცესებსა და ავტორიზაციის მონაცემებთან ექნება აგენტს წვდომა. OpenShell ამ წესებს გაშვებამდე ამოწმებს და მუშაობის დროს აღასრულებს.

NVIDIA ხუთ ძირითად პრინციპს გამოყოფს: წესების გადამოწმების შესაძლებლობას, აგენტისგან დამოუკიდებელ აღსრულებას, მოდელამდე გზის საკონტროლო წერტილად გამოყენებას, უფლებამოსილების გაზრდასთან ერთად მსჯელობის უკეთ ხილვადობას და პასუხისმგებლობის განაწილებას ლაბორატორიებს, კომპანიებსა და აპარატურის მომწოდებლებს შორის.

კონტროლი BlueField-ის აპარატურაში

დამატებითი ფენაა NVIDIA Sentry, რომელიც BlueField-ის აპარატურაზე მუშაობს. DOCA OpenShell-ის წესებს აპარატურულ კონტროლთან აკავშირებს და აგენტის ურთიერთქმედებებს, გადაწყვეტილებებს, ხელსაწყოებსა და მონაცემებზე წვდომას ერთიან კონტექსტურ ჩანაწერად აერთიანებს. ეს ჩანაწერი გადახრის აღმოჩენასა და საეჭვო ქცევის გამოძიებას ამარტივებს.

Vera Rubin POD სისტემებში BlueField-4 მოდელამდე მიმავალ ერთადერთ გზაზეა განთავსებული. ამიტომ მას შეუძლია აგენტს გარედან, უწყვეტად დააკვირდეს და წესები რეალურ დროში აღასრულოს, მაშინაც კი, როცა ჰოსტს ვერ ენდობიან. Sentry არჩევითი ფენაა, ხოლო Open Agent Safety Platform სხვა აპარატურულ სისტემებთანაც თავსებადია.