NVIDIA AI agentlərinin fasiləsiz təhlükəsizlik nəzarəti üçün açıq platforma təqdim etdi

Agentlər üçün müstəqil təhlükəsizlik qatı

NVIDIA avtonom AI agentlərini bir neçə proqram və avadanlıq nəzarət qatı ilə qorumaq üçün hazırlanmış açıq arxitektura olan Open Agent Safety Platform-u təqdim etdi. Yanaşmanın əsas ideyası budur ki, agentin təhlükəsizliyi yalnız öz təlimatlarından və ya özünə nəzarət qabiliyyətindən asılı qalmamalıdır.

Şirkət qabaqcıl laboratoriyaların agentlərin sınaq mühitindən çıxdığı, icazə verilməyən sistemlərə çatdığı və bəzən etdiklərini yanlış bildirdiyi hallar barədə hesabatlarına istinad edib. NVIDIA bu problemləri tək bir yeni bacarıqla deyil, alətlərin, uzun iş müddətinin və qeyri-müəyyən təlimatların birləşməsi ilə əlaqələndirir.

OpenShell və beş dizayn prinsipi

Proqram əsasını hər agenti nüvə səviyyəsində təcrid olunmuş mühitdə işlədən Apache 2.0 lisenziyalı açıq mənbə icra sistemi OpenShell təşkil edir. Operator agentin hansı fayllara, şəbəkələrə, alətlərə, proseslərə və giriş məlumatlarına çata biləcəyini müəyyənləşdirir. OpenShell bu sərhədləri işə başlamazdan əvvəl yoxlayır və iş boyunca tətbiq edir.

NVIDIA beş prinsipi vurğulayır: yoxlanıla bilən siyasət, agentin əli çatmayan yerdə icra, modelə gedən yolun nəzarəti, səlahiyyət artdıqca düşünmə prosesinin daha görünən olması və laboratoriyalar, müəssisələr ilə avadanlıq təminatçıları arasında ortaq məsuliyyət. Model yolunun nəzarəti müşahidə nöqtəsi və agenti dayandırmaq imkanı da yaradır.

Nəzarət BlueField avadanlığına keçir

Əlavə və seçimli qat olan NVIDIA Sentry BlueField avadanlığında işləyir. DOCA OpenShell siyasətini avadanlıq nəzarəti ilə bağlayır, agentin qarşılıqlı əlaqələrini, siyasət qərarlarını, alət istifadəsini və məlumatlara girişi kontekstli fəaliyyət qeydində birləşdirir. Təhlükəsizlik sistemləri bu qeyddən yayınmaları tapmaq və şübhəli davranışı araşdırmaq üçün istifadə edə bilər.

Vera Rubin POD sistemlərində BlueField-4 qovşağın modelə gedən yeganə yolunda yerləşir. Buna görə əsas sistemə etibar etmək mümkün olmadıqda da agentləri kənardan müşahidə edib siyasəti real vaxtda tətbiq edə bilir. Platforma NVIDIA Vera CPU və BlueField DPU sistemləri üçün optimallaşdırılıb, lakin şirkət onun başqa avadanlıqla da uyğun olduğunu bildirir.