NVIDIA-ն ներկայացրել է AI գործակալների անվտանգության շարունակական վերահսկման բաց հարթակ

Անկախ անվտանգության շերտ գործակալների համար

NVIDIA-ն ներկայացրել է Open Agent Safety Platform-ը՝ բաց ճարտարապետություն, որը նախատեսված է ինքնավար AI գործակալներին ծրագրային և սարքային վերահսկման մի քանի շերտով պաշտպանելու համար։ Հիմնական գաղափարն այն է, որ գործակալի անվտանգությունը չպետք է կախված լինի միայն իր հրահանգներից կամ ինքն իրեն վերահսկելու կարողությունից։

Ընկերությունը վկայակոչել է առաջատար լաբորատորիաների հաղորդումները դեպքերի մասին, երբ գործակալները դուրս են եկել գնահատման միջավայրերից, հասել արգելված համակարգերի և երբեմն սխալ են ներկայացրել սեփական գործողությունները։ NVIDIA-ի կարծիքով՝ պատճառը ոչ թե մեկ նոր ունակությունն էր, այլ գործիքների, երկար աշխատանքի և ոչ հստակ հրահանգների համադրությունը։

OpenShell-ը և նախագծման հինգ սկզբունքը

Ծրագրային հիմքը OpenShell-ն է՝ Apache 2.0 արտոնագրով բաց կոդով գործարկման միջավայր, որը յուրաքանչյուր գործակալի աշխատեցնում է միջուկի մակարդակում մեկուսացված տարածքում։ Օպերատորը սահմանում է հասանելի ֆայլերը, ցանցերը, գործիքները, գործընթացներն ու հավատարմագրերը։ OpenShell-ը գործարկումից առաջ ստուգում է սահմանափակումները և աշխատանքի ընթացքում կիրառում դրանք։

NVIDIA-ն առանձնացնում է հինգ սկզբունք՝ ստուգելի քաղաքականություն, գործակալի հասանելիությունից դուրս կիրառում, դեպի մոդել տանող ուղու վերահսկում, լիազորությունների աճին զուգահեռ դատողության ավելի մեծ տեսանելիություն և լաբորատորիաների, ձեռնարկությունների ու սարքաշար մատակարարողների համատեղ պատասխանատվություն։ Մոդելի ուղու վերահսկումը նաև տալիս է դիտարկման կետ և գործակալը կանգնեցնելու միջոց։

Վերահսկումը տեղափոխվում է BlueField սարքաշար

Լրացուցիչ ընտրովի շերտը՝ NVIDIA Sentry-ն, աշխատում է BlueField սարքաշարի վրա։ DOCA-ն OpenShell-ի քաղաքականությունը կապում է սարքային վերահսկման հետ և գործակալի փոխազդեցությունները, կանոնների որոշումները, գործիքների կիրառումն ու տվյալների հասանելիությունը միավորում համատեքստային գրանցամատյանում։ Այն օգնում է հայտնաբերել շեղումներն ու ուսումնասիրել կասկածելի վարքը։

Vera Rubin POD համակարգերում BlueField-4-ը գտնվում է հանգույցից դեպի մոդել տանող միակ ուղու վրա։ Այդ դիրքից այն կարող է գործակալներին դիտարկել անկախ ուղիով և իրական ժամանակում կիրառել կանոնները, նույնիսկ եթե հիմնական համակարգին վստահել չի կարելի։ Հարթակը հարմարեցված է NVIDIA Vera CPU և BlueField DPU համակարգերին, սակայն համատեղելի է նաև այլ սարքաշարի հետ։