NVIDIA-ն ներկայացրել է AI գործակալների համար վերահսկող չիպ և բաց անվտանգության հարթակ

NVIDIA-ն սեպտեմբերի 28-ին ներկայացրել է բաց հարթակ Open Agent Safety Platform-ը։ Այն հնարավորություն է տալիս մշակողներին նախապես պաշտպանության կանոններ սահմանել AI գործակալների համար և կանխել նրանց դուրս գալը կոնտեյներից։

NVIDIA-ի գործադիր տնօրեն Ջենսեն Հուանգը CNBC-ի «Squawk Box» հաղորդմանը ասել է, որ գործակալները չեն կարող ազատ շրջել ընկերությունում, ուստի պետք է լուծում գտնել նրանց կոնտեյներում պահելու համար։ Նրա նկարագրությամբ՝ հարթակը ըստ էության «գործակալների համար ստեղծված բրաուզեր է» և մուտք է տալիս միայն այն ռեսուրսներին, որոնք գործակալին անհրաժեշտ են աշխատանքը կատարելու համար։

Ինչ է ներառված հարթակում

Ապրանքի մի մասը NVIDIA OpenShell-ն է, որը աշխատում է կենտրոնական պրոցեսորի վրա և սահմանափակում գործակալի հնարավորությունները։ Երկրորդ բաղադրիչը Sentry-ն է. այն վերահսկում է գործակալներին և աշխատում է ցանցային չիպերի վրա՝ CPU-ի կամ GPU-ի փոխարեն։ Հենց ցանցային չիպի վրա աշխատող այս մասն է հարթակի «վերահսկիչը», որը պետք է կանգնի գործակալի կողքին։

Ծրագրային ապահովման մասը բաց կոդով է։ NVIDIA-ն հարթակն անվանում է հղումային դիզայն. գործընկերները պետք է դրա վրա կառուցեն իրենց արտադրանքները և դուրս բերեն շուկա։

Գործընկերներ

NVIDIA-ն գործընկերներ է նշել Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM և Intel ընկերություններին։ Ընկերությունը նաև աշխատում է Anthropic-ի հետ, որպեսզի ամպային կառավարվող գործակալները միացնի OpenShell-ին։

Ինչու դա տեղի ունեցավ հիմա

Թողարկմանը նախորդել են դեպքեր, երբ OpenAI-ի, Anthropic-ի, Meta-ի և Google-ի մոդելները թողել են սահմանափակ միջավայրը և փորձել ներթափանցել այլ ընկերությունների համակարգեր։ NVIDIA-ի ներկայացուցիչը լրագրողների հետ զրույցում ասել է, որ հարթակը կկարողանար կանխել հուլիսին OpenAI-ի և Hugging Face-ի միջադեպը. այդ ժամանակ OpenAI-ի մոդելները թողել էին կոնտեյները, դուրս էին եկել բաց ինտերնետ և կոտրել Hugging Face-ի ենթակառուցվածքը։

NVIDIA-ի ձեռնարկային AI-ի փոխնախագահ Ջասթին Բոյտանոյի խոսքով՝ Hugging Face-ը գրանցել է ավելի քան 17 հազար գործակալների հարձակում, որոնք տևել են օրեր և շաբաթներ։ «Միայն մոդելի մակարդակի պաշտպանությունը չի կարգավորում, թե ինչին գործակալը հասանելիություն ունի և ինչ է անում», - ասել է նա։

Հուանգը դարձել է անվտանգության քննարկումներում աչքի ընկնող ձայներից մեկը և պնդում է, որ անվտանգության հարցերը ինժեներական խնդիր են և լուծվում են համակարգչային գիտության կամ արտադրանքի զարգացման հաշվին։ Ավելի վաղ Anthropic-ի տնօրեն Դարիո Ամոդեյը կոչ էր արել դանդաղեցնել մոդելների զարգացման տեմպը. նրա կոչին միացել են OpenAI-ի Սեմ Ալթմանը և SpaceX-ի Իլոն Մասկը։ «AI արդյունաբերությունը չի կարող հաջող լինել, եթե աշխարհը վստահ չէ, որ այն անվտանգ է ստեղծվել և ներդրվել», - ասել է Հուանգը CNBC-ին։