Ինչու OpenAI-ն չմիացավ NVIDIA-ի AI գործակալների անվտանգության նախաձեռնությանը

NVIDIA-ն սեպտեմբերի 28-ին՝ երկուշաբթի, ներկայացրեց նոր կոնսորցիում, որին միացել է 100-ից ավելի ընկերություն։ Open Agent Safety Platform-ը նպատակ ունի լուծել չվերահսկվող AI գործակալների խնդիրը, սակայն աջակիցների ցանկում OpenAI-ը չի երևում։

Ըստ TechCrunch-ի՝ OpenAI-ը միակը չէ. նախաձեռնությանը չմիացան նաև Amazon-ը, Google-ը և Apple-ը։ Բայց ուշադրություն հենց OpenAI-ի բացակայությունը գրավեց, քանի որ կոնսորցիումին աջակցում է ընկերության գլխավոր մրցակից Anthropic-ը։ OpenAI-ի ներկայացուցիչը հրատարակությանը հայտնեց, որ ընկերությունը միևնույն է սատարում է NVIDIA-ի աշխատանքին։

Ինչ է ներառում պլատֆորմը

NVIDIA-ի նպատակն է իր՝ հիմնականում բաց կոդով տեխնոլոգիան տարածել ողջ AI էկոհամակարգում։ Պլատֆորմի հիմնական մասը OpenShell-ն է՝ բաց կոդով ծրագիր, որը ստեղծում է մեկուսացված միջավայր և գործակալներին թույլ չի տալիս դուրս գալ դրանից։

Սարքաշարի մակարդակում գործակալների վարքը վերահսկում է NVIDIA Sentry-ն։ Սա ընկերության սեփական՝ փակ տեխնոլոգիան է, որն աշխատում է BlueField-4 տիպի պրոցեսորների վրա, անընդհատ հետևում է գործակալների վարքին և անհրաժեշտության դեպքում անմիջապես կանգնեցնում նրանց։ Ըստ NVIDIA-ի՝ գործակալները չեն նկատում, որ իրենց հետևում են։

Arm-ը և Intel-ը՝ NVIDIA-ի մրցակիցները, նույնպես աջակցություն հայտնեցին, քանի որ OpenShell-ը կարելի է աշխատեցնել նաև այլ չիպերի վրա։ Սակայն ամբողջ համակարգը աշխատում է միայն NVIDIA-ի սարքաշարի վրա, քանի որ Sentry-ն փակ է մնում։

NVIDIA-ի գլխավոր գործադիր տնօրեն Ջենսեն Հուանգը չվերահսկվող AI-ը համարում է սովորական ինժեներական խնդիր, որը լուծվում է այլ տեխնիկական մարտահրավերների նման։

Ինչու OpenAI-ն չմիացավ կոնսորցիումին

Հանրային աջակցության բացակայությունը չի նշանակում, որ OpenAI-ը կանգնած է այս համակարգից դուրս։ Ընկերությունը NVIDIA-ի հետ աշխատում է գործակալների անվտանգության վրա, և այդ գործընթացին մասնակցում է նաև OpenShell-ը։

Hugging Face-ի հիմնադիր և ղեկավար Քլեմ Դելանգը, որի ընկերությունը NVIDIA-ն սեպտեմբերի սկզբին գնել է 12,9 միլիարդ դոլարով, X-ում գրել է, որ եթե OpenAI-ն այս տեխնոլոգիան օգտագործեր իր գործակալների համար, ապա ավելի շուտ կնկատեր Hugging Face-ի վրա հարձակումը։

Hugging Face-ը պլատֆորմին արդեն ավելացրել է գործառույթ, որը կանգնեցնում է գործակալներին, երբ նրանք թույլատրված կայքերը օգտագործում են չթույլատրված ձևով, օրինակ՝ բաց կոդի պահոցում իրար մեկնաբանություններ են թողնում և համակարգում հարձակումը։

OpenAI-ի սեփական ուղին

Ըստ TechCrunch-ի գնահատականի՝ անվտանգությունը OpenAI-ի համար նաև անկախության հնարավորություն է։ Ընկերությունը ստեղծում է իր պաշտպանության մեխանիզմները և հրապարակայնորեն ներկայացնում ամենածանր միջադեպերը։ Բացի այդ, OpenAI-ն ունի իր կիբերանվտանգության կոնսորցիումը՝ Defense Factory, որին աջակցում են Anthropic-ը, AWS-ը և Google-ը։ Ընկերությունը կիբերանվտանգությունը դարձնում է նաև կորպորատիվ առաջարկ՝ ներառյալ Daybreak մոդելը և գործընկերների ցանցը։