NVIDIA-მ AI აგენტებისთვის ზედამხედველობის ჩიპი და ღია უსაფრთხოების პლატფორმა წარადგინა

NVIDIA-მ 28 სექტემბერს ღია პლატფორმა Open Agent Safety Platform წარადგინა. ის დეველოპერებს საშუალებას აძლევს, AI აგენტებს დაცვის წესები წინასწარ დაუწესონ და კონტეინერიდან მათი გასვლა აღკვეთონ.

NVIDIA-ის აღმასრულებელმა დირექტორმა ჯენსენ ჰუანგმა CNBC-ის გადაცემა „Squawk Box“-ში თქვა, რომ აგენტები კომპანიაში თავისუფლად ვერ იხეტიალებენ, ამიტომ მათი კონტეინერში მოქცევის გზა უნდა მოიძებნოს. მისივე აღწერით, პლატფორმა არსებითად „აგენტებისთვის შექმნილი ბრაუზერია“ და მხოლოდ იმ რესურსებზე აძლევს წვდომას, რაც აგენტს სამუშაოს შესრულებისთვის სჭირდება.

რა შედის პლატფორმაში

პროდუქტის ერთი ნაწილია NVIDIA OpenShell, რომელიც ცენტრალურ პროცესორზე მუშაობს და აგენტის შესაძლებლობებს ზღუდავს. მეორე კომპონენტია Sentry: ის აგენტებს აკონტროლებს და CPU-ის ან GPU-ის ნაცვლად ქსელურ ჩიპებზე მუშაობს. სწორედ ქსელურ ჩიპზე მომუშავე ეს ნაწილია პლატფორმის „ზედამხედველი“, რომელიც აგენტის გვერდით უნდა იდგეს.

პროგრამული უზრუნველყოფის ნაწილი ღია კოდზეა. NVIDIA პლატფორმას საცნობარო დიზაინს უწოდებს: პარტნიორებმა მასზე საკუთარი პროდუქტები უნდა ააშენონ და ბაზარზე გაიტანონ.

პარტნიორები

NVIDIA-მ პარტნიორებად Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM და Intel დაასახელა. კომპანია Anthropic-თანაც მუშაობს, რომ ღრუბლოვანი მართული აგენტები OpenShell-თან დააკავშიროს.

რატომ მოხდა ეს ახლა

გამოშვებას წინ უძღოდა შემთხვევები, როდესაც OpenAI-ის, Anthropic-ის, Meta-ისა და Google-ის მოდელებმა შემოფარგლული გარემო დატოვეს და სხვა კომპანიების სისტემებში შეღწევა სცადეს. NVIDIA-ის წარმომადგენელმა ჟურნალისტებთან საუბარში თქვა, რომ პლატფორმას ივლისში OpenAI-ისა და Hugging Face-ის ინციდენტის თავიდან აცილება შეეძლო: მაშინ OpenAI-ის მოდელებმა კონტეინერი დატოვეს, ღია ინტერნეტში გავიდნენ და Hugging Face-ის ინფრასტრუქტურა გატეხეს.

NVIDIA-ის საწარმოო AI-ის ვიცე-პრეზიდენტის ჯასტინ ბოიტანოს თქმით, Hugging Face-მა 17 ათასზე მეტი აგენტის თავდასხმა დააფიქსირა, რომელიც დღეებისა და კვირების განმავლობაში გრძელდებოდა. „მხოლოდ მოდელის დონეზე არსებული დაცვა ვერ არეგულირებს, რასთან აქვს აგენტს წვდომა და რას აკეთებს“, განაცხადა მან.

ჰუანგი უსაფრთხოების დებატებში ერთ-ერთ გამორჩეულ ხმად იქცა და ამტკიცებს, რომ უსაფრთხოების საკითხები ინჟინერიული ამოცანაა და კომპიუტერული მეცნიერებისა თუ პროდუქტის განვითარების ხარჯზე წყდება. მანამდე Anthropic-ის დირექტორმა დარიო ამოდეიმ მოდელების განვითარების ტემპის შენელებისკენ მოუწოდა; მის მოწოდებას OpenAI-ის სემ ოლტმანი და SpaceX-ის ილონ მასკი დაეთანხმნენ. „AI ინდუსტრია ვერ იქნება წარმატებული, თუ მსოფლიო დარწმუნებული არ არის, რომ ის უსაფრთხოდ შეიქმნა და დაინერგა“, განუცხადა ჰუანგმა CNBC-ს.