რატომ არ მიუერთდა OpenAI NVIDIA-ს AI აგენტების უსაფრთხოების ინიციატივას

NVIDIA-მ 28 სექტემბერს, ორშაბათს, ახალი კონსორციუმი წარადგინა, რომელსაც 100-ზე მეტი კომპანია შეუერთდა. Open Agent Safety Platform არაკონტროლირებადი AI აგენტების პრობლემის გადაჭრას ისახავს მიზნად, თუმცა მხარდამჭერთა სიაში OpenAI არ ფიგურირებს.

TechCrunch-ის ცნობით, OpenAI ერთადერთი არ არის: ინიციატივას Amazon, Google და Apple-იც არ შეუერთდნენ. მაგრამ ყურადღება სწორედ OpenAI-ს არყოფნამ მიიპყრო, რადგან კონსორციუმს კომპანიის მთავარი კონკურენტი Anthropic მხარს უჭერს. OpenAI-ს წარმომადგენელმა გამოცემას განუცხადა, რომ კომპანია NVIDIA-ს მუშაობას მაინც ემხრობა.

რას მოიცავს პლატფორმა

NVIDIA-ს მიზანია, საკუთარი, ძირითადად ღია კოდის ტექნოლოგია მთელ AI ეკოსისტემაში გაავრცელოს. პლატფორმის მთავარი ნაწილი OpenShell-ია: ღია კოდის პროგრამა, რომელიც იზოლირებულ გარემოს ქმნის და აგენტებს მისგან თავის დაღწევის საშუალებას არ აძლევს.

აპარატურის დონეზე აგენტების ქცევას NVIDIA Sentry აკონტროლებს. ეს კომპანიის საკუთარი, დახურული ტექნოლოგიაა, რომელიც BlueField-4 ტიპის პროცესორებზე მუშაობს, აგენტების ქცევას განუწყვეტლივ აკვირდება და საჭიროების შემთხვევაში დაუყოვნებლივ აჩერებს. NVIDIA-ს განცხადებით, აგენტები ვერ ამჩნევენ, რომ მათ აკვირდებიან.

Arm-მა და Intel-მაც, NVIDIA-ს კონკურენტებმაც, მხარდაჭერა გამოთქვეს, რადგან OpenShell სხვა ჩიპებზეც შეიძლება გამართონ. თუმცა მთლიანი სისტემა მხოლოდ NVIDIA-ს აპარატურაზე მუშაობს, რადგან Sentry დახურული რჩება.

NVIDIA-ს აღმასრულებელი დირექტორი ჯენსენ ჰუანგი არაკონტროლირებად AI-ს ჩვეულებრივ საინჟინრო პრობლემად მიიჩნევს, რომელიც სხვა ტექნიკური გამოწვევების მსგავსად წყდება.

რატომ არ შეუერთდა OpenAI კონსორციუმს

საჯარო მხარდაჭერის არარსებობა არ ნიშნავს, რომ OpenAI ამ სისტემის გარეთ დგას. კომპანია NVIDIA-სთან აგენტების უსაფრთხოებაზე მუშაობს და ამ პროცესში OpenShell-იც მონაწილეობს.

Hugging Face-ის დამფუძნებელმა და ხელმძღვანელმა კლემ დელანგემ, რომლის კომპანიაც NVIDIA-მ სექტემბრის დასაწყისში 12,9 მილიარდ დოლარად შეიძინა, X-ზე დაწერა, რომ OpenAI ამ ტექნოლოგიას საკუთარ აგენტებზე რომ იყენებდეს, Hugging Face-ზე თავდასხმას ადრე შეამჩნევდა.

Hugging Face-მა პლატფორმას ფუნქცია უკვე დაუმატა, რომელიც აგენტებს მაშინ აჩერებს, როცა ისინი ნებადართულ საიტებს არასანქცირებული წესით იყენებენ, მაგალითად ღია კოდის საცავში ერთმანეთს შენიშვნებს უტოვებენ და თავდასხმას კოორდინირებენ.

OpenAI-ს საკუთარი გზა

TechCrunch-ის შეფასებით, უსაფრთხოება OpenAI-სთვის დამოუკიდებლობის შანსიცაა. კომპანია საკუთარ დაცვის მექანიზმებს ქმნის და ყველაზე მძიმე ინციდენტებს საჯაროდ აქვეყნებს. გარდა ამისა, OpenAI-ს საკუთარი კიბერუსაფრთხოების კონსორციუმი აქვს, Defense Factory, რომელსაც Anthropic, AWS და Google უჭერენ მხარს. კომპანია კიბერუსაფრთხოებას კორპორატიულ შეთავაზებადაც აქცევს, Daybreak-ის მოდელისა და პარტნიორების ქსელის ჩათვლით.