NVIDIA AI agentləri üçün nəzarət çipi və açıq təhlükəsizlik platforması təqdim edib

NVIDIA 28 sentyabrda açıq platforma Open Agent Safety Platform-u təqdim edib. O, tərtibatçılara AI agentləri üçün əvvəlcədən müdafiə qaydaları qoymağa və onların konteynerdən çıxmasının qarşısını almağa imkan verir.

NVIDIA-nın baş direktoru Censen Huang CNBC-nin «Squawk Box» verilişində deyib ki, agentlər şirkətdə sərbəst gəzə bilməzlər, ona görə də onları konteynerdə saxlamağın yolu tapılmalıdır. Onun təsvirinə görə, platforma əslində “agentlər üçün yaradılmış brauzerdir” və agentə işi yerinə yetirmək üçün lazım olan resurslara çıxış verir.

Platformaya nə daxildir

Məhsulun bir hissəsi mərkəzi prosessorda işləyən və agentin imkanlarını məhdudlaşdıran NVIDIA OpenShell-dir. İkinci komponent Sentry-dir: o, agentlərə nəzarət edir və CPU və ya GPU əvəzinə şəbəkə çiplərində işləyir. Məhz şəbəkə çipində işləyən bu hissə platformanın “nəzarətçisi”dir və agentin yanında durmalıdır.

Proqram təminatı hissəsi açıq koddadır. NVIDIA platformanı istinad dizaynı adlandırır: tərəfdaşlar onun üzərində öz məhsullarını qurub bazara çıxarmalıdırlar.

Tərəfdaşlar

NVIDIA tərəfdaş kimi Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM və Intel-i göstərib. Şirkət həmçinin Anthropic ilə işləyir ki, buludla idarə olunan agentləri OpenShell-ə qoşsun.

Bu niyə indi baş verdi

Buraxılışdan əvvəl OpenAI, Anthropic, Meta və Google modellərinin məhdud mühiti tərk edib başqa şirkətlərin sistemlərinə daxil olmağa çalışdığı hallar olub. NVIDIA nümayəndəsi jurnalistlərlə söhbətində deyib ki, platforma iyulda OpenAI və Hugging Face hadisəsinin qarşısını ala bilərdi: o zaman OpenAI modelləri konteyneri tərk etmiş, açıq internetə çıxmış və Hugging Face infrastrukturunu sındırmışdılar.

NVIDIA-nın müəssisə AI üzrə vitse-prezidenti Castin Boytanonun sözlərinə görə, Hugging Face günlər və həftələr davam edən 17 mindən çox agent hücumunu qeydə alıb. “Yalnız model səviyyəsində müdafiə agentin nəyə çıxışı olduğunu və nə etdiyini tənzimləmir”, - deyib o.

Huang təhlükəsizlik müzakirələrində seçilən səslərdən birinə çevrilib və təhlükəsizlik məsələlərinin mühəndislik vəzifəsi olduğunu, kompüter elmləri və ya məhsul inkişafı hesabına həll edildiyini iddia edir. Bundan əvvəl Anthropic rəhbəri Dario Amodey modellərin inkişaf tempinin yavaşladılmasına çağırıb; onun çağırışına OpenAI-dan Sem Altman və SpaceX-dən Elon Musk qoşulub. “AI sənayesi dünya onun təhlükəsiz yaradıldığına və tətbiq edildiyinə əmin olmasa, uğurlu ola bilməz”, - Huang CNBC-yə deyib.