OpenAI niyə NVIDIA-nın AI agentləri təhlükəsizliyi təşəbbüsünə qoşulmadı

NVIDIA sentyabrın 28-də, bazar ertəsi, 100-dən çox şirkətin qoşulduğu yeni konsorsium təqdim etdi. Open Agent Safety Platform nəzarətsiz AI agentləri probleminin həllini hədəfləyir, lakin dəstəkçilər siyahısında OpenAI yoxdur.

TechCrunch-a görə, OpenAI yeganə deyil: Amazon, Google və Apple da təşəbbüsə qoşulmadı. Amma diqqəti məhz OpenAI-nın olmaması çəkdi, çünki konsorsiumu şirkətin əsas rəqibi Anthropic dəstəkləyir. OpenAI nümayəndəsi nəşrə bildirdi ki, şirkət yenə də NVIDIA-nın işinə dəstək verir.

Platforma nələri əhatə edir

NVIDIA-nın məqsədi öz texnologiyasını, əsasən açıq kodlu texnologiyasını bütün AI ekosisteminə yaymaqdır. Platformanın əsas hissəsi OpenShell-dir: agentlərin ondan qaçmasına imkan verməyən təcrid olunmuş mühit yaradan açıq kodlu proqram.

Aparat səviyyəsində agentlərin davranışını NVIDIA Sentry idarə edir. Bu, şirkətin BlueField-4 tipli prosessorlarda işləyən, agentlərin davranışını davamlı izləyən və lazım olduqda onları dərhal dayandıran öz qapalı texnologiyasıdır. NVIDIA-nın açıqlamasına görə, agentlər onlara nəzarət edildiyini hiss etmir.

NVIDIA-nın rəqibləri Arm və Intel də dəstək bildirdi, çünki OpenShell digər çiplərdə də işlədilə bilər. Lakin bütün sistem yalnız NVIDIA aparatında işləyir, çünki Sentry qapalı qalır.

NVIDIA-nın baş icraçı direktoru Jensen Huang nəzarətsiz AI-ı digər texniki çətinliklər kimi həll olunan adi mühəndislik problemi hesab edir.

OpenAI niyə konsorsiuma qoşulmadı

Açıq dəstəyin olmaması OpenAI-nın bu sistemdən kənarda dayandığı anlamına gəlmir. Şirkət NVIDIA ilə agentlərin təhlükəsizliyi üzərində işləyir və bu prosesdə OpenShell də iştirak edir.

Hugging Face-in təsisçisi və rəhbəri Clem Delangue, şirkəti sentyabrın əvvəlində NVIDIA tərəfindən 12,9 milyard dollara alınıb, X-də yazdı ki, əgər OpenAI bu texnologiyanı öz agentlərində istifadə etsəydi, Hugging Face-ə hücumu daha əvvəl görərdi.

Hugging Face platformaya artıq funksiya əlavə edib: agentlər icazə verilən saytlardan icazəsiz qaydada istifadə etdikdə, məsələn açıq kod anbarında bir-birinə şərhlər yazıb hücumu koordinasiya etdikdə, onları dayandırır.

OpenAI-nın öz yolu

TechCrunch-ın qiymətləndirməsinə görə, təhlükəsizlik OpenAI üçün müstəqillik şansıdır da. Şirkət öz müdafiə mexanizmlərini yaradır və ən ağır insidentləri açıq şəkildə dərc edir. Bundan başqa, OpenAI-nın Anthropic, AWS və Google-ın dəstəklədiyi öz kibertəhlükəsizlik konsorsiumu Defense Factory var. Şirkət kibertəhlükəsizliyi korporativ təklifə də çevirir, Daybreak modeli və tərəfdaşlar şəbəkəsi daxil olmaqla.