OpenAI Astra-nın inkişafını 'kritik' kiberimkanlar riskinə görə ləngidib

Nə baş verdi

OpenAI Axios-a bildirib ki, gələcək Astra modelində "kritik kiberimkanları istisna edə bilmir". Şirkətin sözlərinə görə, daxili qiymətləndirmələr agent əsaslı kodlaşdırma və kibertəhlükəsizlikdə ciddi irəliləyiş göstərib — bu, 2023-cü ildə dərc olunan Preparedness Framework-ün ən yüksək səviyyəsidir.

Şirkət testləri və təhlükəsizliyi artırır, Astra-nın inkişafını ləngidir və daha sərt tələblərə cavab verməyən daxili işləri dayandırır. Çərçivə buraxılışdan əvvəl də qoruyucu tədbirlər tələb edir.

Daha sərt nəzarət, gecikmiş buraxılış

Məlumata görə, OpenAI təcrid olunmuş test mühitləri, agent tətbiqlərində universal monitorinq, şəbəkə və alətlərə çıxışın məhdudlaşdırılması və model çəkilərinin şifrələnməsini tətbiq edir. Buraxılış tarixi daha da uzana bilər.

Ağ Ev rəsmisi deyib: "OpenAI buraxılışın təxirə salınması planlarını administrasiyaya könüllü bildirib".

Niyə vacibdir

Hücum xarakterli kiberimkanlar artıq aparıcı laboratoriyalar üçün birinci dərəcəli təhlükəsizlik kateqoriyasıdır və sürət təhlükəsizlik naminə qurban verilir. Müəssisələr ən güclü modellər üzrə qeyri-müəyyənlik və agent iş axınlarında əlavə məhdudiyyətlər gözləməlidir.