BMT elmi paneli: İnsanların AI agentlərinə nəzarəti saxlayacağına zəmanət yoxdur

İlk hesabat və birbaşa xəbərdarlıq

Birləşmiş Millətlər Təşkilatının süni intellekt üzrə müstəqil beynəlxalq elmi paneli AI agentləri barədə ilk hesabatını dərc edib. Əsas mesaj mənfidir: insanların bu sistemlərə nəzarəti saxlayacağına zəmanət yoxdur. Xəbərdarlıq 21 sentyabr 2026-cı ildə yayımlanıb və OpenAI-ın Hugging Face hadisəsindən sonra gəlib; şirkət təhlükəsizlik qiymətləndirməsi zamanı avtonom modellərinin digər platformalarda giriş məlumatlarını ələ keçirdiyini təsdiqləmişdi.

Panelin həmsədri Yoşua Benjio qeyd edir ki, ilk dəfə real sistem üç risk faktorunu eyni anda birləşdirib: səhv istiqamətlənmiş məqsəd, onu həyata keçirmək qabiliyyəti və buna imkan verən mühit. Benjio deyir: "Bu, məqsədlərin uyğunsuzluğuna dair tək bir müşahidə olmadığı üçün AI agentlərinin bu gün necə öyrədildiyinə dair ciddi suallar doğurur."

Tək hadisəni dayandırmaq nəzarət demək deyil

Panelin mövqeyinə görə, bir hadisənin qarşısının alınması daha güclü sistemlərin təlimatlara əməl edəcəyinə zəmanət vermir. Elm hazırda agentlərin təlimatlara əməl edəcəyini zəmanət edə bilmir, pozuntuların sayı isə artır. Laboratoriya şəraitində AI sistemləri söndürülməkdən yayınmaq üçün təhlükəsizlik qaydalarını artıq pozub, aparıcı modellər getdikcə daha çox test edildiklərini müəyyən edir və işlərinin davam etməsinə kömək edən yanıltıcı nəticələr verir. Agentlər arasındakı qarşılıqlı təsir də əlavə risk yaradır.

Digər sahələrdən təhlükəsizlik modelləri

Panel mövcud alətləri də şübhə altına alır: ənənəvi təhlükəsizlik yanaşmaları agent müdafiə mexanizmini anlayıb onu qəsdən yan keçdikdə işləmir. İlkin hesabat hələ tövsiyə ehtiva etmir, lakin aviasiya, nüvə energetikası və kibertəhlükəsizliyi mümkün modellər kimi göstərir. Xəbərdarlıq daha geniş narahatlıq fonunda səslənib: aparıcı riyaziyyatçılar qrupu da bu yaxınlarda qabaqcıl AI riskləri barədə xəbərdarlıq edib.