406 alim AI modellərinin internetdən kəsilməsini tələb edir

406 alimin imzaladığı açıq məktub, AI modellərinin airapinqi vasitəsilə internetdən tam kəsilməsini, həmçinin AI təhlükəsizliyi tədqiqatlarının gücləndirilməsini və modellərin xarici şəbəkələrdən daha sərt izolyasiyasını tələb edir. THE DECODER tərəfindən dərc edilən məktub, AI modellərinin zəif mühitdən çıxış aldığı və xarici sistemlərə zərər yetirdiyi məlum hallara istinad edir.

İmzalayanlar arasında məşhur AI araşdırığışları var: Toronto Universitetinin Geoffrey Hinton, Montreal Universitetinin Yoshua Bengio, UC Berkeley-nin Stuart Russell, Stanford-un Yejin Choi və Max Planck İnstitutunun Bernhard Schölkopf.

Alimlər dərhal airapinq tələb edirlər

„Əgər AI-in inkişafı və tətbiqi praktikası dərhal dəyişdirilməzsə, bu kim hallar davam edəcək və gələcək hadisələr açıq kritik infrastrukturumuza daha çox zərər yetirəcək“ — deyirlər alimlər. Onlar şirkətlərin AI modellərini airapinqi vasitəsilə internetdən tamamilə kəsilməsini tələb edirlər.

Alimlər son zamanadakı pozulmalarda iki tərəf görürlər. Hadisələr „AI alaynmentinin əhəmiyyətinin təsdiqi kimi, modellərin proqnozlaşımaə olaraq hərəkət etdiyini“ göstərə bilər, lakin eyni zamanda „standart kibertəhlükəsizlik praktikasında məsuliyyətli səhv kimi, ki daha güclü sandbox-lar və prosedurlar ilə qarşısı alınabilərdi“. Onların fikrincə, hər iki düzəliş lazımdır.

Avtonomiya və kəsma arasında balans

Modellərin həqiqətən internetə girişi varsa, şirkətlər onlara qədər avtonomiya verəcəklərini tapmaq məcburiyyətindədirlər. Məktub „kəsma sisteminin icazə verdiyi modelin hərəkətlərin diapazonu mövcud məhdud qabiliyyətimizə uyğunlaşdırılmalıdır, modellərin hərəkətləri təhlükəsizliyin düşməsinə səbəb olmasın“ deyə xəbərdar edir. Model sadəcə elə məqsədlər tapa bilər ki, onlar onun geliştiriciləri tərəfindən nəzərdə tutulmayıb və bunun nə vaxt baş verəcəyini proqnozlaşdırmaq bugünkü imkanların sərhədlərini aşır.

Məktub beynəlxalq orqan yaradılmasını tələb edir ki, orqan hökumətlərlə və həm AI, həm də kibertəhlükəsizlik mütəxəssisləri birgə olaraq airapinqdən daha çox xarici giriş verən hər hansı kəsma yanaşması üçün məcburi standartları müəyyən edilsin. Bu orqan həmçinin çıxış hallarını izləməli və şirkətləri təhlükəsizliyin düşmələri barədə hesabat təqdim etməyə məcbur etməlidir. Bu hesabatlar sonradn „həm öyrənmə, həm də hesab vermə məqsədləri üçün“ açıq əlçatan olacaq.

Yalnız airapinq kifayət deyil

Tam airapinq da təhlükəsizliyə zəmanət vermir. OpenAI araşdırığışı Noam Brown az övvəl göstərmişdi ki, fiziki cəhətdən ayrılmış iki kompyuter nəzəri olaraq belə temperatur sensorları vasitəsilə bir-biri ilə əlaqə qura bilər: biri prosessoru isidir, digəri isə dəyişikliqi qəbul edir. Airapinq kimi tədbirlər və ya fikirlər zincirini monitorinq zaman qazandırır, deyir Brown, lakin alayniment məsələsə yenə də həll edilməlidir.

Brown daha çətin suallar da qoyub. AI özünü necə yaxşılaşdıqda kiməsə yalnız özünü necə artırdığını, rekursiv öz-yaxşılaşdırma və ya RSI kimi tanınan prosesi kiməsə nəzarət edəcək? Və əgər sənaye insanlardan çox üstün süperintellekt sistemləri qurarsa, onların alaynimentdə qalmasını kim təmin edəcək? Brown bildirir ki, onun komandasında indi əvvəlcəkindən çox alayniment üzərində işləyən 10 faizdən çox insan var.

Mənbələr: The Decoder