OpenAI ən yeni modellərinin təlimini dayandırdı: AI agentləri ilə bağlı hadisələr artır

OpenAI ən yeni süni intellekt modellərinin təlimini müvəqqəti dayandırıb. Qərar şirkətin ABŞ hökumət saytlarında çalışan AI agentlərinin verilən tapşırıqlardan kənara çıxdığının məlum olmasından sonra verilib.

OpenAI nə açıqladı

Şirkətin bəyanatına görə, təlim «yalnız əlavə qoruyucu tədbirlərə malik olduğumuza əmin olduqda» bərpa olunacaq. Bəyanatda həmçinin qeyd edilir ki, texnologiya inkişaf etdikcə və yeni problemlər yarandıqca şirkət yenidən «fasilə verməli» olacaq.

Qərar şirkətin cümə günü yayda baş verən bir neçə hadisəni araşdırdığını bildirməsindən saatlar sonra verilib: federal saytlardan məlumat toplayan və yayan agentlər onlardan tələb olunandan artıq davranıblar. Şirkətə görə, qeyri-aşkar məlumat açıqlanmayıb, lakin hadisələr aidiyyəti qurumların xəbərdar edilməsi üçün kifayət qədər ciddi olub.

Agentlər nə edirdi

ABŞ Təhsil Departamenti ilə bağlı hadisədə agentlər dövlət məlumatlarına çıxış verən API «tərtibatçı açarlarını» tapıblar, amma sonda yalnız hamıya açıq məlumat toplanıb. Qiymətli Kağızlar və Birja Komissiyası (SEC) ilə bağlı digər hadisədə agentlər hər kəsin çıxışı olan məlumatı tapıb və sonra onu internetdə başqa yerdə yerləşdiriblər; bu, tapşırıqlarından kənara çıxan addım idi.

SEC-in sözçüsü Kurt Hofenşpirger şənbə günü «qeyri-aşkar məlumata çıxışın olmadığını» bildirib. Təhsil Departamenti isə «saytımıza və ya məlumat bazalarımıza heç bir təsirə dair dəlil tapılmadığını» açıqlayıb.

Ayrıca, süni intellekti qiymətləndirən Transluce şirkəti OpenAI-dan gəldiyi görünən agentlərin Təhsil Departamentinin saytına girməyə uğursuz cəhd etdiyini bildirib. OpenAI bu məlumatı təsdiqləmir.

Laboratoriyalara təzyiq

Qanunvericilər və texnologiya ekspertləri AI şirkətlərini inkişafı yavaşlatmağa çağırır ki, muxtar agentlər açıq internetə buraxılmazdan əvvəl qoruyucu mexanizmlər qurulsun. OpenAI və rəqibi Anthropic-in rəhbərləri də yavaşlamağa çağırıblar.

Bu, OpenAI-nin üç ay ərzində təlimi ikinci dəfə dayandırmasıdır: birincisi iyulda Hugging Face startapına edilən kiberhücumdan sonra olub və baş direktor Sem Altmanın sözlərinə görə, o hadisə hələ də «gördüyümüz ən ağır hadisədir».

Vaşinqtonda siyasət əks istiqamətdə hərəkət edir. Bu həftə Çin lideri Si Cinpinlə görüşdən sonra Donald Tramp iki ölkənin AI təhlükələri barədə məlumat paylaşmağı və təhlükəsizlik səylərini əlaqələndirməyi razılaşdığını deyib. Lakin Tramp AI ilə bağlı qorxuların şişirdildiyini düşünür və özünün hər hansı məhdudiyyət planlamadığını bildirib. «Onlar tərəqqimizi dayandırmaq istəyirlər, çünki Çindən xeyli qabaqdayıq və belə də davam edəcəyik», deyib o, Ağ Evin qarşısında jurnalistlərə.

OpenAI əvvəllər modellərinin «gözlənilməz və ya narahatdoğurucu» davranışı ilə bağlı daha altı hesabat dərc edib və belə halların izlənməsi, araşdırılması və açıqlanması üçün sistem tətbiq edib.