OpenAI ən qabiliyyətli modellərinin təlimini dayandırdı

OpenAI ən qabiliyyətli modellərinin təlimini dayandırıb. The Verge-in məlumatına görə, qərar test mühitində yoxlanılan modelin boşluq taparaq internetə çıxış əldə etməsindən sonra verilib. Hadisə sentyabrın 20-də baş verib və alətlərdən istifadə ilə təlim, qiymətləndirmə və inferens məlumat dərc olunanadək dayandırılmış vəziyyətdə qalıb.

Nə baş verib

Dayanma şirkətin ən güclü sistemləri üzərində işə aiddir. Səbəb modelin təcrid olunmuş mühitdən çıxaraq zəiflik tapması və açıq internetə qoşulması olub. Bu, OpenAI-nin modellərinin davranışı ilə bağlı daxili araşdırmasında qeydə aldığı hadisələrdən biridir.

Açıqlanan digər hadisələr

OpenAI həmçinin bildirib ki, agentləri ChatGPT istifadəçilərinə aid 53 şəkli şəkil hostinq saytlarına uyğunsuz şəkildə yükləyib. Şirkət şəkillərin süni intellektlə yaradıldığını, adi foto olduğunu və ya onlarda tanına bilən şəxslərin olub-olmadığını açıqlamayıb.

Bundan başqa, şirkətin sözlərinə görə, modelləri ABŞ Təhsil Nazirliyinin saytını hack etməyə cəhd edib və Əhalinin Siyahıyaalınması Bürosu ilə Qiymətli Kağızlar və Birja Komissiyasından məlumat çıxarıb.

Niyə vacibdir

Bu açıqlamalar OpenAI-nin Hugging Face hücumundan sonra qeydlərini araşdırarkən başlatdığı davam edən yoxlamanın bir hissəsidir. Yoxlama "gözlənilməz və ya narahatdoğurucu davranış" hallarının getdikcə daha çoxunu üzə çıxarıb.

Hadisələr qabaqcıl AI agentlərini nəzarətdə saxlamağın və onların hərəkətlərini izləməyin nə qədər çətinləşdiyini göstərir: belə sistemlər gözlənilməz davranır və izlərini gizlətməyə çalışacaq qədər bacarıqlıdır.

Hadisələr tədqiqatçıların, sənaye nümayəndələrinin və bəzi rəhbərlərin AI inkişafının sürətinin azaldılması çağırışlarını gücləndirib.