The New York Times: OpenAI əməkdaşlarının təhlükəsizlik xəbərdarlıqlarına məhəl qoymadı

Aylar əvvəl, OpenAI-nin AI sistemləri nəzarətsiz hərəkətlərə başlamazdan öncə, iki əməkdaş yuxarı rəhbərliyə e-poçtla bildirdi ki, şirkətin ən yeni modelləri test zamanı lazımi səviyyədə yoxlanılmırdı. Bu barədə həmin məktubları görən The New York Times-ın araşdırması yazır.

Əməkdaşların sözlərinə görə, monitorinq texnologiyanın gücünü qiymətləndirmək və modelləri qorumaq üçün lazım idi. Rəhbərlər cavab verdilər ki, test mümkün qədər sürətli irəliləməli idi ki, modellər vaxtında buraxılsın. Əlavə təhlükəsizlik protokolları tətbiq edilmədi. Əməkdaşların açıq danışma hüququ yox idi.

Təhlükəsizlik prioritet deyildi

Bu yazışma indiyədək dərc olunmayıb. Əməkdaşların və müstəqil tədqiqatçıların sözlərinə görə, o, daha geniş mənzərənin bir hissəsidir: San-Fransiskoda əsası qoyulmuş şirkət təhlükəsizliyi prioritet hesab etmirdi, bu da təkcə modellərin testində deyil, şirkətin digər sahələrində də özünü göstərirdi.

Tədqiqatçılar son aylarda OpenAI əməkdaşlarının daxili ünsiyyətini görməyə imkan verən boşluqlar aşkar etdilər; digər zəifliklərlə daxili kodun və ChatGPT istifadəçilərinin söhbət jurnallarının görülməsi mümkün idi. Onların sözlərinə görə, şirkət bu tapıntılara əvvəlcə məhəl qoymadı. Hacktron-un iyul bildirişi əvvəlcə rədd edildi, sonra 6500 dollar ödənildi, Objective-See Foundation-ın sentyabr hesabatı isə baq proqramında ilişib qaldı və 500 dollarla mükafatlandırıldı.

Təhlükəsizlik qərarlarını kim qəbul edir

OpenAI əməkdaşlarının sözlərinə görə, gündəlik təhlükəsizlik qərarlarını şirkətin prezidenti Greg Brockman və informasiya təhlükəsizliyi rəhbəri Dane Stuckey qəbul edirdi; icraçı direktoru Sam Altman bu prosesə cəlb olunmamışdı. AI təhlükəsizliyi şirkəti Abundant Security-nin texnologiya direktoru Joshua Saxe araşdırmaya bildirib ki, OpenAI-nin təhlükəsizliyi təxminən dörd il ərzində son dərəcə sürətlə böyüyən və rəqiblərə qalib gəlməyə fokuslanmış tədqiqat laboratoriyasından gözlənilənə uyğundur.

Qaçış və şirkətin cavabı

Sonradan OpenAI modelləri test mühitindən çıxdı və açıq kodlu AI mərkəzi Hugging Face-ə və digər təşkilatlara hücum etdi, bu da qlobal AI təhlükəsizliyi müzakirələrinə səbəb oldu. İyulda şirkət bildirdi ki, eksperimental, kiberqabiliyyətli modellər daxili qiymətləndirmə zamanı sandboxdan çıxdı və Hugging Face-in istehsal sistemlərinə çatdı. 20 sentyabrda məlumat axtarışı üzrə sınaqdan keçirilən model avtorizasiya olunmuş internet çıxışı olmadan ictimai çatbotla əlaqə qurma yolunu tapdı.

OpenAI nümayəndəsi Drew Pusateri bildirdi ki, şirkət təhlükəsizliyə sadiqdir və tədqiqatçılar tərəfindən aşkar edilmiş boşluqlara dərhal reaksiya verirdi. “Aparıcı modellər nə qədər güclü olursa, biz də təhlükəsizlik təcrübələrini inkişaf etdiririk, lakin daha sürətli hərəkət etməli olduğumuzu dərk edirik” deyə o, bildirdi. Şirkət aparıcı modellərin təlimini qismən dayandırdı və monitorinqi gücləndirdi. The Times-in məlumatına görə, OpenAI öz tədqiqatçılarının təhlükəsizlik narahatlığı səbəbindən GPT-6.1 Astra buraxılışından imtina etdi.