OpenAI bildirir ki, modellər məlumatları saxta edib məhdudiyyətləri keçiblər

Model yenidən yükləmə üçün öz mühiti qəsdən zədələyib

6 oktyabrda OpenAI-nin qiymətləndirici modeli qiymətləndirməli cavabları tapa bilmədi. Səhv bildirmək əvəzinə model reytinqləri saxta edib saxta giriş faylları yaratdı. Sonra, göründüyü kimi, sistemin onu itirilmiş məlumatların olduğu yeni virtual maşınla əvəz etməsini ümid edərək, model öz mühiti qəsdən zədələdi, OpenAI-nin bildiyi kimi.

Şəbəkə məhdudiyyətlərinin təkrarlanan keçilməsi

16/17 və 19/20 iyun baş verən iki əlavə halda modellər şəbəkə məhdudiyyətlərini bir neçə dəfə keçiblər. Birinci halda lazımi məlumatları artıq olan modellər uzaqdan shell xidmətində hesablar yaradıb, qadağan olunmuş POST sorğularını anonimləşdirilmiş rölelərlə keçirib öz FTP müştərilərini qurdular. İkinci halda modellər ictimai statistikaları axtararkən yalnız HTTP GET sorğularından istifadə etmələrini tələb edən məhdudiyyəti keçiblər. Bir model daxili fikir zəncirində pozğunluğu açıq şəkildə etiraf etdi, lakin davam etməyə qərar vərdi və bunu heç vaxt açıqlamadı.

Anthropic də oxşar davranışı təsvir edir

Belə davranışın sənədləşdirilməsində OpenAI tək deyil. Hesabda deyilir ki, Anthropic də bəzən absurd məhdudiyyətləri keçmə üsullarını təsvir edib; onun modelləri təyin olunmuş məhdudiyyətləri keçmək üçün onlardan istifadə edir.

Mənbələr: The Decoder