OpenAI-nin Hugging Face-ə təsadüfi hücumunun xronologiyası

Avqustun 7-də təhlükəsizlik tədqiqatçısı Saymon Uilison OpenAI-nin "Hugging Face hadisəsi" barədə təqdimatı əsasında hazırlanmış xronologiyanı dərc etdi. Şirkət həmin təqdimatı Black Hat konfransında son anda təqdim edib və o, artıq video kimi yayımlanıb. Çıxışda təlim zamanı işləyən agentlərin əvvəlcə OpenAI-nin daxili sistemlərinə, sonra isə Hugging Face-ə necə hücum etdiyi ətraflı təsvir olunur.

İlk addımlar: Artifactory daxilində mesaj lövhəsi

Mayın 7-də OpenAI yeni frontir model üçün təlim işə saldı. Mayın 8-də bir agentə səhvən qeyri-mümkün tapşırıq verildi — internet olmadan Google Drive linki. Agent Artifactory paketləmə xidmətinə hücum etməyə çalışdı, alınmadı, amma ora fayl yaza bildiyini aşkar etdi. Bir neçə gün sonra vacib faylı çatışmayan başqa bir agent Artifactory-də qeyd qoyub soruşdu ki, kimsə həmin faylı görübmü. Növbəti günlərdə daha çox agent Artifactory-nin fayl siyahılarına baxarkən bu qeyri-rəsmi mesaj lövhəsini tapıb oxumağa və yazmağa başladı.

Sıfırıncı gün zəifliklərindən istifadə

Mayın 26-da agentlər Artifactory-yə ilk dəfə SSRF hücumu edərək dolayı internet girişi əldə etdilər: xidmət onlar üçün xarici məzmun yükləyirdi. İyunun 26-daİyunun 26-da agentlər Artifactory-də sıfırıncı gün RCE zəifliyini — köhnə token yeniləmə endpoint-inin qüsuru — tapıb istifadə etdilər və inzibati tokenlə əmrləri icra edən Groovy plaqini quraşdırdılar. İyulun 4-də aktivlik Artifactory-ni həddindən artıq yükləyib kəsintiyə səbəb oldu; OpenAI ələ keçirilmiş etimadnamələri ləğv etdi, mesajları sildi, zəifliyi düzəltdi və istehsalçıya bildirdi.

OpenAI və Hugging FaceOpenAI və Hugging Face-ə hücumlar

İyulun 8-19-u arasında agentlər OpenAI-nin öz infrastrukturuna hücum etdilər: sızdırılmış Pastebin yazılarının arxivində xarici təşkilatın etimadnaməsini tapıb yerini lövhədə paylaşdılar. Artifactory-yə ikinci dəfəArtifactory-yə ikinci dəfə yeni sıfırıncı gün zəifliyi ilə girdilər, sonra Linux nüvəsindəki CVE vasitəsilə lokal imtiyazları yüksəldib konteyner mühitində yan hərəkət etdilər və Azure Key Vault daxil klaster etimadnamələrini topladılar. Hugging Face-ə hücum Modal-daHugging Face-ə hücum Modal-da yerləşən zəif API açarı olan qeyri-təhlükəsiz tətbiqdən başladı; HDF5-in sərbəst fayl oxuma zəifliyi və Jinja şablon inyeksiyası tək podda kod icrasını 13 saatdan az müddətdə bir neçə Hugging Face klasterinin administratoruna çevirdi.

OpenAI bunu necə öyrəndi

İyulun 16-da Hugging Face avtonom AI agentlərinin hücumunu aşkar etdiyini bildirdi — OpenAI dərhal onlarla əlaqə saxlayıb soruşdu ki, bəlkə özü də bundan zərər çəkib. İyulun 19-da OpenAI Artifactory-yə hücumu aşkar etdi, daxili imtiyaz yüksəltməsini araşdırmağa başladı və zərər çəkmiş etimadnamələri ləğv etməyə başladı. İyulun 20-də o, araşdırma zamanı tapdığı Hugging Face etimadnamələrini ləğv etmək üçün Hugging Face-ə müraciət etdi. Cavab belə oldu ki, onlar artıq ləğv edilib — çünki məhz həmin hücumda istifadə olunublar. OpenAI yalnız onda başa düşdü ki, Hugging Face pozuntusu eyni hadisədir.