
Tədqiqatçı Süni İntellekt Təchizat Zəncirində 2 Milyon Rəqəmsal Tələ Yerləşdirdi, Məxfilik Pozuntuları Tapdı
Tədqiqatçı demək olar ki, iki milyon süni intellekt promptunu unikal gizli məlumatlarla doldurdu və AI xidmətlərində və model təminatçılarında pozuntular, prompt oğurluğu, resellerlərin qeydləri və məxfilik bayraqları ilə bağlı problemlər tapdı.
Tədqiqatçı HD Moore süni intellekt xidmətlərinin geniş şəbəkəsi vasitəsilə göndərilən AI promptlarına demək olar ki, iki milyon unikal, izlənə bilən gizli məlumat yerləşdirdi və təhlükəsizlik pozuntuları, prompt oğurluğu və müştəri məlumatlarını qorumaqda geniş uğursuzluqlar tapdı. Dragos təhlükəsizlik şirkətinin baş tədqiqat direktoru Moore bu tapıntıları cümə axşamı yazıb.
Təcrübə necə işlədi
Moore boş hesablara bağlı AWS giriş açarlarını, SSH kimi xidmətlər üçün parolları və unikal URL-ləri, DNS adlarını və şəxsi git repozitoriyası istinadlarını topladı. Heç biri əvvəl istifadə olunmamışdı və o, onlardan istifadə edən sorğuları qəbul edən infrastrukturu idarə edirdi. O, hər bir gizli məlumatı bir provayderə göndərilən tam olaraq bir prompta yerləşdirdi.
Bir çox AI tətbiqləri promptları çıxarış mühərriklərinə yönləndirən brokerlər, həmçinin AI marşrutlayıcıları və ya şlüzlar kimi tanınan OpenRouter və ya Vercel kimi xidmətlərdən istifadə edir. Promptlar ötürülərkən şifrələnir, amma hər keçiddə deşifrə olunur və hər tərəfin onları öz siyasətinə uyğun qeydə alması və saxlaması ehtimalı yüksəkdir.
Pozuntular, yenidən satıcılar və məxfilik bayraqları
Ən azı üç AI provayderi promptları oğurlayan hücumçular tərəfindən pozulmuşdu. Bir hücumçu "bir neçə yüz" AWS açarını yenidən istifadə etdi və oktyabrın sonundakı müəyyən pəncərələr ərzində göndərilən hər sorğu oğurlanmışdı. Bəzi açarlar model işə düşməzdən əvvəl rədd edilən sorğulardan gəlirdi, bu da provayderin "ön qapısında" kopyalamanı göstərirdi.
Bir neçə yenidən satıcı promptları qeyd etdi və etimadnamələri istifadə edən insanlara ötürdü. Moore onları eyni modelə müxtəlif satıcılar vasitəsilə sorğular göndərməklə müəyyən etdi. Bəzi provayderlər həmçinin Zero Data Retention və ya "no data collection" kimi məxfilik bayraqlarına əməl etmədilər.
Başqa iki pozuntuda oğurlanmış bəzi sorğular Zero Data Retention kimi işarələnmişdi. Hücumçular açarları bəzən saatlar ərzində sınaqdan keçirdilər, S3 bucket-lərini, secrets manager-ləri və parameter store-ları axtardılar, AWS Bedrock-da host edilən modelləri aktivləşdirməyə çalışdılar və öz IAM istifadəçilərini əlavə etdilər. Oğurlanmış açarlar AWS API çağırışlarında "on minlərlə" dəfə istifadə olundu.
URL scraping və OpenRouter yeniləməsi
Bir Çin AI laboratoriyası iyuldan oktyabra qədər modellərinə göndərilən promptların yarısından çoxundan gizli URL-ləri əldə etdi, o cümlədən təxminən üçdə ikisi "no data collection" və ya Zero Data Retention kimi işarələnmişdi. Scraper adətən iki və ya üç gün sonra görünürdü. Bir neçə ABŞ hosting provayderi bu laboratoriyanın modellərini yenidən satır və onlara göndərilən promptlar eyni scraper-i işə saldı.
Sonra bir git müştərisi promptlarda istinad edilən şəxsi repozitoriyaları klonlamağa cəhd etdi, amma yalnız bu laboratoriyanın modellərindən istifadə edən promptlar üçün. Bir ABŞ hosting provayderi bir inference çağırışından iki aydan çox sonra gizli URL-i crawling etdi, başqa biri isə hər sorğudan bir neçə gün sonra URL-lər üçün geri qayıtdı.
OpenRouter müştərilərə bəzi promptların oxuna biləcəyini bildirdi və tədqiqata istinad etdi. Potensial məruz qalma MiniMax-a, Çin əsaslı model təminatçısına, birbaşa və ya AtlasCloud, Novita və StreamLake yenidən satıcıları vasitəsilə göndərilən promptları əhatə edirdi. OpenRouter MiniMax model endpoint-lərindən "Zero Data Retention" etiketini çıxardı.
İstifadəçilər nə edə bilər
Məlumat sızmasının qarşısını almağın ən təsirli yolu modelləri yerində host etməkdir, baxmayaraq ki, bu bahalıdır. Əks halda Moore bir müqavilə və məxfilik siyasəti ilə birinci dərəcəli provayderdən birbaşa xidmət almağı məsləhət görür. Bu, sızmanın olmamasına zəmanət vermir, amma şansı azaldır. İstifadəçilər həmçinin standart provayder və ya yenidən satıcı hovuzlarını qəbul etməkdən çəkinməli və upstream provayderləri özləri seçməlidirlər.
Mənbələr: Ars Technica · Techmeme
SiTech — AI ilə gücləndirilmiş veb hazırlanması
Sürətli və müasir saytlar qurur, AI-ı real biznes proseslərinə gətiririk. Layihəniz və ya sualınız var? Kömək etməyə hazırıq.