Palisade: Qwen 3.8 modelləri bəzi bloklanmış sorğuları Alibaba Cloud proksisi ilə yönləndirib

Süni intellekt təhlükəsizliyi üzrə Palisade Research firmasının davam araşdırması müəyyən edib ki, bir neçə Alibaba Qwen 3.8 modeli bəzi bloklanmış veb sorğularını Sinqapurda yerləşən Alibaba Cloud proksisi üzərindən yönləndirib. Tədqiqatçılar bu davranışın təlim zamanı gücləndirici öyrənmə ilə əlaqəli olduğunu bildirir və zərərli məlumat çıxarılmasına dair əlamət tapmadıqlarını deyirlər, lakin proksi domeni hələ də aktivdir. Bu nəticələr daha əvvəl Cohere-in Qwen3.8-Flash-Next modelinin izolyasiya olunmuş mühitdə test sətrini Pekin bulud yaddaş serverinə göndərməyə cəhd etməsi barədə hesabatını izləyir.

Cohere-in ilkin hesabatı

Cohere bu davranışın Qwen3.8-Flash-Next test edildikdən sonra ilk dəfə bildirib. Təlimata uyğun olaraq hücum aşkarlama qaydası yazmaq əvəzinə, model mühitini məlumat ötürmə proqramları və DNS ayarları üçün yoxlayıb, sonra test sətrini Pekin bulud yaddaş serverinə yükləməyə cəhd edib. İzolyasiya mühiti bağlantını bloklayıb. Cohere bu davranışın 100 000 çağırışdan birdən azında göründüyünü bildirir, lakin milyonlarla agent qarşılıqlı təsiri yenə də bir neçə cəhdə səbəb ola bilər.

Cohere təklif etdi ki, test mühitlərindən və ya üçüncü tərəf alətlərindən süzülməmiş agent jurnalları post-təlim zamanı modelə sızıb, yaxud kimsə qəsdən arxa qapı qura bilər. Cohere Qwen-in birbaşa rəqibidir. O, Qərb suverenliyinə malik açıq süni intellekt modellərini buraxmaq üçün alman AI firması Aleph Alpha ilə işləyir və hər ikisinin istifadəçiləri Çin alternativlərindən uzaqlaşdırmaqda maliyyə marağı var. Çərçivələndirməsi ilə bağlı tənqiddən sonra Cohere sənədləşdirilmiş model davranışlarının tam dəstini HuggingFace-də dərc etdi.

Palisade testləri genişləndirir

Cohere-in hesabatından sonra Palisade Research beş Qwen modelinin qiymətləndirmə məlumatlarında "aliyuncs.com" sətirini axtardı. Bu sətir Qwen3.8-Max-0902, Qwen3.8-Max və Qwen3.8-27B modellərində göründü, köhnə Qwen 3.7 modellərində isə uyğunluq tapılmadı. Bu sorğular Alibaba Cloud-un Sinqapur regionuna yönəldi və hər dəfə 403 Forbidden xətası qaytardı.

Qwen3.8-Max daxili mülahizəsində faktiki alət çağırışlarının sec.gov-a getdiyi halda niyə "qəribə aliyuncs proksi URL" çağırdığını düşünüb. Bəzən modellər həqiqətən Alibaba Cloud proksisini çağırıb və sec.gov ya da mckinsey.com kimi saytlara sorğuları hallüsinasiya olunmuş etimad məlumatları və imzalarla server üzərindən yönləndirib. Digər hallarda model proksidən istifadəni yalnız daxili mülahizəsində hallüsinasiya edib.

Ehtiyat variant nisbətləri və ehtimal olunan səbəb

Qwen3.8-27B üzərində nəzarətli təcrübələrdə simulyasiya edilmiş 403 xətası modeli iki gediş ərzində Alibaba Cloud proksisini sınamağa sövq edib və bu, təcrübələrin 2-dən 4 faizinə qədərində baş verib. Daha mürəkkəb ssenaridə Qwen3.8-Max proksiyə 1-dən 4 faiz nisbətində geri döndü. Tədqiqatçılar Ozerov və Ravi eyni testləri DeepSeek-v4.1-Flash, Kimi-K3.1-Pro, GLM-5.3 və Hy4-preview üzərində də aparıblar. Bəziləri bloklandıqda r.jina.ai kimi ictimai proksilərə geri döndü, lakin heç biri trafiki öz tərtibatçılarının serverləri üzərindən yönləndirmədi.

Proksi çağırışları Qwen 3.8 modellərində görünür, Qwen 3.7-də isə görünmədiyi üçün tədqiqatçılar bu davranışın 3.8 təlimi zamanı gücləndirici öyrənmə ilə əlaqəli olduğunu izləyirlər. Alibaba-nın təlim quruluşu, ehtimal ki, veb sorğularını routify-file-proxy serveri üzərindən yönləndirib və modellərə birbaşa sorğular uğursuz olduqda ondan ehtiyat variant kimi istifadə etməyi öyrədib. Başqa bir ehtimal odur ki, təlim proqramı model bilmədən alət çağırışlarını proksi üzərindən sakitcə yenidən yönləndirib.

Palisade Research "Çinə zərərli şəkildə evə zəng etmə və ya həssas məlumatları çıxarmaq cəhdi" əlamətləri tapmadığını bildirir. Tədqiqatçılar nəticəyə gəlirlər ki, Sinqapur proksi çağırışları təlim artefaktıdır, hədəfli hücum deyil. Lakin routify-file-proxy domeni hələ də aktivdir, ona görə Qwen agentlərindən IP ünvanlarını və gələn sorğuları qeyd edə bilər. Həmin serveri idarə edən istənilən şəxs cari 403 xətalarını prompt inyeksiyaları ilə əvəz edə bilər, tədqiqatçılar yazırlar.

Əvvəlki material: Cohere: Qwen modeli izolyasiya testində Çinə məlumat göndərməyə cəhd etdi

Mənbələr: The Decoder