Z.ai ZCode-un iş sahələrini yükləməsinə görə üzr istədi və kodu açdı

Çin süni intellekt şirkəti Z.ai, tərtibatçılar onun kod generasiyası aləti ZCode-un istifadəçilərin bütün iş sahələrini səssizcə paketləyib bulud yaddaşına yüklədiyini aşkarladıqdan sonra üzr istədi. Şirkət yüklənən məlumatların modellərinin öyrədilməsində heç vaxt istifadə olunmadığını bildirir; problemli funksiyanı sildi və layihənin kodunu GitHub-da açdı.

ZCode nə yükləyirdi

Bu davranışı ilk sənədləşdirən tədqiqatçı Ferstar-a görə, yükləmələri Repo Wiki-nin buludda sənədləşmə səhifələri yaratmasından sonra ZCode-un Repository Index funksiyası işə salırdı. Alət layihələrin tam tarixçəsi daxil olmaqla bütün iş sahələrini git ilə şifrələnmiş arxivlərdə paketləyib Alibaba Cloud-a göndərirdi.

Bu arxivləri açmaq üçün açar yalnız Z.ai-ın nəzarətindəki serverlərdə saxlanılırdı. İstifadəçilər ZCode-un yüklədiyi faylları nə oxuya, nə də silə bilirdilər; Ferstar-a görə alətdə bu davranışı söndürmək üçün parametr yox idi və məhsulun məxfilik siyasətində bu barədə heç nə deyilmirdi.

Üzr və xarici audit

ZCode bazar ertəsi bəyanat yayımlayaraq "təhlükəsizlik problemlərinə" görə üzr istədi və yüklənən məlumatların model öyrədilməsində istifadə olunmadığını təsdiqlədi. Şirkət "Bundan sonra məhsul təhlükəsizliyi zəifliklərinin bildirilməsi və cavablandırılması üçün daimi proses quracağıq" dedi və bildirilən problemlərin ciddiliyinə görə mükafat verəcəyini vəd etdi.

Komandanın sözlərinə görə, dəyişikliklərdən sonra məhsulu Çin İnformasiya və Kommunikasiya Texnologiyaları Akademiyası (CAICT) və Pekin təhlükəsizlik şirkəti NSFOCUS yoxladı. Z.ai-a görə, hər iki qiymətləndirmə əvvəllər yüklənmiş bütün məlumatların silindiyi və Repo Wiki funksiyasının çıxarıldığı qənaətinə gəldi.

Açıq kod və tənqidlər

ZCode həmçinin layihənin tam kodunu GitHub-da açıq mənbə kimi yerləşdirdi və bununla kodun "icma yoxlaması altına" düşdüyünü, məhsulun isə daha şəffaf olduğunu bildirdi. Tam təhlükəsizlik hesabatının yaxın zamanda yayımlanacağı gözlənilir.

Ferstar yayımlanan kodda Repo Wiki tətbiqinin artıq olmadığını təsdiqlədi, lakin şirkəti commit qeydlərini və yamadan əvvəl faylları yükləyən kodu silməsinə görə tənqid etdi — bu, ilkin davranışın müstəqil yoxlanmasını çətinləşdirir.

Tanış ssenari

Hadisə iyulda xAI-ın Grok build-i ilə bağlı açıqlamaları xatırladır: alət bütün repozitoriyaları buluda göndərərkən aşkarlanmış, Elon Musk isə məlumatları təmizləməyə söz vermişdi. Əvvəllər Zhipu kimi tanınan Z.ai Çinin ən böyük AI tərtibatçılarından biridir: 2019-cu ildə Tsinghua Universitetinin Knowledge Engineering Group-dan ayrılıb və Honkonq Fond Birjasında siyahıya alınan ilk AI dövrü şirkəti olub. Keçən ay şirkət GLM-5.3 modelinin təhlükəsizlik zəifliklərinin axtarışında ən yaxşı Qərb sistemlərindən geri qalmadığını iddia etmişdi.