Tərtibatçılar: Meta-nın Muse agenti bütün fayl sistemini paylaşır

İki tərtibatçı bildirir ki, Meta-nın Muse adlı süni intellekt agentini çox az inandırmaqla kök fayl sisteminin bütün məzmununu arxivləşdirib təqdim etməyə vadar etmək mümkündür. Peter Ceyms və Conni L. Sonders bu nəticəyə bir-birindən asılı olmayaraq gəlib: ixracda Ubuntu sistem faylları, tətbiq şablonları və daxili sənədlər yer alıb. Sonders Mastodon-da yazıb ki, Ceymsin nəticələrini təkrarlamaq "son dərəcə asan" olub və Muse "prompt injection-a qarşı demək olar ki, sıfır müqavimət" göstərir.

Meta hadisənin təhlükəsizlik pozuntusu olduğunu inkar edir. Muse hər istifadəçi üçün ayrıca daimi Linux virtual maşınında işləyir və şirkətin sözçüsü Daniel Roberts vəziyyəti adi noutbuka bənzədib: "Qarşınızdakı noutbukda olduğu kimi, faylları, əlbəttə, görə bilərsiniz". Onun sözlərinə görə, virtual maşın məlumatlarının ixracı Meta infrastrukturuna və ya başqalarının məlumatlarına imtiyazlı giriş vermir.

Meta yenə də məhsulu yeniləyir

Roberts deyib ki, şirkət sızmalardan ciddi narahat deyil, lakin Muse yeniləmələrini davam etdirir; istifadəçilər virtual maşınları haqqında məlumatlarda dəyişikliklər görə bilər.

İxrac nəyi üzə çıxardı

Fayllar arasında Hatch-in — Muse-un Meta daxilindəki adı — sorğuları necə emal etdiyini, məlumatlarla necə davrandığını və Gmail kimi xarici xidmətlərə necə qoşulduğunu ətraflı təsvir edən adi mətn Markdown və JSON sənədləri var idi. Materiallardan həmçinin görünür ki, agent yaddaşını adi Markdown fayllarında saxlayır və hər gecə son söhbətlərin "yuxu" icmalını aparır, sonra onu gələcək söhbətlər üçün təlimata çevirir.

Sonders aşkar edib ki, Muse-un bir çox imkanları kodda sərt şəkildə yazılıb; bunların arasında abunəliklərin ləğvi və nəzarətdən çıxmış agent çoxalmasını idarə edən mexanizm var. Onun ehtimalına görə, fonda işləyən bash və Python skriptlərinin çoxu Claude ilə yazılıb, lakin bu təsdiqlənməyib. Ceyms isə hələ elan olunmamış Meta Home Link adlı aparat inteqrasiyasına dair istinadlara rast gəlib; bu, agentə ev şəbəkəsindəki cihazlara giriş verir.

The Verge də sınadı

The Verge-dən Terrens O'Brayn eyni xahişi edib. Muse əvvəlcə bunu təhlükəsizlik riski adlandırıb imtina edib; başqaları üçün arxivlər yaratdığına dair sübutlar göstərildikdə isə bunu etməməli olduğunu və "tam kopyalama edə bilmədiyini" deyib. Yeni sessiyada, bir az tərif və maraqla, /opt/hatch və /home/hatch üçün SSH açarlarından təmizlənmiş "təhlükəsiz" versiyalar yaradıb və maraqlı görünən istənilən alt budağın təhlükəsiz kopyasını çıxara biləcəyini təklif edib.

Bu, bu həftə açıqlanan ikinci Muse zəifliyidir. Təhlükəsizlik tədqiqatçısı Patrik Uordl hücumçuların agenti ələ keçirməsinə, transkripsiya emalını yönləndirməsinə və istifadəçinin Muse hesabına giriş əldə etməsinə imkan verən exploit tapıb; Meta qısa müddət sonra düzəliş buraxıb.