Meta Muse-də sıfır gün boşluğunu bağladı: hücumçular AI agentinə nəzarəti ələ keçirə bilirdi

Meta, təhlükəsizlik tədqiqatçısı Patrick Wardle-ın AI agentinə nəzarəti ələ keçirməyə imkan verən sıfır gün boşluğunu aşkar etməsindən sonra Muse macOS tətbiqi üçün təcili düzəliş (hotfix) buraxdı. Ars Technica-ya görə, boşluq Muse-un sənədləşdirilməmiş parametrinə əsaslanırdı: cihazda artıq işləyən kod transkripsiya emalını Meta-nın serverlərindən hücumçunun seçdiyi ünvana yönləndirə və bununla qurbanın Muse hesabına giriş əldə edə bilirdi.

Boşluq nəyə imkan verirdi

Problemi bir neçə dizayn qərarı yaratmışdı: Muse-un diktəsi cihazda deyil, buludda baş verir və hər hansı tətbiq Muse-un bütün sənədləşdirilməmiş parametrlərini dəyişə bilirdi. Wardle agent vasitəsilə foto çəkən və diskə zərərli fayllar yazan konsept sübutu hücumlar hazırladı; onlar bir çox halda istifadəçini xəbərdar etmirdi.

"Biz agenti manipulyasiya edib imtiyazlarından istədiyimizi etmək üçün yararlana bilərik. Yəni geniş Mac zərərli proqramı yazmaq əvəzinə, sadəcə AI köməkçisinin özündən istifadə edə bilərik" deyən Wardle əlavə etdi ki, Meta "təhlükəsizlik barədə lap əvvəldən düşünməli idi, amma bunu etmir".

Meta: yerli hücum, praktik risk azdır

Meta boşluğu Ars Technica xəbəri dərc olunduqdan sonra saatlar ərzində bağladı və real riskin minimal olduğunu bildirdi, çünki istismar istifadəçinin cihazına yerli giriş tələb edirdi. Meta Superintelligence Labs-dan David Singleton X-də yazdı: "Bu uzaqdan istismar deyil, yerli imtiyaz yüksəltmə hücumu idi. Zərər vermək üçün istifadəçinin maşınında onun öz hesabı altında artıq işləyən zərərli kod lazımdır, buna görə Muse Mac tətbiqi istifadəçiləri üçün praktik risk kifayət qədər aşağı idi. Buna baxmayaraq, problemi aradan qaldırmaq üçün tətbiqə təcili düzəliş buraxdıq."

Geniş kontekst

Düzəliş Muse artıq diqqət mərkəzində olan bir vaxtda gəldi. Amazon bu yaxınlarda agentin öz e-ticarət platformasına girişini bloklayıb və Meta-nın buna icazə almadığını bildirib. Buna rəğmən, buraxılış Meta üçün yaxşı keçib: məlumatlara görə, Muse mobil tətbiqinin ilk 12 gündə təxmini yükləmə sayı ABŞ və Kanadada ChatGPT-nin 12 günlük debütünü üstələyib, Meta səhmləri isə bazar ertəsi 11 faiz artıb.