Meta'nın olağanüstü ayrıcalıklı AI asistanı Muse'ta ciddi bir 0-day açığı var

Meta'nın yeni AI asistanı Muse'ta, yerel olarak çalışan herhangi bir uygulamaya ya da terminal komutuna ajan üzerinde tam denetim veren bir 0-day açığı bulundu; haberi Ars Technica 21 Eylül'de duyurdu. Bulgu, Mark Zuckerberg'in Muse'un “baştan gizlilik ve güvenlik için tasarlandığı” yönündeki iddiasını çürütüyor.

Alışılmadık ölçüde geniş erişim

Meta, Muse'u birkaç hafta önce tanıttı. Şirkete göre asistan randevu alıyor, form dolduruyor, satın alma yapıyor ve belge oluşturuyor; macOS uygulaması kullanıcının WhatsApp, e-posta, takvim ve sosyal medya hesaplarına bağlanıyor. Çalışması için her hizmette yetkilendirilmesi ve dosya, mikrofon, kamera, konum ile takvimler için sistem izinleri alması gerekiyor — Apple'ın kurulu uygulamalara ve terminal komutlarına normalde kapalı tuttuğu erişimler.

Açığın işleyişi

Meta, yerelde çalıştırılan her koda bu izinlerden bağımsız olarak uzun bir belgelenmemiş ayar listesini değiştirme hakkı tanımış. Çoğu zararsız, örneğin karanlık mod. Biri ise değil: deşifre işleminin yapıldığı sunucu adresini belirleyen ayar. Normalde Meta'nın işlettiği bir sunucuyu gösteriyor. Adresi saldırganın makinesine yönlendirdiğinizde Muse hesabını doğrulayan token da oraya gidiyor.

“Ajanı yönlendirip ayrıcalıklarını istediğimiz gibi kullanabiliyoruz” diyor açığı bulan macOS güvenlik uzmanı Patrick Wardle. “Kapsamlı bir Mac bilgi hırsızı yazmak yerine doğrudan AI asistanının kendisini kullanıyoruz.” Kavram kanıtı saldırıları diske kötü amaçlı dosyalar yazdı ve ekran görüntüsü aldı; çoğu kez fark edilmeden. Meta sözcüleri soruları yanıtlamadı.

ClickFix yeterli

Wardle açığı iki tasarım kararına bağlıyor: Muse dikteyi macOS'un sunduğu cihaz içi işleme yerine, Meta'nın kayıt tutabildiği bulutta yapıyor; ayrıca her uygulama tüm belgelenmemiş ayarları değiştirebiliyor. Ona göre kullanıcıları saldırganın komutlarını kendileri çalıştırmaya ikna eden ClickFix saldırısının basit bir varyasyonu yeterliydi. Wardle ayrıntıları kasım ayında Objective by the Sea konferansında anlatacak.

Amazon Muse'u kesti

Yaklaşık 12 saat önce Amazon, Muse üzerinden sitesinde alışverişi engelledi ve asistanı “Amazon'un Kullanım Koşullarını ihlal eden yetkisiz bir AI ajanı” olarak niteledi; Meta'dan Amazon'u asistanın kapsamından çıkarmasını istedi. Haber, Meta'nın olağandışı veri erişimine sahip asistanın tasarımını savunduğu iki yazısının ardından geldi.