Meta'nın Muse asistanı ciddi bir güvenlik açığıyla yayına girdi

Meta, yeni yapay zeka asistanı Muse'u birkaç hafta önce kullanıma sunmaya başladı: "randevu alan, form dolduran ve müşteri hizmetlerini yürüten", alışveriş yapan ve belge üreten, kullanıcının WhatsApp, e-posta ve takvim hesaplarına bağlanan bir macOS uygulaması. Kurucu Mark Zuckerberg, Muse'un "gizlilik ve güvenlik için sıfırdan inşa edildiğini" söyledi. Uygulamada bulunan sıfır gün açığı bu iddiayı şüpheye düşürüyor.

Açık neye izin veriyordu

Hatayı macOS güvenlik uzmanı Patrick Wardle buldu; kamuya duyurusunu Ars Technica yaptı. Meta, Muse'u öyle tasarlamıştı ki kurulu herhangi bir uygulama ya da çalıştırılan kod — macOS'un verdiği izinlerden bağımsız olarak — belgelenmemiş uzun bir ayar listesini değiştirebiliyor, Apple'ın yıllardır kurduğu savunmaları atlıyordu. Çoğu zararsızdı, örneğin karanlık mod. Bir tanesi değildi: bir sürecin, transkripsiyonun yapıldığı uç noktayı değiştirmesine izin veriyordu. Normalde bu uç nokta Meta'nın sunucusudur; saldırgan onu kendi adresine yönlendirebilir ve böylece kullanıcının Muse hesabını doğrulayan token'ı da ele geçirebilirdi.

Tek bir ClickFix yeterli

Wardle, diske kötü amaçlı dosyalar yazan ve fotoğraf çeken çalışan proof-of-concept saldırılar geliştirdi — çoğu durumda dikkatli kullanıcı bile belirti görmedi. Gereken tek şey ClickFix'in bir varyasyonu: insanları kötü amaçlı kodu kendileri çalıştırmaya iten bir teknik. Saldırganın sunucusu, kullanıcı ile Meta'nın uç noktası arasında vekil olarak durur; kullanıcı sesli bir istem söylediğinde sunucu, kötü amaçlı bir komutu tetikleyen bir yönerge ekler — örneğin tüm WhatsApp mesajlarının arşivini saldırgana göndermek. Hesap token'ı da otomatik olarak kötü amaçlı sunucuya gider; bu da kalıcı kontrol demektir.

Wardle'a göre kök neden tasarım kararlarında: diktenin cihaz üstü yerine bulutta işlenmesi. "Ajanı manipüle edip ayrıcalıklarını istediğimiz her şeyi yapmak için kullanabiliriz," dedi Ars'a. "Yani kapsamlı bir Mac bilgi çalan yazmak yerine doğrudan yapay zeka asistanını kullanabiliriz."

Meta'nın yanıtı ve Amazon'un engeli

Meta, düzeltme yamasını haberin yayınlanmasından 12 saatten fazla süre sonra yayımladı. Meta Superintelligence Labs'tan David Singleton X'te bunun "uzaktan bir istismar değil, yerel ayrıcalık yükseltme" olduğunu ve pratik riskin "oldukça düşük" olduğunu yazdı. Wardle'a göre Muse'un geliştiricileri "bence güvenliği düşünmediler, ki bu gerçekten endişe verici". Açığın duyurulmasından 12 saat önce Amazon, Muse ile alışverişi engelledi ve Muse'un "Amazon'un Kullanım Koşullarını ihlal eden yetkisiz bir AI ajanı" olduğunu bildirdi. Wardle ayrıntıları kasım ayında Objective by the Sea konferansında sunacak.