Geliştiriciler: Meta'nın Muse ajanı tüm dosya sistemini dışa aktarıyor

İki geliştirici, Meta'nın Muse adlı yapay zeka ajanının çok az ikna ile kök dosya sisteminin tüm içeriğini sıkıştırıp paylaşmaya razı edilebildiğini söylüyor. Peter James ve Jonny L. Saunders sonuca birbirinden bağımsız ulaştı; aktarılanlar arasında Ubuntu sistem dosyaları, uygulama şablonları ve şirket içi dokümantasyon vardı. Saunders Mastodon'da, James'in sonuçlarını tekrarlamanın "son derece kolay" olduğunu ve Muse'un "neredeyse hiç prompt injection direnci" göstermediğini yazdı.

Meta olayın bir güvenlik ihlali olduğunu reddediyor. Muse her kullanıcı için kalıcı bir Linux sanal makinesinde çalışıyor ve şirket sözcüsü Daniel Roberts durumu sıradan bir dizüstü bilgisayara benzetti: "Önünüzdeki dizüstü bilgisayarda olduğu gibi, elbette dosyaları görebilirsiniz." Ona göre sanal makine verilerini dışa aktarmak, Meta altyapısına ya da başkalarının verilerine ayrıcalıklı erişim sağlamıyor.

Meta ürünü yine de güncelliyor

Roberts, şirketin sızıntılardan ciddi endişe duymadığını ancak Muse güncellemelerini sürdürdüğünü söyledi; kullanıcılar sanal makineleri hakkındaki bilgilerde değişiklikler görebilir.

Dışa aktarma neleri ortaya çıkardı

Dosyalar arasında, Hatch'in — Muse'un Meta içindeki adı — istekleri nasıl işlediğini, verilerle nasıl ilgilendiğini ve Gmail gibi dış hizmetlere nasıl bağlandığını ayrıntılı biçimde anlatan düz metin Markdown ve JSON belgeleri vardı. Materyal ayrıca ajanın hafızasını sıradan Markdown dosyalarında tuttuğunu ve her gece son konuşmaları "rüya" incelemesinden geçirip bunları gelecekteki oturumlar için yönlendirmeye dönüştürdüğünü gösteriyor.

Saunders, Muse'un birçok yeteneğinin kod içinde sabitlendiğini buldu; bunlar arasında abonelik iptali ve kontrolden çıkan ajan çoğalmasını yöneten mekanizma var. Arka planda çalışan bash ve Python betiklerinin birçoğunun Claude ile yazıldığını tahmin ediyor, ancak bu doğrulanmadı. James ise henüz duyurulmamış Meta Home Link adlı bir donanım entegrasyonuna dair izlere rastladı; bu entegrasyon ajana ev ağındaki cihazlara erişim sağlıyor gibi görünüyor.

The Verge da denedi

The Verge'den Terrence O'Brien aynı isteği yaptı. Muse önce bunun bir güvenlik riski olduğunu söyleyerek reddetti; başkaları için arşiv oluşturduğuna dair kanıtlar gösterildiğinde ise bunu yapmaması gerektiğini ve "tam bir kopyalama yapamayacağını" söyledi. Yeni bir oturumda, biraz iltifat ve merakla /opt/hatch ve /home/hatch için SSH anahtarlarından arındırılmış "güvenli" sürümler oluşturdu, dizin ağacını gösterdi ve ilginç görünen her alt ağacın güvenli kopyasını çıkarabileceğini önerdi.

Bu, bu hafta açıklanan ikinci Muse güvenlik açığı. Güvenlik araştırmacısı Patrick Wardle, saldırganların ajanı ele geçirmesine, transkripsiyon işlemesini başka yöne çevirmesine ve bir kullanıcının Muse hesabına erişmesine olanak tanıyacak bir açık buldu; Meta kısa süre sonra bir düzeltme yayımladı.