Muse, tüm arkadaşlarınız ve aile üyeleri hakkında ayrıntılı profiller oluşturuyor

Meta'nın AI aracı Muse viral bir hit oldu: milyonlarca kişi indirdi ve banka hesaplarını, mesajları veya sağlık verilerini bağladı. Uygulamadan çıkarılan dosyalar, aracın kullanıcısının çevresindeki kişiler hakkında bilgi nasıl topladığını gösteriyor.

Son günlerde birkaç araştırmacı Muse'in iç dosyalarını çıkardı ve aracın operasyonel talimatlarını yayınladı. Bağımsız AI güvenliği araştırmacısı Karan Joshi'ye göre talimatlar sıradan sohbet arayüzüyle çıkarıldı: Muse kendi dosyalarını kopyalamasını istiyor. Meta, bu dosyaların şeffaflık amacıyla erişilebilir olduğunu söylüyor.

Kullanıcının hayatındaki herkes için profil

Bir talimata göre, Muse saatte bir kez "kullanıcının hayatındaki herkes için sayfa" oluşturur: aile üyeleri, partnerler, arkadaşlar, iş arkadaşları, "meslektaşlar" ve onların takip ettiği kişiler hakkında veri toplar. Hafızaya dayalı öneriler sunar: ilişkiyi nasıl iyileştirir veya kahve içmeyi seven arkadaşını nereye götürürsün.

Sayfa başlangıçta "boş" ve zamanla dolar; Facts, History, The relationship, In common, Open threads ve Strengthening bölümleri olabilir. Model yalnızca erişilebilir "kanıtları" kullanır; uydurulan detay boş sayfadan daha kötüdür. Sayfada kişinin nerede yaşadığı, ne iş yaptığı, tekrarlanan konular (ev değişikliği, ortak birikim hedefi) ve "önemli tarihler" yazılır, örneğin doğum günleri. Strengthening ise arama nedeniyle unutulmaz bir tarihe kadar iyileştirme yolları önerir.

Bunu neden araştırmacıların ilgisini çekiyor

Joshı şöyle diyor: "Bana öyle geliyor ki: bu tüm istemlerden, yetenek verilerinden ve Muse'e aktarılan bilgiden, gerçek insanlarla ne tür ilişkileriniz olduğunu öğrenmek istiyorlar. Sizi bir arkadaşınız gibi tanımaya çalışıyorlar, ki dürüst olmak gerekirse bu oldukça rahatsız edici."

Sohbet botları sosyal bilgileri daha önce de kaydetmiş olsa da, Muse'in durumu Meta'nın geçmişi ve sosyal ağ üzerindeki geniş erişimi nedeniyle özeldir. Oxford AI Etik Enstitüsü'ne bağlı doçent Karisa Veli, bilgi akışının tek yönlü olduğunu söylüyor: "AI sistemlerine bizden çok daha fazla bilgi veriyoruz, onlar bize verdiğinden."

Meta'nın yanıtı ve koruma mekanizmaları

Demokrasi ve Teknoloji Merkezi'nin AI yönetişim laboratuvarı direktörü Miranda Bogeni, Muse'in rakiplere kıyasla ilişkilere ve kişisel temaslara daha fazla önem verdiğini söylüyor. Asistanlar ise kullanıcıları daha fazla veri paylaşmaya teşvik ediyor: "Bu araçlar kullanıcılardan aktif olarak tüm hayatlarını sisteme sokmalarını istiyor: e-posta, takvimler, finans kurumları, her şey, yardım faydalı olsun diye."

Meta'nın WIRED muhabiri Daniel Roberts, "Herhangi bir aracın faydalı olması ve hedeflerinize ulaşmanıza yardımcı olması için sizin ve ilişkide olduğunuz kişiler hakkında bağlama ihtiyacı var" dedi. Şirkete göre her kullanıcının diğer araçlar için erişilemez kendi sanal makinesi vardır; hafıza silme veya harici hizmetleri kapatma herhangi bir zamanda yapılabilir. Muse, satın almadan veya e-posta göndermeden önce onay ister ve bir denetim günlüğü tutar.