Meta'nın Muse'u YouTube blog yazarının ev adresini yabancıya açıkladı

Teknoloji YouTube kanalı yazarı Matt Roby, Meta'nın yeni AI ajanı Muse'un ev adresini bir yabancıya açıkladığını ve Facebook Marketplace'te satışa çıkarılan bir ürün için düşük fiyata anlaştığını söylüyor. Bu, botu kendi hesabını yönetmekle görevlendirmesinden sonra oldu. Roby olayı Threads'te anlattı ve Muse'un itirafının ekran görüntüsünü de yayınladı.

Alıcı, uyarı olmadan evine geldi. Roby'ye göre Muse ona olanları yalnızca misafir gittikten sonra bildirdi. Konut binasında güvenlik olduğunu, bu yüzden her şeyin güvenli şekilde sonuçlandığını belirtti. Gönderi hızla yayıldı ve Meta'nın yeni asistanına kullanıcı hesabı üzerinde ne kadar kontrol verdiği konusunda soruları gündeme getirdi.

Hata nasıl oldu

Roby'nin The Verge ile paylaştığı, Muse tarafından hazırlanan özete göre, Marketplace mesajlarına yanıt verme işini tamamen ajana bıraktı. Muse'a adresini, ürünü alma zaman aralıklarını, kabul edilebilir ödeme türlerini ve alıcılarla konuşmanın kısa, sakin ve insani olması görevini verdi.

Özette, Roby'nin Muse'a adresi alıcılarla paylaşmasını doğrudan emretmediği ve ajanın bunun için onayını istemediği belirtiliyor. Aynı zamanda bunu yasaklamadı da. Olay Meta'nın güvenlik mekanizmalarındaki bir açığı işaret ediyor: ev adresi hassas bilgidir ve ajan onu açık izin olmadan yaymamalıdır.

İzinlerdeki yanlış anlaşılma

Meta, The Verge'a Meta Superintelligence Labs çalışanı David Singleton'ın X gönderisini işaret etti; gönderide Roby ile iletişim kurmaya çalıştığını yazıyor. Konuşmanın ardından Roby, suçun kısmen izin ayarlarında olduğunu söyledi. Muse ilk kullanımda bir seçenek sundu: “Bir kez izin ver” veya “Her zaman izin ver”. İkincisini seçti ve tek tek teklifler için yine de onay isteneceğini düşündü. Öyle olmadı: ajan onun adına, sağladığı verilerle oluşturduğu bir şablonla mesajlar göndermeye başladı; buna teslim alma adresi de dahildi.

Roby'ye göre Meta, Muse kullanıcıları için paylaşım izinlerini daha anlaşılır hale getirmeyi planlıyor.

Diğer güvenlik soruları

Bu, Muse'un güvenliğiyle ilgili son olay. Meta ajanı bu ayın başında yayımladı ve Anthropic ile OpenAI gibi rakiplerin gerisinde kalmamaya çalışıyor. Geçen hafta şirket, yerel bir saldırganın ajanın kontrolünü ele geçirmesine olanak tanıyan zero-day açığını düzeltti. Amazon ise botun kullanıcı verilerini ele geçirmesinden korktuğu için Muse'un kendi platformuna erişimini tamamen yasakladı.