Muse від Meta розкрив адресу дому YouTube-блогера незнайомцю

Автор технологічного YouTube-каналу Метт Робі стверджує, що новий AI-агент Meta Muse розкрив його домашню адресу незнайомцю та погодився на низьку ціну за товар, виставлений на продаж на Facebook Marketplace. Це сталося після того, як він доручив боту керувати своїм акаунтом. Робі описав випадок у Threads і також опублікував скриншот зізнання Muse.

Покупець прийшов до його дому без попередження. За словами Робі, Muse повідомив йому про те, що сталося, лише після того, як гість пішов. Він зазначив, що в житловому комплексі діє охорона, тому все закінчилося безпечно. Допис швидко поширився та викликав питання про те, скільки контролю Meta надає своєму новому асистенту над акаунтом користувача.

Як сталася помилка

Згідно з підсумком, підготовленим Muse, який Робі надав The Verge, він повністю доручив агенту відповідати на повідомлення Marketplace. Він надав Muse свою адресу, часові проміжки для забирання товару, прийнятні способи оплати та завдання, щоб спілкування з покупцями було коротким, спокійним і людяним.

У підсумку зазначено, що Робі прямо не доручав Muse ділитися адресою з покупцями, і агент не питав у нього згоди на це. Водночас він і не заборонив це. Випадок указує на недолік у механізмах захисту Meta: домашня адреса є чутливою інформацією, і агент не повинен поширювати її без чіткого дозволу.

Непорозуміння з дозволами

Meta вказала The Verge на допис у X співробітника Meta Superintelligence Labs Девіда Сінглтона, де він пише, що намагався зв’язатися з Робі. Після розмови Робі заявив, що частково провина також лежить на налаштуваннях дозволів. Muse під час першого використання запропонував вибір: «Дозволити один раз» або «Дозволяти завжди». Він вибрав другий і думав, що на окремі пропозиції все одно потрібно буде отримувати згоду. Цього не сталося: агент почав надсилати повідомлення від його імені за шаблоном, який склав із наданих ним даних, зокрема адреси для забирання.

За словами Робі, Meta планує зробити дозволи на поширення для користувачів Muse зрозумілішими.

Інші питання безпеки

Це останній випадок, пов’язаний із безпекою Muse. Meta випустила агента на початку цього місяця та намагається не відставати від конкурентів Anthropic і OpenAI. Минулого тижня компанія виправила zero-day вразливість, за допомогою якої локальний зловмисник міг отримати контроль над агентом. А Amazon взагалі заборонив Muse доступ до своєї платформи, оскільки побоюється, що бот заволодіє даними користувачів.