Meta випустила патч для Muse, який дозволяв перехопити контроль над AI-агентом

Meta випустила термінове оновлення (hotfix) для застосунку Muse на macOS після того, як дослідник у сфері безпеки Патрік Вордл виявив уразливість нульового дня, яка дозволяла зловмиснику взяти під контроль AI-агента. За даними Ars Technica, вада спиралася на недокументоване налаштування Muse, яке давало коду, що вже виконується на пристрої, змогу перенаправити обробку транскрипції із серверів Meta на вказану зловмисником адресу — і таким чином отримати доступ до акаунта жертви в Muse.

Що міг робити експлойт

Проблему спричинили кілька проєктних рішень: диктування в Muse відбувається в хмарі, а не на пристрої, а будь-який застосунок міг змінювати всі недокументовані налаштування Muse. Вордл створив демонстраційні атаки, за допомогою яких через агента фотографував і записував шкідливі файли на диск — у багатьох випадках без жодного повідомлення користувачеві.

«Ми можемо маніпулювати агентом і використовувати його привілеї для чого завгодно. Тобто замість того, щоб писати всеохопний macOS-зловмисник для крадіжки даних, ми можемо просто скористатися самим AI-асистентом», — сказав Вордл Ars Technica. За його словами, Meta «мала б думати про безпеку від самого початку, а вона цього не робить».

Meta: локальна атака з низьким практичним ризиком

Meta виправила ваду протягом кількох годин після публікації Ars Technica і заявила, що реальні ризики мінімальні, адже експлойт вимагав локального доступу до пристрою користувача. «Це була атака з локальним підвищенням привілеїв, а не віддалений експлойт. Щоб завдати шкоди, потрібен шкідливий код, який уже працює на машині користувача під його обліковим записом, тому практичний ризик для користувачів застосунку Muse для Mac був досить низьким», — написав у X Девід Сінглтон з Meta Superintelligence Labs. «Попри це, ми випустили термінове оновлення застосунку, щоб усунути проблему».

Ширший контекст

Виправлення з'явилося тоді, коли Muse вже перебуває під пильною увагою. Нещодавно Amazon заблокував агенту доступ до своєї торговельної платформи, заявивши, що Meta ніколи не отримувала на це дозволу. Попри це, запуск для Meta виявився успішним: оцінювані завантаження мобільного застосунку Muse за перші 12 днів, за повідомленнями, перевищили 12-денний старт ChatGPT у США та Канаді, а акції Meta у понеділок зросли на 11 відсотків.