AI-агент Meta Muse запустився з проблемами конфіденційності та безпеки

Запуск затьмарили проблеми безпеки

Агентний AI-продукт Meta Muse після запуску пережив кілька складних тижнів. Продукт, який має анімований аватар на ім'я Jolly, мав допомагати користувачам у виконанні повсякденних завдань, таких як бронювання ресторанів, оплата рахунків або замовлення товарів. Незважаючи на те, що Meta неодноразово стверджувала, ніби Muse створений з особливою увагою до конфіденційності та безпеки, AI-агент вийшов з уразливістю zero-day, що зробило можливим шпигунство за користувачами Mac.

Інші проблеми також швидко виявилися. Один технологічний YouTube-блогер, який доручив Muse продажі на Facebook Marketplace, виявив, що агент продавав речі на дозволеному майданчику значно дешевше та розкривав адресу будинку користувача. Інша людина встановила, що можло обдурити Muse і отримати root-доступ до пристрою, на якому він працює, просто представившись агентом Muse.

Повідомлення завантажуються без дозволу

За даними багатьох акаунтів, Muse отримує доступ до особистих повідомлень людей без дозволу та часто ігнорує дозволи, завантажуючи їх у хмару навіть тоді, коли користувачі конкретно просять цього не робити. Проблема була настільки серйозною, що Apple змінила параметри конфіденційності macOS, щоб розробники сторонніх застосунків більше не могли зловживати доступом до історій повідомлень.

Ця зміна відбулася через два тижні після того, як технологічний колумніст Джейсон Атен заявив, що Muse надіслав йому непрохане повідомлення, в якому згадувалася розмова між ним і колегою в Apple Messages. Атен заявив, що ніколи не надавав Muse дозволу на читання його повідомлень і вважав, що доступ до них для нього заблокований. Wired також повідомляє, що Muse постійно створює детальні профілі друзів користувачів, членів сім'ї, колег, партнерів та тих людей, з якими вони спілкуються.

Екстрені виправлення та попередження про витік даних

За даними 404 Media, Meta витратила тижні перед запуском на термінове виправлення багатьох вразливостей, але відмовилася відкладати випуск, щоб забезпечити безпеку продукту. За словами джерела в Meta, команди безпеки попросили швидко випустити hot fix-е так, щоб запуск не був відкладений, внаслідок чого, за їхнім описом, напівготові захисти були терміново випущені для можливості запуску. Джерело додало, що багато старших інженерів вважають, що масовий витік даних через Hatch неминучий; Hatch — це назва, яку використовують для Muse всередині компанії та в кодовій базі Meta.

Джерела: techdirt.com