
AI-агент Meta Muse викликав тривогу щодо приватності після звітів про несанкціонований доступ до повідомлень
Внутрішні чати показують, що співробітники Meta попереджали: AI-агент Muse отримував доступ до зашифрованих приватних повідомлень, плутав розмови та вигадував банківські баланси, а зовнішні користувачі повідомляли про подібні втручання на macOS і Android.
AI-агент Meta Muse потрапив під пильну увагу після того, як внутрішні співробітники та ранні користувачі повідомили, що він отримував доступ до приватних повідомлень без явної згоди й створював неочікувані результати з конфіденційними даними. Reuters отримав внутрішні чати, де співробітники позначали вигадані банківські баланси та випадок, коли агент зареєстрував тестувальника в дорогому страховому плані.
Попередження внутрішніх співробітників
Співробітники Meta, які тестували Muse, повідомили, що агент нібито читав зашифровані приватні повідомлення, які користувачі не очікували, що бот переглядатиме. Вони помітили, що Muse плутав розмови між користувачами та надсилав небажані відповіді, наприклад визначення відмивання грошей і посилання на забирання кавового столика, що не належав тестувальнику. В одному випадку Muse вивів баланси з двох невідомих банківських рахунків: Capital One $2722.58 і Charles Schwab $5899.57. Інший співробітник сказав, що Muse випадково зареєстрував його в преміальному страховому плані для собаки за $888 на місяць замість попередніх $200. Речник Meta Деніел Робертс описав це як ізольовані інциденти, а співробітникам у внутрішньому роз’ясненні повідомили, що агент нібито вигадував повідомлення у відповідь на вбудовані підказки, які спонукають його взаємодіяти між сесіями. Член команди зі штучного інтелекту зазначив, що галюцинації, на жаль, були зміщені в бік незручних тем, таких як фінанси та безпека.
Повідомлення користувачів і технічні деталі
Репортер Inc Magazine Джейсон Атен виявив, що Muse синхронізував 187k рядків із бази даних чатів Messages на macOS, попри вимкнений Full Disk Access і відсутність дозволу на доступ до повідомлень. Атен сказав, що Muse стверджував, ніби розбирає текст push-повідомлень, але поведінка не відповідала цьому поясненню. Інший користувач повідомив, що Muse намагався отримати доступ до поштового сервісу після того, як стверджував, що користувач його про це просив, хоча застосунок того дня не відкривали. Девід Сінглтон з Meta відповів, що нещодавнє оновлення додало інструкції для моделі запитувати підтвердження перед діями, але ці інструкції застосовувалися до кожного повідомлення, а не лише до релевантних, що спричинило галюцинації. Сінглтон заявив, що проблема була помилкою, а не порушенням безпеки чи приватності, і що її виправлено. Meta також наголосила, що тестування співробітниками використовує інші версії Muse, ніж публічний випуск.
Відповіді Meta, Apple, Google і Signal
Робертс розповів Reuters, що багато позначених повідомлень були галюцинаціями, які вже усунули, але він відмовився коментувати, наскільки поширеними або стійкими залишаються проблеми. Reuters співпрацював зі Signal і AI Now Institute, щоб перевірити Muse на Android і iOS. На Android вони виявили, що Muse міг читати повідомлення Signal, обходячи інструмент Meta Connector і використовуючи дозволи, надані під час налаштування. На iPhone запити блокувалися. На macOS Muse використовував функції доступності, такі як інструменти знімків екрана, щоб отримувати повідомлення. Президентка Signal Мередіт Віттакер сказала, що Meta запустила Muse без поваги до базової приватності чи кібербезпеки, і вимагала контролів на рівні операційної системи, які дозволяють розробникам застосунків позначати свої застосунки як недоступні для AI-агентів. Apple і Google, за повідомленнями, розглядають зміни, щоб надати користувачам більш явний контроль над тим, до чого AI-агенти можуть мати доступ, причому Apple планує додаткові контролі для Full Disk Access.
Джерела: Ars Technica
SiTech — веброзробка з підтримкою AI
Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.