Muse створює детальні профілі кожного друга та члена сім'ї

AI-агент Meta Muse став вірусним хітом: мільйони людей завантажили його та підключили банківські рахунки, повідомлення чи медичні дані. Файли, витягнуті з додатку, показують, як агент збирає інформацію про людей навколо користувача.

У останні дні кілька дослідників витягли внутрішні файли Muse та опублікували операційні інструкції агента. За словами незалежного дослідника безпеки AI Карана Джоші, інструкції було витягнуто через звичайний інтерфейс чату: Muse вимагав копіювати власні файли. Meta заявляє, що ці файли були доступні заради прозорості.

Профіль для кожної людини, яка є в житті користувача

Згідно з однією з інструкцій, Muse раз на годину створює «сторінку для кожної людини, яка є в житті користувача»: збирає дані про членів сім'ї, партнерів, друзів, колег, «співробітників» та тих, кого він стежить. На основі пам'яті дає поради: як покращити стосунки або куди відвести друга-кавомана на бранч.

Сторінка спочатку «порожня» і поступово заповнюється; в ній можуть бути секції Facts, History, The relationship, In common, Open threads та Strengthening. Модель використовує лише доступні «докази»; вигадані деталі гірші за порожню сторінку. На сторінці записується, де живе людина, чим займається, повторювані теми (зміна квартири, мета спільних заощаджень) та «важливі дати», наприклад дні народження. Strengthening же пропонує способи покращити стосунки — від причини для дзвінка до пам'ятної дати.

Чому це хвилює дослідників

«Мені здається так: з усіх цих промптів, наборів даних навичок та тієї інформації, яку подають Muse, вони хочуть дізнатися, які у вас стосунки з реальними людьми. Вони намагаються знати вас як друг, що, чесно кажучи, досить неприємно», — каже Джоші.

Чат-боти й раніше записували соціальну інформацію, однак випадок Muse особливий через історію Meta та широкий доступ до соціальної мережі. Асоційований професор Інституту етики AI Оксфордського університету Каріссі Веліссі заявляє, що потік інформації односторонній: «Ми надаємо системам AI набагато більше інформації про себе, ніж вони надають нам».

Відповідь Meta та механізми захисту

Директор лабораторії управління AI Центру демократії та технологій Міранда Боген заявляє, що Muse приділяє більше уваги стосункам та особистим контактам, ніж конкуренти. Асистенти ж спонукають користувачів ділитися більшою кількістю даних: «Ці інструменти активно просять користувачів помістити все життя в систему: електронну пошту, календарі, фінансові установи, все, щоб допомога була корисною».

«Для будь-якого агента, щоб він був корисним і допомагав досягати цілей, потрібен контекст про вас та про тих, з ким ви спілкуєтеся», — повідомив WIRED представник Meta Данієл Робертс. За словами компанії, кожен користувач має власну віртуальну машину, недоступну іншим агентам; видалення пам'яті або вимкнення зовнішніх сервісів можливе будь-коли. Muse вимагає підтвердження перед покупкою або відправленням електронного листа та веде журнал аудиту.