Meta: AI-агент Muse відкрито генерує сексуальний контент, а компанія стверджує, що це дозволено
Новий AI-агент Muse від Meta за запитом відкрито створює сексуальний контент; компанія каже, що спілкування дорослих дозволено за її правилами. WIRED перевірив застосунок і виявив, що він видає детальні відповіді з рейтингом X.
Meta відкрито дозволяє сексуальні розмови з Muse
Новий AI-агент Muse від Meta призначений для автоматизації щоденних онлайн-завдань, наприклад відповідей на електронні листи та управління календарями, але тест WIRED виявив, що на запит він також генерує графічний сексуальний контент. За три тижні після випуску застосунок завантажили мільйони користувачів.
Коли його запитали, чи може він «секстити», Muse із захопленням заохотив цю спробу, а потім із загальних підказок згенерував відверто сексуальний матеріал, зокрема детальні описи сексуальних актів. Представник Meta Деніел Робертс сказав WIRED, що Muse — це застосунок для людей віком від 18 років і старше, а спілкування для дорослих він дозволяє, якщо користувачі обирають це; він працює в приватній і безпечній віртуальній машині, доступній лише для них. «Muse створено для того, щоб полегшити людям справи, і він не блокує законну поведінку дорослих», — сказав Робертс.
Системний промпт прямо дозволяє контент для дорослих
Meta вказала на системний промпт для Muse, у якому сказано, що дорослі мають автономію щодо власної сексуальності, а сексуальне самовираження є звичною частиною життя дорослої людини. Інструкція також зобов’язує агента зберігати рівень інтенсивності, обраний користувачем.
Захисники прав споживачів відреагували зі стурбованістю. Бен Вінтерс, директор напряму ШІ та конфіденційності в Американській федерації споживачів, назвав це рішення проявом безтурботності Meta щодо свого фірмового продукту й додав, що це відповідає давній політиці компанії, за якою залучення користувачів ставиться вище за безпеку. Келі Шрьодер, старший юридичний радник Центру інформації про електронну приватність, застерегла, що відверто сексуальні чати роблять облікові записи мішенями для хакерів, і порівняла ситуацію з пороховою бочкою, якщо компрометувальні розмови використовуватимуть для приниження або вимагання.
Інші AI-агенти відмовляються від подібних запитів
Поведінка Muse відрізняється від конкурентних агентів. Новий агент Dots від OpenAI відмовився від подібних відверто сексуальних запитів, а Grok Bot від xAI також відмовився і перевів розмову до виконання завдань. Академічні дослідження показують, що спілкування на теми для дорослих підтримує залученість користувачів до інструментів ШІ, що експерти згадали як можливий мотив підходу Meta.
SiTech — веброзробка з підтримкою AI
Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.