Meta призупиняє поширення чатів Muse після того, як дослідники виявили публічний доступ до розмов із ШІ

Meta припиняє обмін посиланнями Muse

Meta призупинила функцію в своєму універсальному ШІ-асистенті Muse, який компанія випустила минулого місяця, у вересні. Функція дозволяє користувачам ділитися розмовами через вебпосилання, і її призупинили після того, як дослідники безпеки виявили, що адреси для обміну були публічно доступними в інтернеті. Цей висновок, про який першою повідомила Ars Technica, базується на звіті, опублікованому цього тижня компанією з безпеки Claroc.

«Люди мають можливість ділитися певними артефактами Muse, що створює сторінку, доступну тим, хто має посилання», заявила представниця Muse Трейсі Клейтон в електронному листі для The Verge. «Однак ми призупинили цю функціональність, поки розглядаємо цей звіт і обмірковуємо зміни в тому, як можна виявляти ці посилання».

Claroc зазначила, що після зміни з боку Meta більше не могла відкрити частину посилань, до яких раніше мала доступ.

Тисячі посилань виявлено у публічних записах DNS

За даними Claroc, дослідники знайшли понад 6 800 посилань для обміну Muse, шукаючи у публічних записах DNS, які слугують каталогом для вебтрафіку. Компанія заявила, що змогла переглянути сотні розмов у Muse цим способом.

Claroc пояснила, що те, як Meta спроєктувала посилання, зробило їх легкодоступними для пошуку. Вебадреса кожного обміну складається з назви обміну, короткої фрази, що описує розмову, та випадкового ідентифікатора. Ім'я хоста часто викривало вміст сторінки до її відкриття, і оскільки посилання містить ту саму назву та ідентифікатор, ім'я хоста, отримане з DNS, можна використати для відновлення повного посилання.

Викрито конфіденційні розмови

Серед розмов, до яких Claroc отримала доступ, були огляд доходів маркетингової компанії, заява власника малого бізнесу на кредит, повідомлення банку про шахрайство з частковими даними рахунку, річний календар працівників одного робочого місця, нотатки до дзвінка кандидата на посаду з лабораторією ШІ та інші внутрішні корпоративні документи.

Генеральний директор Meta Марк Цукерберг минулого місяця заявив, що Muse «створений з нуля для конфіденційності та безпеки». Цей інцидент не перший раз, коли функція обміну на основі ШІ робила чати більш публічними, ніж передбачалося. Розмови, поширені через ChatGPT від OpenAI, Claude від Anthropic та Grok від xAI, також потрапляли в Google Search.

Джерела: The Verge · Ars Technica · Engadget