Notion: інцидент Fireworks AI міг відкрити неприв'язані чати Notion AI у менш ніж 1% робочих просторів

Notion повідомила, що інцидент безпеки у постачальника Fireworks AI міг зачепити менш ніж 1% робочих просторів Notion. Компанія каже, що деякі неприв'язані сесії чатів Notion AI могли бути відкриті, тоді як інші дані робочого простору не зачеплені. Notion звернулася до власників зачеплених робочих просторів і каже, що незачеплені робочі простори не потребують дій.

Що могло бути відкрито

Notion описує відкритий матеріал як неприв'язані сесії чатів з Notion AI. Ці чати не були позначені тим, хто їх написав або з якого робочого простору вони походять, а їхні транскрипти не містили результатів викликів інструментів. Окрім слів у транскрипті, дані не містили інформації, яка могла б конкретно ідентифікувати робочий простір, користувача або компанію. За повідомленням, інші дані зсередини робочого простору не зачеплені.

Як відреагував Notion

Notion каже, що дізналася від Fireworks про можливі інциденти раніше цього місяця і з міркувань обережності відключила всі з'єднання з системами Fireworks. 6 листопада Fireworks повідомив Notion, що зловмисники могли отримати доступ до можливих даних клієнтів, і Notion тоді розпочала ще одне внутрішнє розслідування. 8 листопада Fireworks підтвердив новий набір даних, який Notion проаналізувала і виявила в ньому неприв'язані транскрипти чатів Notion AI, що використовувалися для функції Insights. Станом на 3 листопада Notion каже, що від'єднала свої системи від Fireworks, видалила всі дані в системі Fireworks, припинила надсилання всіх даних і трафіку до Fireworks і зупинила всі навчальні запуски. Функцію Insights вимкнено, а Notion більше не обслуговує моделі з відкритими вагами через Fireworks.

Що можуть зробити зачеплені власники

Власники зачеплених робочих просторів можуть переглянути зачеплені дані, перейшовши на бічну панель робочого простору, вибравши параметр довідки та відкривши Security incident review. Перегляд треба відкривати у настільному браузері за допомогою останньої версії Notion, а дані недоступні на мобільних пристроях. Власники робочих просторів Enterprise можуть отримати доступ до CSV зачеплених даних робочого простору та анотованого CSV з додатковими метаданими, наприклад користувача, пов'язаного з кожним транскриптом чату. Notion каже, що ці додані анотації та метадані не були відкриті в межах інциденту, а ресурси доступні лише якщо у робочому просторі є керовані учасники. Власники інших типів планів можуть отримати сторінку з посиланням для спільного доступу з зачепленими учасниками, що дозволяє кожному учаснику переглянути CSV лише зі своїми зачепленими даними. Notion рекомендує ставитися до даних так, ніби вони були відкриті, і змінити паролі, ключі API або інші облікові дані, якщо їх було вставлено в Notion AI протягом відповідного періоду.

Інші способи використання Fireworks у Notion

Notion каже, що раніше використовувала Fireworks для завдань класифікації, які підтримували функцію Insights, та як загального постачальника інференсу для обслуговування моделей з відкритими вагами. Fireworks AI описано як одну з найбільш використовуваних глобальних платформ інфраструктури ШІ, що обслуговує десятки тисяч клієнтів і використовується сотнями тисяч розробників. Notion також каже, що клієнти в Learning and Early Access Program добровільно надають дані для тестування нових технологій ШІ і що раніше вона використовувала добровільно надані дані для експериментів з навчання моделей для конкретних завдань на Fireworks.

Раніше про це: Хакери проникли у Fireworks AI через хмарного провайдера третьої сторони і отримали дані користувачів

Джерела: notion.com