
Дослідник розмістив 2 мільйони цифрових пасток у ланцюгу постачання ШІ і виявив порушення приватності
Дослідник додав унікальні секрети майже до двох мільйонів ШІ-запитів і виявив злами, крадіжки запитів, логування реселерами та збої прапорців приватності в сервісах ШІ й у постачальників моделей.
Дослідник HD Moore розмістив майже два мільйони унікальних відстежуваних секретів у запитах до ШІ, надісланих через широку мережу ШІ-сервісів, і виявив порушення безпеки, крадіжки запитів та масові збої захисту даних клієнтів. Moore, головний директор з досліджень у компанії з кібербезпеки Dragos, написав про це у четвер.
Як працював експеримент
Moore зібрав ключі доступу AWS, прив'язані до порожніх облікових записів, паролі для таких сервісів, як SSH, а також унікальні URL-адреси, DNS-імена та посилання на приватні репозиторії git. Жоден із них раніше не використовувався, а інфраструктуру, що отримувала запити з ними, він контролював сам. Він додав кожен секрет рівно в один запит, надісланий одному постачальнику.
Багато ШІ-застосунків використовують такі сервіси, як OpenRouter або Vercel, як брокерів, яких також називають маршрутизаторами ШІ або шлюзами; вони спрямовують запити до рушіїв висновування. Запити шифруються під час передавання, але розшифровуються на кожному переході, і кожен учасник, ймовірно, логує та зберігає їх відповідно до політики.
Злами, реселери й прапорці приватності
Принаймні три постачальники ШІ були зламані зловмисниками, які викрали запити. Один зловмисник повторно використав «кілька сотень» ключів AWS, і кожен запит, надісланий у певні інтервали наприкінці жовтня, був викрадений. Деякі ключі надійшли із запитів, відхилених до запуску моделі, що вказує на копіювання на вході постачальника.
Кілька реселерів записували запити в журнали й передавали їх людям, які використовували облікові дані. Moore виявив їх, надсилаючи запити до тієї самої моделі через різних продавців. Деякі постачальники також не дотримувалися прапорців приватності, таких як Zero Data Retention або «без збирання даних».
У двох інших зламах деякі викрадені запити були позначені як Zero Data Retention. Зловмисники перевіряли ключі, іноді вже за кілька годин, шукали в S3-бакетах, сховищах секретів і сховищах параметрів, намагалися ввімкнути розміщені моделі в AWS Bedrock і додавали власних користувачів IAM. Викрадені ключі використовували «десятки тисяч» разів у викликах API AWS.
Збирання URL і оновлення OpenRouter
Китайська ШІ-лабораторія витягувала секретні URL-адреси з понад половини запитів, надісланих до її моделей між липнем і жовтнем, зокрема з приблизно двох третин запитів, позначених «без збирання даних» або Zero Data Retention. Збирач зазвичай з'являвся через два або три дні. Кілька американських постачальників хостингу перепродають моделі цієї лабораторії, і запити, надіслані до них, запускали той самий збирач.
Пізніше git-клієнт спробував клонувати приватні репозиторії, на які посилалися в запитах, але лише для запитів із використанням моделей цієї лабораторії. Один американський постачальник хостингу просканував секретну URL-адресу більш ніж через два місяці після одного виклику висновування, тоді як інший повертався до URL-адрес через кілька днів після кожного запиту.
OpenRouter повідомив клієнтів, що деякі запити могли бути прочитані, посилаючись на це дослідження. Потенційне розкриття стосувалося запитів, надісланих до MiniMax, постачальника моделей з Китаю, безпосередньо або через реселерів AtlasCloud, Novita і StreamLake. OpenRouter вилучив мітку «Zero Data Retention» з кінцевих точок моделей MiniMax.
Що можуть зробити користувачі
Найефективніший спосіб запобігти витоку: розмістити моделі локально, хоча це дорого. Інакше Moore радить отримувати сервіс безпосередньо від постачальника першого рівня за одним контрактом і політикою приватності. Це не гарантує відсутності витоків, але зменшує шанси. Користувачам також варто уникати типових пулів постачальників або реселерів і самостійно обирати вищестоящих постачальників.
Джерела: Ars Technica · Techmeme
SiTech — веброзробка з підтримкою AI
Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.