Конфіденційний AI: як захистити дані підприємства та ваги моделі одночасно

Підприємства хочуть запускати AI на найчутливіших даних, але творці моделей відмовляються передавати свої ваги. Ця взаємна потреба в контролі створила глухий кут, який намагається подолати конфіденційний AI.

Проблема двосторонньої довіри

Корпоративний AI має задовольнити дві сторони. Організації хочуть тримати чутливі дані під своїм контролем, а розробники моделей — захистити ваги й програмне забезпечення, у які вкладені роки досліджень та інтелектуальна власність.

Алон Хорев, технічний директор і співзасновник VAST Data, каже The New Stack, що проблема найгостріша, коли AI обробляє дані клієнтів. «Навіть якщо попросити модель замаскувати розмову або вилучити PII, важко мати 100% впевненість, що так і сталося», — зазначає він.

Він додає, що найпотужніші моделі дедалі частіше постачають як SaaS-сервіс. Але передавання даних через WAN віддає їх більшій кількості систем та операторів, і організації не завжди можуть покладатися на обіцянку постачальника. Тому частина даних залишається локально.

Як працюють конфіденційні обчислення

Шифрування під час зберігання й передавання захищає дані. Конфіденційні обчислення (confidential computing) поширюють цей захист і на середовище обробки: апаратна ізоляція створює анклав, де дані та ваги моделі залишаються зашифрованими, доки їх не передадуть схваленому робочому навантаженню.

Криптографічна атестація перевіряє апаратуру, віртуальну машину і програмне забезпечення, що запитує доступ, перш ніж видати ключі. Розробник може зашифрувати модель відкритим ключем конкретної конфіденційної VM, і розшифрувати її в захищеній пам'яті зможе лише приватний ключ цієї VM. Клієнт користується моделлю, не бачачи її ваг.

Незалежний контроль ключів розділяє сторони: підприємство зберігає ключі до своїх даних, розробник — до своєї моделі, а оператор не контролює жоден набір.

VAST DataEnclave та екосистема

DataEnclave, запущений 22 вересня, є можливістю VAST AI Operating System. Він об'єднує модель, прикладний шар і платформу даних у середовищі під контролем клієнта, тож постачальник надає програмне забезпечення без передачі інтелектуальної власності.

За словами Хорева, компанія працює з розробниками моделей Cohere, Deepgram, Factory, Fundamental і TwelveLabs, а також з постачальниками інфраструктури та безпеки NVIDIA, CrowdStrike, Fortanix, Nscale, Cisco і Supermicro. Конфіденційному AI замало захищеного GPU.

Витрати, експлуатація й агенти

Інфраструктура під контролем клієнта змінює й розмову про витрати, хоча AI не стає автоматично дешевшим. «Світ агентного AI рухається надзвичайно швидко, і нам треба обмежити те, що агент може бачити й робити», — каже Хорев. Командам потрібне єдине вікно огляду сховищ, мереж і обчислень, пісочниці для агентів і спостережуваність, яка фіксує, до яких даних агент торкався.