Məxfi AI: müəssisə məlumatlarını və model çəkilərini birlikdə qorumaq

Müəssisələr ən həssas məlumatları üzərində AI işlətmək istəyir, modelləri hazırlayan şirkətlər isə çəkilərini verməkdən imtina edir. Qarşılıqlı nəzarət tələbi dalan yaradıb və məxfi AI bunu aşmağa çalışır.

İkitərəfli etimad problemi

Korporativ AI-ın təmin etməli olduğu iki tərəf var. Təşkilatlar həssas məlumatları öz nəzarətində saxlamalı, model hazırlayanlar isə illərlə araşdırmaya sərmayəni təmsil edən çəkiləri və proqram təminatını qorumalıdır.

VAST Data-nın texnologiya direktoru və həmtəsisçisi Alon Horev The New Stack-ə deyir ki, problem AI müştəri məlumatını emal etdikdə daha kəskindir. “Bu gün modeldən söhbəti ört-basdır etməyi və ya mətndən PII-ni silməyi xahiş etsəniz belə, bunun həqiqətən baş verdiyinə 100% əmin olmaq çətindir”, deyir o.

Onun sözlərinə görə, ən güclü modellər getdikcə daha çox SaaS xidməti kimi təqdim olunur. Lakin məlumatı WAN üzərindən göndərmək onu daha çox sistemə və operatora verir; təşkilatlar provayderin vədinə güvənmək istəməyə bilər. Buna görə məlumatın bir hissəsi yerində qalır.

Məxfi hesablamalar necə işləyir

Saxlama və ötürmə zamanı şifrələmə məlumatı qoruyur. Məxfi hesablamalar (confidential computing) bu qorunmanı emal mühitinə də yayır: aparat səviyyəsində təcrid, məlumatın və model çəkilərinin təsdiqlənmiş iş yükünə verilənə qədər şifrəli qaldığı qorunan anklav yaradır.

Kriptoqrafik attestasiya açarlar verilməzdən əvvəl giriş istəyən aparatı, virtual maşını və proqram təminatını yoxlayır. Hazırlayan modelini konkret məxfi VM-in açıq açarı ilə şifrələyə bilər; qorunan yaddaşda onu yalnız həmin VM-in şəxsi açarı aça bilər. Müştəri modeldən istifadə edir, çəkilərə isə çıxış əldə etmir.

Açarlara müstəqil nəzarət tərəfləri ayırır: təşkilat öz məlumatının, hazırlayan öz modelinin açarlarını saxlayır və iş yükü işləyərkən infrastruktur operatoru iki açar dəstinin heç birinə nəzarət etmir.

VAST DataEnclave və ekosistem

Sentyabrın 22-də buraxılan DataEnclave VAST AI Operating System-in imkanıdır. O, modeli, tətbiq qatını və məlumat platformasını müştərinin nəzarət etdiyi şəraitdə birləşdirir; provayder intellektual mülkiyyəti vermədən proqram təminatını təqdim edir.

Horevin sözlərinə görə, şirkət Cohere, Deepgram, Factory, Fundamental və TwelveLabs kimi model hazırlayanlarla, həmçinin NVIDIA, CrowdStrike, Fortanix, Nscale, Cisco və Supermicro kimi provayderlərlə işləyir. Məxfi AI üçün qorunan GPU kifayət etmir.

Xərc, əməliyyatlar və agentlər

Müştərinin nəzarətindəki infrastruktur xərc müzakirəsini də dəyişir, lakin AI-ı avtomatik ucuzlaşdırmır. “Agentli AI dünyası çox sürətlə irəliləyir və agentin nəyi görə və edə biləcəyini məhdudlaşdırmalıyıq”, deyir Horev. Komandalara vahid görünüş, sandbox-lar və müşahidə lazımdır.