კონფიდენციალური AI: როგორ იცავს ახალი არქიტექტურა მონაცემებსა და მოდელს

კომპანიებს მგრძნობიარე მონაცემებზე AI-ის გაშვება სურთ, მოდელების შემქმნელები კი წონებს არ გადასცემენ. კონტროლის ორმხრივი მოთხოვნა ჩიხი შექმნა, რომლის გადალახვასაც კონფიდენციალური AI ცდილობს.

ორმხრივი ნდობის პრობლემა

საწარმოო AI-მ ორი მხარე უნდა დააკმაყოფილოს. ორგანიზაციებს მგრძნობიარე მონაცემები კონტროლში უნდა შეინარჩუნონ, მოდელების შემქმნელებს კი წონები და პროგრამული უზრუნველყოფა, რაც კვლევასა და ინტელექტუალურ საკუთრებაში ჩადებული ინვესტიციაა.

VAST Data-ს CTO და თანადამფუძნებელი Alon Horev The New Stack-თან აღნიშნავს, რომ პრობლემა განსაკუთრებით მწვავეა, როცა AI მომხმარებლის ინფორმაციას ამუშავებს. „დღეს მოდელს რომ სთხოვო საუბრის დაფარვა ან PII-ის წაშლა, ძნელია 100% დარწმუნება, რომ ასეც მოხდა“, ამბობს ის.

ის აღნიშნავს, რომ უძლიერესი მოდელები სულ უფრო ხშირად SaaS სერვისად მიეწოდება. WAN-ზე გადაცემული მონაცემები მეტ სისტემასა და ოპერატორთან აღმოჩნდება, კომპანიები კი იშვიათად ენდობიან მომწოდებლის დაპირებას, რომ ინფორმაცია არ შეინახება. ამიტომ მონაცემთა ნაწილი ადგილობრივ რჩება.

როგორ მუშაობს კონფიდენციალური გამოთვლები

დაშიფვრა შენახვისა და გადაცემის დროს მონაცემებს იცავს, კონფიდენციალური გამოთვლები (confidential computing) კი დაცვას დამუშავების გარემოშიც ავრცელებს: აპარატული იზოლაცია ქმნის გარემოს, სადაც მონაცემები და მოდელის წონები დამტკიცებულ სამუშაო დატვირთვამდე დაშიფრული რჩება.

კრიპტოგრაფიული ატესტაცია ამოწმებს აპარატურას, ვირტუალურ მანქანას, პროგრამულ უზრუნველყოფასა და კონფიგურაციას, სანამ გასაღებები გაიცემა. შემქმნელს მოდელი კონკრეტული კონფიდენციალური VM-ის საჯარო გასაღებით შეუძლია დაშიფროს, გაშიფვრა კი მხოლოდ ამ VM-ის კერძო გასაღებს შეუძლია. მომხმარებელი მოდელს იყენებს, წონებს ვერ ხედავს.

დამოუკიდებელი გასაღების კონტროლი მხარეებს ჰყოფს: საწარმოს მონაცემების გასაღები რჩება, შემქმნელს მოდელის, ოპერატორს კი არც ერთი ეკუთვნის.

VAST DataEnclave და ეკოსისტემა

22 სექტემბერს გაშვებული DataEnclave VAST AI Operating System-ის შესაძლებლობაა; ის მოდელს, აპლიკაციის ფენასა და მონაცემთა პლატფორმას მომხმარებლის მიერ კონტროლირებად გარემოში აერთიანებს.

Horev-ის თქმით, VAST Data მუშაობს მოდელების შემქმნელებთან Cohere, Deepgram, Factory, Fundamental და TwelveLabs, ასევე მომწოდებლებთან NVIDIA, CrowdStrike, Fortanix, Nscale, Cisco და Supermicro. კონფიდენციალურ AI-ს დაცული GPU არ კმარა: მოდელები, აპლიკაციები, აპარატურა და ინფრასტრუქტურა ერთად უნდა მუშაობდეს.

ხარჯები, ექსპლუატაცია და აგენტები

კომპანიის მიერ კონტროლირებადი ინფრასტრუქტურა ხარჯებსაც ცვლის, თუმცა AI ავტომატურად არ იაფდება: საკუთარი GPU-კლასტერი უფრო განსაზღვრულ სიმძლავრეს იძლევა. „აგენტური AI-ის სამყარო ძალიან სწრაფად იცვლება და უნდა შემოვზღუდოთ, რისი ნახვა და კეთება შეუძლია აგენტს“, ამბობს Horev. გუნდებს სჭირდებათ ერთიანი ხედვა მონაცემთა საცავზე, ქსელსა და გამოთვლით რესურსზე, აგენტის სენდბოქსები და დაკვირვებადობა.