AI חסוי: כך מגנים על נתוני הארגון ועל משקולות המודל בעת ובעונה אחת

ארגונים רוצים להריץ AI על הנתונים הרגישים ביותר שלהם, אך מי שבונים את המודלים מסרבים למסור את המשקולות. הצורך ההדדי בשליטה יצר מבוי סתום, ו-AI חסוי הוא ניסיון לפרוץ אותו.

בעיית אמון דו-צדדית

ל-AI ארגוני יש שני צדדים לספק. הארגון חייב להשאיר נתונים רגישים בשליטתו, בעוד מפתחי המודלים צריכים להגן על המשקולות ועל התוכנה, שמגלמות שנות מחקר וקניין רוחני.

אלון חורב, מנהל טכנולוגיות ומייסד שותף ב-VAST Data, אומר ל-The New Stack שהבעיה חריפה במיוחד כשמערכת AI מטפלת במידע של לקוחות. ״גם אם תבקשו מהמודל היום לטשטש שיחה או להסיר ממנה PII, קשה להיות ב-100% בטוחים שזה אכן קרה״, הוא אומר.

לדבריו, המודלים החזקים ביותר מסופקים יותר ויותר כשירותי SaaS. אבל העברת נתונים ב-WAN מוסרת אותם ליותר מערכות ומפעילים, ולארגונים לא תמיד נוח, ולעיתים אסור להם מבחינה חוקית, להסתמך על הבטחת הספק. לכן חלק מהנתונים נשאר מקומי, לפעמים אף בתוך הבניין או בתוך המדינה.

כיצד פועלת מחשוב חסוי

הצפנה במנוחה ובתנועה מגינה על הנתונים בזמן אחסון או העברה. מחשוב חסוי (confidential computing) מרחיב את ההגנה גם לסביבת העיבוד: בידוד ברמת החומרה יוצר אנקלב שבו הנתונים ומשקולות המודל נשארים מוצפנים עד שהם משוחררים לעומס עבודה מאושר.

אַתֶּסְטַצְיָה קריפטוגרפית מאמתת את החומרה, המכונה הווירטואלית, התוכנה והתצורה שמבקשות גישה לפני שחרור המפתחות. מפתח המודל יכול להצפין אותו במפתח הציבורי של מכונה חסויה מסוימת, ורק המפתח הפרטי שלה יוכל לפענח אותו בזיכרון המוגן. הלקוח משתמש במודל בלי לגשת למשקולות.

שליטה בלתי תלויה במפתחות מפרידה בין הצדדים: הארגון מחזיק במפתחות לנתונים שלו, המפתח במפתחות למודל שלו, ומפעיל התשתית אינו שולט באף אחד מהסטים בזמן שהעומס רץ.

VAST DataEnclave והמערכת האקולוגית

DataEnclave, שהושק ב-22 בספטמבר, הוא יכולת של VAST AI Operating System. הוא מחבר את המודל, שכבת האפליקציה ופלטפורמת הנתונים בתנאים שהלקוח שולט בהם, והספק מאפשר שימוש בתוכנה בלי למסור את הקניין הרוחני.

לפי חורב, החברה עובדת עם מפתחי מודלים כמו Cohere, Deepgram, Factory, Fundamental ו-TwelveLabs, ולצדם ספקי תשתית ואבטחה ובהם NVIDIA, CrowdStrike, Fortanix, Nscale, Cisco ו-Supermicro. AI חסוי צריך יותר מ-GPU מוגן: מודלים, אפליקציות, חומרה ותשתית נתונים חייבים לעבוד יחד.

עלויות, תפעול וסוכנים

תשתית בשליטת הלקוח משנה גם את שיח העלויות, אם כי היא לא מוזילה את ה-AI אוטומטית: צביר GPU בבעלות הארגון נותן קיבולת ובסיס עלות מוגדרים יותר. ״עולם ה-AI הסוכני נע במהירות עצומה, ואנחנו צריכים להגביל מה סוכן יכול לראות ולעשות״, אומר חורב. צוותים זקוקים למבט מאוחד על אחסון, רשת ומחשוב, לארגזי חול ולנראות שמתעדת לאילו נתונים הסוכן נגע.