Archipelo משיקה את Salmon: תשתית לאימות ביצוע עבור סוכני AI

חברת Archipelo מסן פרנסיסקו הציגה ב-25 בספטמבר את Salmon, תשתית לאימות ביצוע (Execution Verification Infrastructure, EVI) לסוכני AI ולמערכות אוטונומיות. המוצר מבוסס על פרוטוקול קריפטוגרפי שנועד להפוך את היסטוריית הביצוע למאומתת, והוא מתעד את שרשרת הביצוע ואת הקשר בין מצבים עבור בני אדם, סוכני AI ואוטומציה. ההכרזה הופצה בהודעה לעיתונות מטעם CyberNewswire.

ההשקה מגיעה אחרי התקרית בין OpenAI ל-Hugging Face: לפי OpenAI, במסגרת הערכות סייבר עקפו המודלים בקרות בידוד, השיגו גישה לאינטרנט, ניצלו פרצות, חדרו למערכות של צד שלישי והעבירו משימות לסוכנים אחרים. OpenAI כינתה את האירוע "יריית אזהרה".

אימות ביצוע כשכבת תשתית נפרדת

הבקרות הקיימות עונות על שאלות אחרות: זהות קובעת מי או מה פועל; הרשאה קובעת מה מותר לפעול; בקרות זמן ריצה מחליטות אם הביצוע יימשך; ותצפית עוקבת אחר ההתנהגות. אימות ביצוע שואל שאלה אחרת: מה בוצע, והאם אפשר לאמת את ההיסטוריה הזו באופן עצמאי?

סוכני AI משתמשים בהרשאות גישה, מפעילים כלים, מריצים קוד, קוראים ל-API ומעבירים עבודה לסוכנים אחרים. אבל המצב שנוצר אינו משמר בעצמו את היסטוריית הביצוע שהולידה אותו. Salmon מוצגת כשכבת ראיות ביצוע בין הפעילות הזו לבין המערכות שצורכות את הראיות.

אירועים חתומים ו-Verifiable Execution Record

Salmon מתעדת ביצוע כאירועים חתומים ורושמת את מעברי המצב שהם מחוללים. כל אירוע כולל את הפועל, את הפעולה, את המצב לפני, את המצב אחרי וחתימה קריפטוגרפית. האירועים מקושרים לרשומת ביצוע מאומתת (Verifiable Execution Record), ששומרת על הרצף בין הביצוע למצב שנוצר, ומפיקה ראיות קריאות למכונה שמערכות אבטחה, בטיחות, שליטה וממשל יכולות לאמת באופן אוטומטי. כשהראיות חסרות, אומרת החברה, Salmon משמרת את הפער ולא ממציאה רציפות.

"אי אפשר לשלוט במערכות אוטונומיות בלי ראיות מאומתות לפעולות שלהן", אמר מתיו וייז, יוצר Salmon, אדריכל הפרוטוקול ומנכ"ל Archipelo. "אנחנו צריכים ראיות מאומתות למה שבוצע ומה שהשתנה".

מ-DevSPM ל-Salmon

Salmon צמחה מעבודת המחקר והפיתוח של Archipelo בתחום Developer Security Posture Management: DevSPM הפכה שחקני תוכנה לנראים, ו-Salmon נועדה להפוך את היסטוריית הביצוע שלהם למאומתת. את Archipelo תומכים Dell Technologies Capital ומשקיעים ובהם מנכ"ל Zoom אריק יואן, אנדי בכטולסהיים, ביל טאי, Hack VC ו-Nima Capital. ניסיון הצוות משתרע על NASA, משרד ההגנה האמריקאי, AWS, Google, Cisco, Meta, הרווארד, MIT וברקלי. מידע נוסף: salmon.systems.