Archipelo-მ AI აგენტების შესრულების გადამოწმების ინფრასტრუქტურა Salmon წარადგინა

სან-ფრანცისკოში დაფუძნებულმა Archipelo-მ 25 სექტემბერს Salmon წარადგინა, Execution Verification Infrastructure (EVI) AI აგენტებისა და ავტონომიური სისტემებისთვის. პროდუქტი კრიპტოგრაფიულ პროტოკოლს ეყრდნობა და შესრულების ისტორიას ადამიანების, AI აგენტებისა და ავტომატიზაციის მასშტაბით გადამოწმებადს ხდის. განცხადება CyberNewswire-მა გაავრცელა.

გამოშვებას წინ უძღოდა OpenAI-სა და Hugging Face-ს შორის ინციდენტი. OpenAI-ის ცნობით, კიბერუსაფრთხოების შეფასების დროს მოდელებმა იზოლაციის კონტროლი გვერდი აუარეს, ინტერნეტზე წვდომა მოიპოვეს, მოწყვლადობები გამოიყენეს, მესამე მხარის სისტემებში შეაღწიეს და სხვა აგენტებს დავალებები გადასცეს. OpenAI-მ ეპიზოდს „გამაფრთხილებელი გასროლა“ უწოდა.

შესრულების გადამოწმება ცალკე ფენად

არსებული კონტროლები სხვა კითხვებს პასუხობს. იდენტობა ადგენს, ვინ ან რა მოქმედებს; ავტორიზაცია განსაზღვრავს, რისი უფლება აქვს აქტორს; runtime კონტროლი წყვეტს, უნდა გაგრძელდეს თუ არა შესრულება; დაკვირვებადობა ქცევას აკვირდება. შესრულების გადამოწმება კი სხვა კითხვას სვამს: რა შესრულდა სინამდვილეში და შესაძლებელია თუ არა ამ ისტორიის დამოუკიდებლად გადამოწმება?

აგენტები რწმუნებულებებს იყენებენ, ხელსაწყოებს იძახებენ, კოდს ასრულებენ, API-ებს მიმართავენ და დავალებებს სხვა აგენტებს გადასცემენ. მიღებული მდგომარეობა თავისთავად არ ინახავს იმ ისტორიას, რომელმაც ის შექმნა. სწორედ ამ რგოლისთვისაა განკუთვნილი Salmon.

ხელმოწერილი მოვლენები და Verifiable Execution Record

Salmon შესრულებას ხელმოწერილი მოვლენების სახით აფიქსირებს და აღრიცხავს მათგან გამოწვეულ მდგომარეობათა გადასვლებს. თითოეული მოვლენა მოიცავს აქტორს, მოქმედებას, მდგომარეობას მოქმედებამდე და მის შემდეგ, აგრეთვე კრიპტოგრაფიულ ხელმოწერას. მოვლენები Verifiable Execution Record-ში ერთიანდება, რაც შესრულებასა და მიღებულ მდგომარეობას შორის კავშირს ინახავს. შედეგად მიიღება მანქანისთვის გასაგები მტკიცებულება, რომელსაც დაცვის, უსაფრთხოების, კონტროლისა და მმართველობის სისტემები ავტომატურად ამოწმებენ. როცა შესრულების მტკიცებულება ხელმისაწვდომი არ არის, კომპანიის თანახმად, Salmon ხარვეზს ინარჩუნებს და უწყვეტობას ხელოვნურად არ ქმნის.

„ავტონომიური სისტემების კონტროლი შეუძლებელია მათი შესრულების გადამოწმებადი მტკიცებულების გარეშე“, ამბობს Matthew Wise, Salmon-ის შემქმნელი, პროტოკოლის არქიტექტორი და Archipelo-ს CEO. „AI-ის უსაფრთხოება შესრულების პრობლემად იქცევა“.

DevSPM-იდან Salmon-მდე

Salmon Archipelo-ს კვლევითი მუშაობიდან გაიზარდა: DevSPM-მა პროგრამული აქტორები დაკვირვებადი გახადა, Salmon კი მათი შესრულების ისტორიის გადამოწმებას ისახავს მიზნად. Archipelo-ს Dell Technologies Capital და ტექნოლოგიური ინვესტორები მხარს უჭერენ, მათ შორის Zoom-ის CEO Eric Yuan, Andy Bechtolsheim, Bill Tai, Hack VC და Nima Capital. გუნდს გამოცდილება NASA-ში, DoD-ში, AWS-ში, Google-ში, Cisco-ში, Meta-ში, Harvard-ში, MIT-სა და Berkeley-ში აქვს. დამატებითი ინფორმაცია: salmon.systems.