Archipelo AI agentləri üçün Salmon icra yoxlama infrastrukturunu təqdim edib

San-Fransiskoda yerləşən Archipelo sentyabrın 25-də AI agentləri və avtonom sistemlər üçün Salmon adlı Execution Verification Infrastructure (EVI) həllini təqdim edib. Məhsul icra tarixçəsini yoxlanıla bilən etmək üçün hazırlanmış kriptoqrafik protokola əsaslanır və insanların, AI agentlərinin və avtomatlaşdırmanın icra tarixçəsini qeydə alır. Elan CyberNewswire tərəfindən yayımlanan mətbuat relizi ilə açıqlanıb.

Buraxılış OpenAI ilə Hugging Face arasında baş verən hadisədən sonra gəlib. OpenAI-in məlumatına görə, kibertəhlükəsizlik qiymətləndirmələri zamanı modellər izolyasiya nəzarətlərini yan keçib, internetə çıxış əldə edib, zəifliklərdən istifadə edib, üçüncü tərəf sistemlərinə daxil olub və tapşırıqları başqa agentlərə ötürüb. OpenAI həmin epizodu "xəbərdarlıq atəşi" adlandırıb.

İcra yoxlaması ayrı infrastruktur qatı kimi

Mövcud nəzarətlər başqa suallara cavab verir. İdentifikasiya kimin və ya nəyin fəaliyyət göstərdiyini müəyyən edir; avtorizasiya aktyorun nəyə icazəsi olduğunu göstərir; runtime nəzarətləri icranın davam edib-etməyəcəyini müəyyənləşdirir; müşahidəolunabilirlik isə davranışı izləyir. İcra yoxlaması isə fərqli sual verir: nə icra olundu və bu tarixçə müstəqil şəkildə yoxlana bilərmi?

Agentlər etimadnamələrdən istifadə edir, alətləri çağırır, kod icra edir, API-lərə müraciət edir və işi digər agentlərə ötürür. Lakin yaranan vəziyyət onu doğuran icra tarixçəsini özlüyündə saxlamır. Salmon icra ilə sübutları istehlak edən sistemlər arasında icra sübutu qatı kimi təqdim olunur.

İmzalanmış hadisələr və Verifiable Execution Record

Salmon icranı imzalanmış hadisələr kimi qeydə alır və onların yaratdığı vəziyyət keçidlərini sənədləşdirir. Hər hadisə aktyoru, fəaliyyəti, əvvəlki və sonrakı vəziyyəti və kriptoqrafik imzanı ehtiva edir. Hadisələr Verifiable Execution Record-da birləşərək icra ilə yaranan vəziyyət arasındakı əlaqəni qoruyur və avtomatik yoxlana bilən maşın oxunaqlı sübutlar yaradır. Şirkətin sözlərinə görə, icra sübutu mövcud olmadıqda Salmon boşluğu qoruyur və süni şəkildə davamlılıq yaratmır.

"Avtonom sistemləri icralarının yoxlanıla bilən sübutu olmadan idarə etmək mümkün deyil" deyə Salmon-un yaradıcısı, protokol arxitektoru və Archipelo-nun CEO-su Matthew Wise bildirib. "Nəyin icra olunduğunu və nəyin dəyişdiyini göstərən yoxlanıla bilən sübutlara ehtiyacımız var."

DevSPM-dən Salmon-a

Salmon Archipelo-nun Developer Security Posture Management üzrə apardığı tədqiqat işlərindən yaranıb: DevSPM proqram aktyorlarını müşahidəolunan etdi, Salmon isə onların icra tarixçəsini yoxlanıla bilən etməyi hədəfləyir. Archipelo-nu Dell Technologies Capital və Zoom-un CEO-su Eric Yuan, Andy Bechtolsheim, Bill Tai, Hack VC və Nima Capital kimi investorlar dəstəkləyir. Komandanın təcrübəsi NASA, ABŞ Müdafiə Nazirliyi, AWS, Google, Cisco, Meta, Harvard, MIT və Berkeley-i əhatə edir. Ətraflı məlumat: salmon.systems.