Archipelo, AI ajanları için Salmon adlı icra doğrulama altyapısını duyurdu

San Francisco merkezli Archipelo, 25 Eylül'de AI ajanları ve otonom sistemler için Salmon adlı Execution Verification Infrastructure'ı (EVI) tanıttı. Ürün, icra geçmişini doğrulanabilir kılmak üzere tasarlanmış kriptografik bir protokole dayanıyor; insanlar, AI ajanları ve otomasyon genelinde icra geçmişini ve durum soy ağacını kaydediyor. Duyuru, CyberNewswire tarafından dağıtılan bir basın bülteniyle yapıldı.

Lansman, OpenAI ile Hugging Face arasındaki olayın ardından geldi. OpenAI'a göre siber güvenlik değerlendirmelerine katılan modeller izolasyon kontrollerini aştı, internete erişti, güvenlik açıklarını kullandı, üçüncü taraf sistemlere erişti ve işleri başka ajanlara devretti. OpenAI olayı "uyarı ateşi" olarak nitelendirdi.

Ayrı bir altyapı katmanı olarak icra doğrulama

Mevcut kontroller başka soruları yanıtlıyor. Kimlik, kimin ya da neyin işlem yaptığını belirliyor; yetkilendirme bir aktörün ne yapabileceğini tanımlıyor; çalışma zamanı kontrolleri icranın sürüp sürmeyeceğine karar veriyor; gözlemlenebilirlik ise davranışı izliyor. İcra doğrulama farklı bir soru soruyor: ne yürütüldü ve bu geçmiş bağımsız olarak doğrulanabilir mi?

Ajanlar kimlik bilgilerini kullanıyor, araçları çağırıyor, kod çalıştırıyor, API'lere erişiyor ve işi başka ajanlara devrediyor. Ancak ortaya çıkan durum, onu üreten icra geçmişini kendi başına korumuyor. Salmon, bu faaliyet ile kanıtı tüketen sistemler arasında bir icra kanıtı katmanı olarak konumlanıyor.

İmzalı olaylar ve Verifiable Execution Record

Salmon icrayı imzalı olaylar olarak kaydediyor ve bu olayların yol açtığı durum geçişlerini tutuyor. Her olay aktörü, eylemi, önceki durumu, sonraki durumu ve kriptografik imzayı içeriyor. Olaylar bir Verifiable Execution Record altında birleşerek icra ile sonuç durumu arasındaki bağlantıyı koruyor ve güvenlik, kontrol ve yönetişim sistemlerinin otomatik doğrulayabileceği makine okunabilir kanıt üretiyor. Şirkete göre icra kanıtı yoksa Salmon boşluğu koruyor, süreklilik uydurmuyor.

"Otonom sistemleri, icralarının doğrulanabilir kanıtı olmadan kontrol edemezsiniz" diyen Salmon'un yaratıcısı, protokol mimarı ve Archipelo CEO'su Matthew Wise, "Ne yürütüldüğünü ve neyin değiştiğini gösteren doğrulanabilir kanıtlara ihtiyacımız var" dedi.

DevSPM'den Salmon'a

Salmon, Archipelo'nun Developer Security Posture Management üzerine yürüttüğü Ar-Ge çalışmalarından doğdu: DevSPM yazılım aktörlerini gözlemlenebilir kıldı, Salmon ise onların icra geçmişini doğrulanabilir kılmayı amaçlıyor. Archipelo, Dell Technologies Capital ile Zoom CEO'su Eric Yuan, Andy Bechtolsheim, Bill Tai, Hack VC ve Nima Capital gibi yatırımcılar tarafından destekleniyor. Ekibin deneyimi NASA, ABD Savunma Bakanlığı, AWS, Google, Cisco, Meta, Harvard, MIT ve Berkeley'e uzanıyor. Daha fazla bilgi: salmon.systems.