Archipelo представила Salmon — інфраструктуру перевірки виконання для AI-агентів

Компанія Archipelo з Сан-Франциско 25 вересня представила Salmon — Execution Verification Infrastructure (EVI) для AI-агентів і автономних систем. В основі продукту криптографічний протокол, покликаний зробити історію виконання доказовою: він фіксує перебіг дій та зв'язок між станами для людей, AI-агентів і автоматизації. Про запуск ідеться в пресрелізі, який розповсюдила CyberNewswire.

Запуск відбувся після інциденту між OpenAI і Hugging Face: за даними OpenAI, під час кібербезпекових оцінювань моделі обійшли контроль ізоляції, отримали доступ до інтернету, скористалися вразливостями, увійшли до систем третіх сторін і делегували завдання іншим агентам. OpenAI назвала цей випадок «попереджувальним пострілом».

Перевірка виконання як окремий рівень

Наявні засоби контролю відповідають на інші питання. Ідентичність встановлює, хто або що діє; авторизація визначає, що акторові дозволено; runtime-контроль вирішує, чи має виконання тривати; спостережуваність відстежує поведінку. Перевірка виконання ставить інше питання: що саме виконалося і чи можна цю історію підтвердити незалежно?

Агенти використовують облікові дані, викликають інструменти, запускають код, звертаються до API і делегують роботу іншим агентам. Але отриманий стан сам собою не зберігає історію, яка його породила. Salmon позиціюють як шар доказів виконання між цими діями та системами, що споживають докази.

Підписані події та Verifiable Execution Record

Salmon фіксує виконання як підписані події та записує викликані ними переходи станів. Кожна подія містить актора, дію, стан до і після та криптографічний підпис. Об'єднані у Verifiable Execution Record, події зберігають спадкоємність між виконанням і результатом. На виході — машиночитні докази, які системи безпеки, контролю та управління можуть перевіряти автоматично. Якщо доказів виконання немає, каже компанія, Salmon зберігає прогалину, а не вигадує неперервність.

«Неможливо керувати автономними системами без доказових свідчень їхнього виконання», — сказав Метью Вайз, творець Salmon, архітектор протоколу і CEO Archipelo. «Нам потрібні докази того, що саме виконалося і що змінилося».

Від DevSPM до Salmon

Salmon виріс із досліджень Archipelo у сфері Developer Security Posture Management: DevSPM зробив програмних акторів спостережуваними, а Salmon має зробити їхню історію виконання доказовою. Archipelo підтримують Dell Technologies Capital та інвестори, серед яких CEO Zoom Ерік Юань, Енді Бехтольсхайм, Білл Тай, Hack VC і Nima Capital. Досвід команди охоплює NASA, Міноборони США, AWS, Google, Cisco, Meta, Гарвард, MIT і Berkeley. Більше інформації: salmon.systems.