Perplexity опублікувала платформу пісочниці SPACE з відкритим кодом для AI-агентів

Perplexity опублікувала технологію пісочниці SPACE з відкритим кодом

Perplexity опублікувала SPACE з відкритим кодом — безпечну платформу пісочниці для AI-агентів, яка надає розробникам досвідчену основу для створення більш безпечних автономних агентів у виробництві. Компанія оголосила про реліз сьогодні й зробила репозиторій на GitHub доступним для перевірки, адаптації та внесення внеску.

Після запуску Computer у лютому Perplexity працює над викликами управління агентами, зокрема виявленням небезпечної поведінки та блокуванням активності некерованих агентів. У липні компанія замінила комерційного постачальника пісочниці на SPACE, що є внутрішнім рішенням для безпеки та стійкості. Останні тести показали, що SPACE протидіє технікам обходу мережевих обмежень, подібним до методів, використаних в інцидентах OpenAI та Hugging Face.

Технічна архітектура та безпека

Кожна пісочниця SPACE працює на легкій віртуальній машині зі своєю операційною системою, що створює ізоляцію між навантаженням агентів і хост-системою. Центральна площа керування керує створенням, призупиненням, продовженням і видаленням робочих просторів. Платформа вважає пісочниці недостовірними і керує доступом до мережі та даними авторизації поза ними, щоб агенти підключалися до авторизованих сервісів без зберігання даних.

SPACE використовує часті файлові знімки та контрольні точки повного середовища, щоб зберігати прогрес під час затримок. Для ефективності система зберігає інкрементні зміни замість копій усього середовища, що зменшує витрати на створення, відновлення та розгалуження пісочниці. Це підтримує запуск ізольованого коду, призупинення-продовження, відновлення сесії та розгалуження робочого простору для вивчення альтернативних підходів.

Робота в реальному середовищі та підтвердження безпеки

Після запуску у експлуатацію в липні SPACE обслуговує всі сесії Computer і створює мільйони пісочниць на день. У порівняннях з виробничим трафіком створення пісочниці виявилося в три-п'ять разів швидшим, ніж у попереднього комерційного постачальника. У оцінках безпеки SPACE протистояв 108 цілеспрямованим спробам втечі; втечу з віртуальної машини на хост не зафіксовано, хоча кілька випадків обходу мережевих обмежень було виявлено та виправлено. Подальші тести підтвердили, що виправлення заблокували обидва методи атаки. Perplexity розкрила слабкі місця, виявлені в інших платформах пісочниці, перед їхніми виробниками.

Прийняття в індустрії та ініціатива безпеки

Постачальники хмарної інфраструктури CoreWeave та Akamai протестували SPACE на своїх платформах і запустили його, а тепер співпрацюють з Perplexity, щоб зробити його доступним для користувачів. Crusoe партнериться для інтеграції SPACE у своє портфоліо Managed AI Services. Публікація з відкритим кодом розширює ініціативу безпеки Perplexity за сприяння Secure Intelligence Institute та доповнює раніше опубліковані інструменти: BrowseSafe для виявлення шкідливих веб-інструкцій, Numbat для моніторингу поведінки агентів на ендпоінтах і Bumblebee для сканування ризикових конфігурацій середовища розробника.

Джерела: Perplexity · Techmeme · Unite.Ai