OpenAI сповільнила розробку Astra через «критичні» кіберможливості
OpenAI повідомила Axios, що не може виключити «критичних» кіберможливостей у майбутній моделі Astra — найвищий рівень її Preparedness Framework: роботу призупинено, захист посилено.
Що сталося
OpenAI повідомила Axios, що «не може виключити критичних кіберможливостей» у своїй майбутній моделі Astra. За словами компанії, внутрішні оцінювання засвідчили значний прогрес в агентному кодуванні та кібербезпеці — це найвищий рівень Preparedness Framework, опублікованої 2023 року.
Компанія посилює тестування й безпеку та сповільнює розробку Astra, зупиняючи внутрішні процеси, що не відповідають жорсткішим вимогам. Рамка вимагає запобіжників ще до релізу.
Жорсткіший контроль, відкладений реліз
За даними видання, OpenAI запроваджує ізольовані тестові середовища, універсальний моніторинг агентних застосунків, обмеження доступу до мережі та інструментів і шифрування ваг моделі. Дата випуску може відсунутися ще далі.
«OpenAI добровільно повідомила адміністрації про плани відкласти реліз», — заявив представник Білого дому.
Чому це важливо
Наступальні кіберможливості тепер є першорядною категорією безпеки для провідних лабораторій, а швидкість поступається безпеці. Бізнесу варто очікувати більшої невизначеності щодо найпотужніших моделей і більше запобіжників в агентних процесах.