
Оркестратори LLM-пентестування активізувалися після зняття ARTEX
Cloudflare повідомляє, що фреймворки ШІ-пентестування помножилися після зняття ARTEX 8 жовтня: щоденні запити зросли в 30 разів з 1 жовтня, тисячі IP-адрес запускають ці інструменти, а захисники не встигають.
Cloudflare повідомляє, що кількість фреймворків LLM-пентестування та оркестрації різко зросла за останні тижні: понад 50 сімейств фреймворків намагалися сканувати клієнтів Cloudflare у всьому світі за останні три дні. Щоденні запити від інструментів ШІ-пентестування та експлуатації зросли в 30 разів з 1 жовтня, а кількість IP-адрес, на яких працюють ці фреймворки, досягла тисяч. Компанія рекомендує організаціям ухвалити Сучасну модель безпеки із шістьма опорами, щоб протистояти цій загрозі.
Від ARTEX до тисяч форків
ARTEX, відкриту агентну систему пентестування, зняв її автор Autumn-27 8 жовтня. За місяць після цього екосистема вибухнула фрагментованими версіями: понад 12 000 репозиторіїв і кілька сотень унікальних форків із походженням від оригінального репозиторію. Сотні інших подібних агентних фреймворків оркестрації також створено після 8 жовтня. Станом на 12 листопада ARTEX і його форки становлять понад 60% відомих наразі оркестраторів ШІ-пентестування.
Як працюють інструменти
Відкриті фреймворки пентестування можуть оркеструвати ШІ-агентів на етапах традиційного Cyber Kill Chain у масштабі. ARTEX і його форки відображають активи та середовища у вигляді графа, що дозволяє кільком незалежним паралельним агентам перелічувати, перевіряти, прототипувати та атакувати зі швидкістю інференсу. Інструменти можуть підключати наявний Model Context Protocol і поєднувати традиційні окремі інструменти пентестування новими способами, а деякі дозволяють оператору вказувати тип завдання для виконання. Cloudflare повідомляє, що відстежує понад 50 ШІ-агентів на базі LLM, а кожен із п'яти провідних оркестраторів є повністю автономним і має понад 1 000 зірок на GitHub.
Спостережені атаки та інциденти
Cloudforce One залучали до кількох розслідувань інцидентів, пов'язаних із ARTEX та похідними від ARTEX фреймворками експлуатації LLM, за останні вісім тижнів. У кількох інцидентах зловмисник отримав початковий доступ до середовища гіперскейлера та одразу перейшов у середовище Cloudflare клієнта. Аналіз першопричин виявив поширену проблему гігієни облікових даних: зловмисники неодноразово компрометували статичні токени без строку дії, що працювали в конвеєрах CI/CD і надавали широкий доступ між середовищами в інфраструктурі гіперскейлера організації. В одному розслідуванні ARTEX отримав доступ до скомпрометованого API-токена рівня облікового запису, що раніше використовувався для CI/CD, без обмежень за IP-адресами та без обмеження частоти запитів; активність перевищила 69 запитів на хвилину в кількох унікальних частинах інфраструктури Cloudflare, а за годину було 400 запитів на вивантаження бази даних. Cloudflare повідомила, що значну частину цієї активності лише злегка скеровував людський оператор.
Сучасна модель безпеки
Cloudflare рекомендує шість опор: зміцнити вхідний рубіж за допомогою Web Application Firewall і розширених правил, таких як обмеження частоти запитів; додати виявлення аномалій для всіх вебзастосунків, до яких звертаються клієнти; впровадити Bot Defense; впровадити Identity Gated Access для всіх високоризикових зовнішніх і внутрішніх вебзастосунків; забезпечити перевірені схеми та явні засоби контролю безпеки; а також впровадити Threat Intelligence для видимості атак. Компанія зазначає, що застарілі моделі багатошарового захисту не відповідають вимогам сучасних складних архітектур, тоді як підхід, у якому пріоритетом є стримування, є необхідним, коли користувачі регулярно втрачають свої ключі. Якщо йдеться про активний інцидент, Cloudflare спрямовує читачів до команди Cloudforce One і зазначає, що команда Solutions Engineering може допомогти впровадити модель.
Джерела: Cloudflare
SiTech — веброзробка з підтримкою AI
Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.