Як AI змінює ландшафт кіберзагроз — річний аналіз Anthropic у контексті MITRE ATT&CK
Anthropic проаналізувала 832 заблоковані акаунти та показала, що кібератаки з використанням AI стають дедалі автономнішими та складнішими. Фреймворк MITRE ATT&CK не в змозі відобразити нові загрози.
Як AI змінює ландшафт кіберзагроз — річний аналіз Anthropic у контексті MITRE ATT&CK
Компанія Anthropic, відома як розробник Claude, опублікувала масштабний звіт про загрози, у якому проаналізувала 832 заблоковані акаунти, що порушували правила використання її AI-моделей протягом одного року. Це перше настільки детальне дослідження того, як зловмисники використовують великі мовні моделі (LLM) для проведення кібератак.
Масштаб проблеми: 832 заблокованих акаунти
Протягом 12 місяців Anthropic виявила та заблокувала 832 акаунти, пов'язаних із шкідливою діяльністю. Ці акаунти використовували Claude для:
- Розвідки (Reconnaissance) — збір інформації про цілі, аналіз поверхні атаки
- Соціальної інженерії — створення переконливих фішингових повідомлень та шахрайських схем
- Розробки шкідливого коду — написання малварі, експлойтів та інструментів для обходу захисту
- Експлуатації вразливостей — аналіз CVE та генерація PoC-коду
- Автоматизації атак — створення повністю автономних ланцюгів атак
Класифікація за MITRE ATT&CK
Anthropic систематизувала виявлені загрози, використовуючи фреймворк MITRE ATT&CK — стандартну таксономію тактик та технік кібератак. Аналіз показав, що AI-моделі використовуються на кожному етапі ланцюга атаки:
| Тактика MITRE ATT&CK | Як використовується AI |
|---|---|
| Reconnaissance (T1595) | Автоматизований збір даних про цілі, аналіз DNS, сканування портів |
| Resource Development (T1583) | Створення фішингових доменів, генерація SSL-сертифікатів |
| Initial Access (T1566) | Генерація персоналізованих фішингових листів високої якості |
| Execution (T1059) | Написання скриптів для виконання шкідливого коду |
| Persistence (T1053) | Створення механізмів закріплення в системі |
| Defense Evasion (T1027) | Обфускація коду, обходи антивірусів та EDR |
| Credential Access (T1110) | Генерація словників паролів, брутфорс-стратегії |
Чому MITRE ATT&CK не встигає
Одним із ключових висновків звіту є те, що існуючий фреймворк MITRE ATT&CK не повністю охоплює нові AI-загрози. Традиційна таксономія була створена для класичних кібератак, де людина є основним виконавцем. AI змінює цю парадигму:
- Масштабованість — одна людина з AI може виконувати роботу цілої команди
- Автономність — AI може самостійно проходити етапи атаки без постійного контролю
- Адаптивність — моделі можуть змінювати тактику в реальному часі
- Низький поріг входу — для проведення складних атак більше не потрібні глибокі технічні знання
Нові категорії загроз
Anthropic виявила кілька типів загроз, які не мають прямих аналогів у MITRE ATT&CK:
- AI-assisted vulnerability discovery — автоматизований пошук нульових вразливостей
- Polymorphic malware generation — створення малварі, яка змінює свій код кожного запуску
- Automated social engineering at scale — тисячі персоналізованих фішингових повідомлень одночасно
- Cross-domain attack chains — ланцюги атак, що охоплюють кілька систем та сервісів
Вплив на кібербезпеку
Цей звіт має серйозні наслідки для індустрії кібербезпеки:
1. Зміна моделі загроз. Організації повинні переглянути свої моделі загроз з урахуванням AI-атак. Традиційні засоби захисту можуть бути недостатніми проти штучного інтелекту.
2. Необхідність нових інструментів. Потрібні нові рішення для виявлення AI-генерованого шкідливого контенту, включаючи фішингові листи, малварі та соціальну інженерію.
3. Оновлення фреймворків. MITRE ATT&CK та подібні таксономії повинні еволюціонувати, щоб враховувати AI-специфічні техніки атак.
4. Підготовка кадрів. Фахівці з кібербезпеки повинні розуміти, як AI використовується в атаках, і вміти протидіяти їм.
Відповідь Anthropic
Anthropic вживає низку заходів для протидії зловживанням:
- Покращені системи виявлення шкідливого використання в реальному часі
- Співпраця з правоохоронними органами та розвідувальними службами
- Публікація звітів про загрози для підвищення обізнаності індустрії
- Розробка нових методів alignment для запобігання шкідливому виводу
Висновки
Звіт Anthropic є важливим сигналом для всієї індустрії кібербезпеки. AI не лише посилює існуючі атаки, а й створює принципово нові типи загроз, які важко класифікувати за традиційними фреймворками. Організації, які не адаптуються до нової реальності, ризикують стати жертвами наступного покоління кібератак.
Для українського сектору кібербезпеки це особливо актуально, враховуючи постійні кіберзагрози та необхідність захисту критичної інфраструктури.