HalluSquatting: як хакери використовують 9 популярних AI-інструментів для створення ботнетів

Вступ: Нова загроза в безпеці AI

Дослідники з Тель-Авівського університету, Technion та Intuit виявили новий вектор атаки, що перетворює галюцинації LLM на зброю: HalluSquatting.

Що таке HalluSquatting?

HalluSquatting — це техніка атаки, де зловмисники обирають назви неіснуючих пакетів і прогнозують, що LLM згенерує саме ці назви як галюцинацію.

Дев'ять вразливих AI-інструментів

Список включає Cursor, Gemini CLI, GitHub Copilot та інші. Усі ці інструменти можна обманом змусити створювати шкідливі команди.

Показники галюцинацій: цифри

Для пакетів, створених до 2019 року, рівень галюцинацій становив лише 0.9%. Для пакетів 2025 року він підскочив до 92.4%.

Від галюцинації до ботнету

Ця техніка дозволяє створювати масштабні ботнети для DDoS-атак, програм-вимагачів та криптомайнінгу.