Дослідження Кембриджу показало, що Boko Haram використовує ChatGPT, Claude, Gemini, Grok, Meta AI та DeepSeek для планування атак. ІДІЛ навчав командирів обходити AI-фільтри.

Вступ: Дослідження Кембриджу виявляє тривожні факти

Нове дослідження Кембриджського університету показує, що терористичні групи регулярно використовують усі основні AI-чатботи — включаючи ChatGPT, Claude, Gemini, Grok, Meta AI та DeepSeek — для планування атак і розробки зброї. Дослідниця Антонія Юліх з Кембриджської програми з AI науки та політики (CASP) опублікувала дослідження після 57 інтерв'ю з 27 колишніми членами Boko Haram.

Як терористичні групи використовують AI сьогодні?

Інтерв'ю показали, що Boko Haram створила спеціалізовані AI-підрозділи в обох своїх фракціях. Координатори ІДІЛ навчали командирів Boko Haram обходити фільтри безпеки. За словами Юліх: "Вони зібрали найкращих людей в одній кімнаті та використали проектор, щоб показати, як AI працює на великому екрані."

Небезпечні застосування: від планування атак до вибухівки

Група використовує AI для планування атак, створення потужніших вибухових пристроїв, обслуговування зброї та операційної безпеки. В особливо жахливому випадку, фракція ISWAP використала AI для відтворення техніки стрибків на мотоциклі з фільму, щоб бійці могли долати окопи — 18 бійців загинули під час тренувань.

Провал фільтрів безпеки: загальногалузева проблема

Незважаючи на зусилля зробити чатботи безпечнішими, фільтри безпеки постійно не могли запобігти зловживанням. Anthropic нещодавно визнала, що "зломи безпеки, ймовірно, ніколи не будуть повністю усунені." Юліх попереджає, що "AI моделі можуть зробити небезпечні знання більш доступними."

Виклик регулювання: добровільне саморегулювання vs обов'язкове регулювання

Це порушує нагальне питання: чи достатньо добровільного саморегулювання AI-компаній? Чи необхідне обов'язкове державне регулювання? Коли поточні заходи не можуть зупинити терористичні організації від використання цих інструментів, аргумент на користь сильнішого регулювання стає переконливішим.

Наслідки для Грузії та AI-бізнесу

Для зростаючого AI та технологічного сектору Грузії ця історія містить важливі уроки про безпеку. При створенні AI-систем безпека має бути основним принципом, а не другорядною думкою. Впроваджуйте надійні захисні механізми, постійно тестуйте проти зловживань та навчайте користувачів відповідальності.