CrowdStrike запускає перемикач вимкнення ШІ для контролю внутрішніх агентів

CrowdStrike у вівторок запустила перемикач вимкнення ШІ, створений для того, щоб команди безпеки зупиняли внутрішні агенти ШІ, які вийшли з-під контролю, блокували їхній повторний запуск і відключали їхній корпоративний мережевий доступ. Інструмент вбудовано в платформу компанії Falcon Guardian. CrowdStrike також оголосила про інтеграцію з Claude Cowork від Anthropic і плани придбати дві компанії, орієнтовані на ШІ.

Як працює перемикач вимкнення

Головний бізнес-директор Деніел Бернард сказав CNBC, що мати можливість контролювати й вимикати агентів, а також ухвалювати рішення, справді важливо для наступного етапу впровадження ШІ. Він сказав, що функція працює як автоматичний вимикач у системах, де клієнти використовують платформу Falcon від CrowdStrike. Вона може виявляти активність внутрішніх агентів, але людина має ухвалити рішення відключити агента та відновити доступ. Бернард описав дію як бінарну: команди або вимикають ШІ та агента, або ні, а потім звітують про це. Перемикач вимкнення не видаляє код агента; замість цього він використовує підключені шлюзи ШІ, щоб відключити доступ до моделей ШІ, які впливають на рішення.

Чому CrowdStrike його запускає

Компанія CrowdStrike зазначила, що бізнес швидко впроваджує автономні інструменти, часто без необхідних запобіжників і захисту. Компанія вважає, що новий інструмент може негайно зупинити неправильну поведінку агентів ШІ, залишаючи простір для інновацій. Низка нещодавніх резонансних кіберінцидентів посилила заклики до якогось механізму аварійного вимкнення. Злам Hugging Face, організований зловмисними агентами OpenAI у липні, був особливо тривожним для бізнесу. Минулого тижня Binance розкрила найбільшу криптокібератаку за всю історію, а хакери нещодавно атакували сотні холодильників і морозильних камер у супермаркетах у Франції. Влітку представники США внесли двопартійний законопроект, який вимагатиме від компаній ШІ вбудовувати можливості вимкнення у свої моделі. Критики, однак, стверджують, що аварійна кнопка зупинки є надто складною для впровадження в кількох системах, центрах обробки даних і складних моделях ШІ.

Придбання та інтеграції

CrowdStrike оголосила плани придбати стартап спостереження за ШІ Fiddler AI і фірму тестування безпеки ШІ Dreadnode. Компанія та її конкуренти швидко купують кібербезпекові стартапи, щоб встигати за зростанням потреб у безпеці, а потреба в інструментах безпеки ШІ підштовхнула ширшу хвилю угод у сфері кібербезпеки. CrowdStrike також оголосила про інтеграцію з Claude Cowork від Anthropic.

Джерела: CNBC · Techmeme