Знову «Going Dark»: ШІ-пошук уразливостей і повернення вимог до бекдорів

У блозі, опублікованому 14 серпня, криптограф із Університету Джонса Гопкінса Метью Грін доводить, що штучний інтелект невдовзі зробить масове програмне забезпечення значно складнішим для злому — з незручним побічним ефектом: правоохоронні та розвідувальні органи США можуть «піти в темряву», втративши значну частину можливостей спостереження вперше з 2010 року.

Від прослуховування до наскрізного шифрування

Грін простежує перехід від прослуховування таксофонів початку 2000-х до смартфонів, які не лише передають, а й зберігають дані. У 2010 році Apple почала шифрувати пам'ять iPhone ключем, похідним від пароля користувача, невдовзі це зробив і Android, а в 2011-му в повідомленнях iPhone з'явилося наскрізне шифрування. До 2014 року WhatsApp мав 600 мільйонів користувачів, а до 2016-го — майже мільярд, усі з увімкненим за замовчуванням наскрізним шифруванням повідомлень і дзвінків. У 2014 році директор ФБР Джеймс Комі оголосив ініціативу «Going Dark», а в 2016-му бюро через суд вимагало від Apple розблокувати iPhone стрільця. Apple відмовилася, і телефон зламала стороння компанія — ця схема трималася десятиліття завдяки комерційним інструментам на кшталт GrayKey і Pegasus від NSO Group.

Ера ШІ-пошуку вразливостей

Ця рівновага тепер під тиском. У квітні Anthropic представила модель Mythos, яка особливо добре знаходить уразливості; уряд США тимчасово заблокував її експорт, що Грін вважає майже безглуздим, адже OpenAI та китайські лабораторії відкритих моделей Z.ai і Moonshot довели: пошук уразливостей не залишиться монополією однієї лабораторії. Захисники латають борги десятиліть і перебудовують CI-конвеєри, щоб ШІ-сканування вразливостей відбувалося до того, як код потрапить до людини. Грін очікує, що за два роки велике програмне забезпечення вичерпає віддалено використовувані вразливості.

Чому вимоги до бекдорів повернуться

Для спецслужб це катастрофа: легкодоступні вразливості зникають, тож попит на штучно створені, навмисні бекдори знову загострюється, як і тиск на індустрію, щоб та перепроєктувала системи під «винятковий доступ». Деякі уряди захочуть таких можливостей для шпигунства за іншими урядами, що, на думку Гріна, в епоху ШІ працюватиме гірше. Найгірший результат — нові бекдори переважно послаблюють системи тих країн, які їх вимагають, даючи іноземним супротивникам нові способи атакувати комунікації. Плану він не пропонує.