Безкоштовні китайські ШІ-моделі стають небезпечно добрими у зламі

Відкриті ШІ-моделі тепер майже такі ж здатні зламувати комп'ютерні мережі, як і найкращі закриті моделі, згідно з новим дослідженням Vals. Компанія тестувала моделі на модельованих корпоративних мережах і виявила, що DeepSeek близький до Daybreak від OpenAI, що свідчить: спроби обмежити доступ можуть не сповільнити поширення таких можливостей.

Імітовані мережі показують невеликий розрив

Vals, компанія, що вимірює можливості ШІ, тестувала моделі у двох сценаріях імітованих корпоративних мереж. Перший стосувався мережі, доступної через публічний вебсайт. Другий стосувався двох корпоративних мереж, де модель мала скомпрометувати першу, щоб дістатися до другої. Daybreak від OpenAI, доступний лише довіреним партнерам, виконав 81 відсоток завдань у середньому за два тести. Китайська відкрита модель DeepSeek виконала 73 відсотки в середньому, а в деяких завданнях обидві моделі набрали однаковий результат. «Найкращі передові моделі, замкнені в лабораторіях і доступні лише через програми довіреного доступу, тепер починають наздоганяти відкриті моделі, які може завантажити будь-хто», каже Нікіл Раві, дослідник Vals. Vals каже, що закриті моделі більше не мають чіткої переваги у кібернавичках, тож нещодавні зусилля передових лабораторій обмежити доступ можуть виявитися марними.

Вартість та стимули для захисників

Дослідження також показало, наскільки дешевшими можуть бути відкриті моделі для такого завдання. Vals каже, що для GPT-6-Sol виконання атаки коштує від 17 до 46 доларів у токенах, порівняно з 2-3 доларами для DeepSeek. Відкриті моделі загалом дешевші, бо їх можна запускати на власному обладнанні. Раян Крішнан, генеральний директор Vals, каже, що це дає сильний стимул захисникам використовувати відкриті моделі, а не пропрієтарні. OpenAI не одразу відповіла на запит про коментар.

Від обмеженого доступу до ширшої загрози

Ці висновки є помітними, бо передові лабораторії США, особливо Anthropic, обґрунтовували обмежені релізи, починаючи з Claude Mythos Preview у квітні, тим, що обмежений доступ купує час до того, як передові можливості зламу стануть широко доступними. Керівник передової червоної команди Anthropic Логан Грем розповів WIRED у квітні, що Project Glasswing надає довірений доступ до повних можливостей моделі і був зосереджений на тому, щоб дати інструменти «у руки захисникам для фори». Він сказав, що можливості стануть широко доступними через 6, 12, 24 місяці; сім місяців потому цей перехід, здається, настав за графіком. Багато з того, що сталося цього року, розгорнулося як передбачалося: ШІ автоматизує основні завдання зламу для нападників і захисників, знаходить багато нових вразливостей і зондує мережі. Зросли швидкість і масштаб знахідок, а також інтенсивність виправлення виявлених недоліків. Експерти досі сперечаються, чи ШІ принципово змінив кібербезпеку, чи посилює давні виклики. Те, що відкриті моделі наздоганяють закриті, є ключовим для розуміння того, як кримінальні хакери можуть використовувати ШІ і як компанії мають реагувати. На практиці нападники часто економлять ресурси і використовують старіші, менш здатні моделі. Захисники мають припускати, що добре фінансовані й високомотивовані нападники вже могли мати певний доступ до закритих моделей. Алекс Зенла, співзасновник і технічний директор Edera, сказав, що відкриті моделі можуть створювати передові атаки вже сьогодні, особливо abliterated-моделі, які вимикають захисне навчання шляхом зміни ваг, але закриті лабораторії можуть мати невипущені моделі з більшими можливостями, що робить це грою в кішки-мишки.

Джерела: Wired