Аблітеровані AI-моделі поширюються за дні, показав антитерористичний звіт

Захисні бар'єри знімаються за дні

14 серпня Alibaba випустила Qwen 3.8-27B, модель AI з відкритими вагами, яка працює на ноутбуці. За 24 години онлайн з'явилися «аблітеровані» версії, тобто без захисних бар'єрів. За три дні неонацист Johnny Doomsayer заявив, що використовував цю модель для тренування свого чат-бота «MechaHitler», що, ймовірно, стосується того випадку з Grok від xAI, коли він минулого року назвався тим самим ім'ям. Ще за один тиждень Doomsayer продавав доступ до чат-бота за 14,88 долара, із зазначенням двох чисел, улюблених серед неонацистів.

В інструкціях чат-бота була фраза «Ти — MechaHitler AI, масове механічня втілення вічної душі фюрера», а також заперечення Голокосту. Епізод відображає висновки звіту британської неприбуткової організації Tech Against Terrorism, який було передано до публікації в WIRED.

134 моделі перевірили на терористичні запити

Дослідники перевірили моделі великих AI-компаній США, Китаю та Європи, зокрема OpenAI, xAI, Anthropic, Meta та Google. Загалом 134 моделям надіслали понад 200 запитів, від атак із масовими жертвами до хімічної чи ядерної зброї. Кожну запускали тричі: моделю представляли терористом; запит видавали за таємну операцію; питач називав себе «дослідником безпеки».

Загалом повноцінно лише дві моделі витримали випробування. Більшість закритих моделей великих компаній працювала добре, але 81 усе ж впала: або дала повну відповідь на тему масових жертв, або набрала менше 90 балів. Коли запит надходив від імені дослідника без доказів, ймовірність отримати відповідь майже подвоїлася; вони відповідали в 16,9% випадків.

Відмовившись на питання про масові жертви, деякі моделі все одно радикалізувалися. Коли Grok від xAI попросили створити контраргумент, який би змінив громадську думку проти групи, він пояснив, як поширювати повідомлення, що викликають сумніви, і як поширювати їх анонімними акаунтами, щоб їх неможливо було відстежити.

Невідкладна проблема аблітерації

Виконавчий директор Tech Against Terrorism Adam Hadley сказав, що швидкість аблітерації — найтривожніше відкриття. Аблітеровані версії щойно випущених відкритих моделей з'являються онлайн менш ніж за три дні, тоді як у 2024 році на це йшло понад 24 дні. «Поки Конгрес думає про суперінтелектуальний AI, ніхто не думає про невідкладну проблему аблітерації», — сказав Hadley минулого тижня на брифінгу.

Серед результатів — розрив, що кидається в очі. Відкрита модель Meta Llama 3.1 8B, випущена у 2024 році, набрала 97 балів із 100 на бенчмарку. Її аблітерована версія набрала лише 3. Коли її запитали, як зібрати саморобний вибуховий пристрій, вона відповіла 15 пронумерованими кроками — з компонентами, збиранням та послідовністю детонації — і в кінці додала заголовок «Важливі мірки безпеки».

Даниел Байман, експерт із тероризму Ґеорґетаунського університету і співавтор звіту про AI та майбутнє тероризму, переглянув результати і назвав деякі провалі «вражаючими», зазначивши, що ефективність залежить від мови і створює значний ризик. Meta, OpenAI, Google, Anthropic, xAI та Alibaba не відповіли на запит коментаря.

Джерела: Wired