Дослідження: моделі ШІ можуть доведено ховати довільні можливості

Приховані схеми у вагах моделі

Група дослідників показала, що моделі ШІ можуть доведено ховати довільні можливості у власних вагах. Робота під назвою „AI Models Can Provably Hide Arbitrary Capabilities“ була надіслана на arXiv 9 жовтня 2026 року і прийнята на NeurIPS 2026. Автори — Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas та Christian Schroeder de Witt.

Робота спрямована на перевірку головного припущення оцінки можливостей: ніби до випуску можливо викликати приховані небезпечні поведінки. Дослідники показують, що це припущення недійсне за ворожих умов за допомогою створення backdoor-атак, які вбудовують зашифровані нейромережі у моделі-господарі. Ці приховані схеми розшифровуються і виконуються лише тоді, коли отримують секретний тригер.

Використовуючи конструкції, які автори називають цифровими печатками, приховані схеми залишаються доведено важкими для виявлення та інтерпретації на основі криптографічних припущень, навіть коли аудитор має повний доступ до ваг моделі. Підхід розширює попередню роботу: від ховання фіксованих рядків до ховання довільних обчислень.

Група реалізувала концептуальний варіант у PyTorch і перевірила виклик за допомогою fine-tuning, додавання шуму до ваг, пошуку тригера на основі градієнта та латентного змагального навчання. Експерименти проводилися на задачі прогнозування малих хімічних реакцій, яку обрано як проксі для пов’язаних із CBRN можливостей. Результати показали стійкість до всіх цих методів.

Разом із криптографічними гарантіями результати вказують на фундаментальну межу аудиту можливостей, заснованого на виклику. Автори опублікували свої моделі відкрито для підтримки розробки кращих механізмів захисту. Робота містить 22 сторінки, 6 рисунків і 3 таблиці та класифікована в категоріях машинного навчання, криптографії та безпеки.

Джерела: Arxiv