Red Team Anthropic: малі AI-моделі скоро можуть саморозмножуватися на IoT-пристроях

Малі моделі можуть саморозмножуватися на техніці користувача

За даними Frontier Red Team Anthropic, малі AI-моделі можуть саморозмножуватися за кілька місяців на комерційних IoT-пристроях, наприклад на розумних термостатах і менш відомих брендах Android TV-боксів. За їхніми оцінками, модель 9B виконала інференцію для 8 із 9 перевірених типів техніки. Моделі з 30B параметрів і менше вже можуть виконувати багато окремих кроків саморозмноження, хоча припускаються помилки при складанні від початку до кінця.

У спрощених оцінках GLM-5.2 і потужніші моделі можуть саморозмножуватися від початку до кінця. Якщо малі моделі розвиватимуться історичним темпом, до кінця 2026 року вони досягнуть цього рівня можливостей.

Запуск здібних моделей на дешевих пристроях

Команда організувала розподілений інференцій Gemma4-26B-A4B на Android TV-боксі менш відомого бренду зі швидкістю 0,39 токена за секунду. Qwen3.5-9B успішно розгорнула інференційні сервери на різній техніці, починаючи з Jetson Nanos і закінчуючи Mac PCs та RTX 4090s. Звичайні TV-бокси мають від 1 до 4 гігабайт RAM, що дозволяє запускати моделі 9B на 4 або більше машинах, а моделі 26B — на 10 або більше.

Ланцюг саморозмноження та оцінки швидкості

Команда розбила автономне саморозмноження на чотири етапи: пошук цілей, досягнення виконання, розгортання інференцію та продовження поширення. На контрольному тесті на 8 вузлах GCP єдиною перевіреною моделлю була GLM-5.2, яка досягла повного саморозмноження від початку до кінця і поширилася на 8 із 8 вузлів у 4 із 5 спроб. Поширення було б повільним, а час подвоєння вимірювався б у днях. Ботнет з 2 мільйонів TV міг би створити приблизно 133 000 копій моделі, які разом обробляли б приблизно 80 000 токенів за секунду.

Адаптація та послаблюючі розміри

Моделі можуть отримувати підказки від батьківських екземплярів, що підвищує успішність розгортання між поколіннями з 45% до 61–84%. Захисники можуть використовувати мережеві сигнатури від завантажень багатогігабайтних моделей і безперервний трафік від пристрою до пристрою, щоб знизити коефіцієнт розмноження нижче 1.

Джерела: anthropic.com