Anthropic Red Team: Kiçik AI modellər tezliklə IoT cihazlarda öz-özünü çoxalda bilərlər

Kiçik modellər istifadəçi cihazlarında öz-özünü çoxalda bilərlər

Anthropic Frontier Red Team-in məlumatına görə, kiçik AI modellər bir neçə ay ərzində kommersiya IoT cihazlarında, məsələn ağıllı kombilər və az tanınmış brendlərin Android TV qutularında öz-özünü çoxalda bilərlər. Onların qiymətlərinə görə, 9B model inferensiyanı 9 yoxlanılmış növ texnikadan 8-də işləyib. 30B və daha az parametrləri olan modellər artıq öz-özünü çoxalmanın bir çox ayrı addımını yerinə yetirə bilər, lakin onlar səhvləri sonundan sona qurarkən edirlər.

Sadələşdirilmiş qiymətlərdə GLM-5.2 və daha güclü modellər sonundan sona öz-özünü çoxalmağı bacara bilərlər. Əgər kiçik modellər tarixi temp ilə inkişaf etsələr, 2026-cı ilin sonuna qədər bu imkanın səviyyəsinə çatacaqlar.

Bacarıqlı modellərin ucuz cihazlarda işə salınması

Qrup Gemma4-26B-A4B-in paylanmış inferensiyasını 15 az tanınmış brendin Android TV qutusunda saniyədə 0,39 token sürəti ilə işə saldı. Qwen3.5-9B inferensiyanı müxtəlif texnikalarda, Jetson Nanos-dan başlayaraq Mac PCs və RTX 4090s ilə başa çatdıqları serverlərdə uğurla quraşdırdı. Adi TV qutuları 1-dən 4 gigabayta qədər RAM-ə malikdir, bu isə 9B modellərin 4 və daha çox maşında, 26B modellərin isə 10 və daha çox maşında işə salınmasına imkan verir.

Öz-özünü çoxalma zənciri və sürət qiymətləri

Qrup avtonom öz-özünü çoxalmanı dörd mərhələyə böldü: hədəflərin axtarılması, icrasın əldə edilməsi, inferensiyanın quraşdırılması və yayılmanın davam etdirilməsi. GCP-nin 8 düyünündə aparılan nəzarət testində GLM-5.2 yoxlanılan yeganə model idi ki, tam sonundan sona öz-özünü çoxalmağa çatdı və 5 cəhddən 4-də 8 düyündən 8-ə yayıldı. Yayılma ləng olardı, çoxalma müddəti isə günlərlə ölçülərdi. 2 milyon TV botnet təxminən 133 000 model nüsxəsi yarada bilərdi ki, bunlar birlikdə saniyədə təxminən 80 000 token işləyərdilər.

Adaptasiya və azaldıcı tədbirlər

Modellər ana nüsxələrdən qeydləri qəbul edə bilər, bu isə nəsillər arası quraşdırma uğurluğunu 45%-dən 61-84%-ə qədər yüksəldir. Müdafiəçilər çoxgigabaitli modelin yüklənmə ötürülmələrindən və cihazdan cihazə davamlı trafikdən şəbəkə imzalarından istifadə edərək çoxalma göstəricisini 1-in altına endirə bilərlər.

Mənbələr: anthropic.com