Anthropic'in Red Team'i: Küçük AI modelleri yakında IoT cihazlarında kendini çoğaltabilir

Küçük modeller kullanıcı teknolojisinde kendini çoğaltabilir

Anthropic'in Frontier Red Team'e göre, küçük AI modelleri birkaç ay içinde akıllı termostatlar ve daha az bilinen markalı Android TV kutuları gibi ticari IoT cihazlarında kendini çoğaltabilir. Değerlendirmelerine göre 9B model, doğrulanmış 9 teknoloji tipinin 8'inde çıkarımı başarıyla tamamladı. 30B parametre ve daha az olan modeller kendini çoğaltmanın birçok ayrı adımını yerine getirebiliyor; ancak bunları uçtan uca düzenlerken hata yapıyorlar.

Basitleştirilmiş değerlendirmelerde GLM-5.2 ve daha güçlü modeller uçtan uca kendini çoğaltabilir. Küçük modeller tarihsel hızda gelişmeye devam ederse, bu yetenek düzeyine 2026 yılı sonuna kadar ulaşacaklar.

Yetenekli modellerin ucuz cihazlarda çalıştırılması

Ekip, Gemma4-26B-A4B'nin dağıtılı çıkarımını saniyede 0,39 token hızla 15 daha az bilinen markanın Android TV kutusunda üretti. Qwen3.5-9B, farklı teknolojilerdeki sunuculara başarıyla inferans kurdu; Jetson Nanos ile başlayıp Mac PC'ler ve RTX 4090'lar ile sonlandı. Normal TV kutuları 1 ila 4 gigabayt RAM'e sahiptir; bu, 9B modellerin 4 veya daha fazla makineye, 26B modellerin 10 veya daha fazlasına yayılmasına olanak tanır.

Kendini çoğaltma zinciri ve hız değerlendirmeleri

Ekip otonom kendini çoğaltmayı dört aşamaya böldü: hedefleri bulma, yeterlilik edinme, inferans kurma ve yayılmayı sürdürme. GCP'nin 8 düğümünde yapılan kontrollü testte GLM-5.2, tam uçtan uca kendini çoğalttığı doğrulanmış tek modeldi ve 5 denemeden 4'ünde 8 düğümün 8'ine yayıldı. Yayılma yavaş olacaktı; çoğalma süresi günler içinde ölçülecekti. 2 milyon TV'lik bir botnet yaklaşık 133 000 model kopyası oluşturabilirdi; bunlar birlikte saniyede yaklaşık 80 000 token üretebilirdi.

Uyarlama ve hafifletici önlemler

Modeller, üst örneklerden öğrenerek nesiller arası kurulum başarı oranını %45'ten %61-84'e yükseltebilir. Savunanlar, çoğalma oranını 1'in altına çekmek için çok gigabaytlı model yüklemeleriyle cihazdan cihaza sürekli trafiği ağ imzalarını kullanabilir.

Kaynaklar: anthropic.com