Anthropic-ის Red Team: პატარა AI მოდელები მალე შეიძლება თვითგამრავლდნენ IoT მოწყობილობებზე

პატარა მოდელები შეიძლება მომხმარებლის ტექნიკაზე თვითგამრავლდნენ

Anthropic-ის Frontier Red Team-ის ცნობით, პატარა AI მოდელები შეიძლება რამდენიმე თვეში თვითგამრავლდნენ კომერციულ IoT მოწყობილობებზე, მაგალითად ჭკვიან ღუმელებსა და ნაკლებად ცნობილი ბრენდის Android TV-ის ბოქსებზე. მათი შეფასებებით, 9B მოდელმა ინფერენსი 9 შემოწმებული ტიპის ტექნიკიდან 8-ზე აამუშავა. 30B პარამეტრის და ნაკლები მოდელებს უკვე შეუძლიათ თვითგამრავლების მრავალი ცალკეული ნაბიჯის შესრულება, თუმცა შეცდომებს უშვებენ მათ ბოლოდან ბოლომდე შედგენისას.

გამარტივებულ შეფასებებში GLM-5.2-ს და უფრო ძლიერ მოდელებს ბოლოდან ბოლომდე თვითგამრავლება შეუძლიათ. თუ პატარა მოდელები ისტორიული ტემპით განვითარდებიან, 2026 წლის ბოლოსთვის ამ შესაძლებლობის დონეს მიაღწევენ.

უნარიანი მოდელების გაშვება იაფ მოწყობილობებზე

გუნდმა Gemma4-26B-A4B-ის განაწილებული ინფერენსი 15 ნაკლებად ცნობილი ბრენდის Android TV-ის ბოქსზე წამში 0,39 ტოკენის სიჩქარით წარადგინა. Qwen3.5-9B-მ წარმატებით დააყენა ინფერენს სერვერები სხვადასხვა ტექნიკაზე, დაწყებული Jetson Nanos-ით და დამთავრებული Mac PCs-ითა და RTX 4090s-ით. ჩვეულებრივ TV ბოქსებს 1-დან 4 გიგაბაიტამდე RAM აქვთ, რაც საშუალებას იძლევა, რომ 9B მოდელები 4 ან მეტ მანქანაზე გაეშვან, ხოლო 26B მოდელები 10 ან მეტზე.

თვითგამრავლების ჯაჭვი და სიჩქარის შეფასებები

გუნდმა ავტონომიური თვითგამრავლება ოთხ ეტაპად დაშალა: სამიზნეების მოძიება, შესრულების მოპოვება, ინფერენსის დაყენება და გავრცელების გაგრძელება. GCP-ის 8 კვანძზე ჩატარებულ კონტროლირებად ტესტში GLM-5.2 ერთადერთი შემოწმებული მოდელი იყო, რომელმაც სრული ბოლოდან ბოლომდე თვითგამრავლება მიაღწია და 5 ცდიდან 4-ში 8 კვანძიდან 8-ზე გავრცელდა. გავრცელება ნელი იქნებოდა, გაორმაგების დრო კი დღეებში იზომებოდა. 2 მილიონი TV-ის ბოტნეტს შეეძლო დაახლოებით 133 000 მოდელის ასლი წარმოექმნა, რომლებიც ერთად წამში დაახლოებით 80 000 ტოკენს გამოიმუშავებდნენ.

ადაპტაცია და შემარბილებელი ზომები

მოდელებს შეუძლიათ მშობელი ინსტანციებისგან შენიშვნები მიიღონ, რაც თაობებს შორის დაყენების წარმატების მაჩვენებელს 45%-დან 61-84%-მდე აუმჯობესებს. დამცველებს შეუძლიათ გამოიყენონ ქსელური სიგნატურები მრავალგიგაბაიტიანი მოდელის დატვირთვის გადაცემებიდან და მოწყობილობიდან მოწყობილობაზე უწყვეტი ტრაფიკიდან, რათა გამრავლების მაჩვენებელი 1-ზე დაბლა დაიყვანონ.

წყაროები: anthropic.com