Muse, Meta-ს არაჩვეულებრივად პრივილეგირებული AI ასისტენტი, სერიოზულ 0-day-ს შეიცავს

Meta-ს ახალ AI ასისტენტ Muse-ში 0-day მოწყვლადობაა, რომელიც ნებისმიერ ლოკალურ აპს ან ტერმინალის ბრძანებას ასისტენტზე სრულ კონტროლს აძლევს — წერდა Ars Technica 21 სექტემბერს. აღმოჩენა ეჭვქვეშ აყენებს მარკ ცუკერბერგის მტკიცებას Muse-ის „თავიდანვე უსაფრთხოებისთვის“ შექმნაზე.

ასისტენტი უჩვეულოდ ფართო წვდომით

Meta-მ Muse რამდენიმე კვირის წინ წარადგინა: კომპანიის თანახმად, ის ჯავშნებს ადგენს, ფორმებს ავსებს, შესყიდვებსა და დოკუმენტებს ქმნის, macOS-ის აპლიკაცია კი WhatsApp-ს, ელფოსტას, კალენდარსა და სოციალურ ქსელებს უკავშირდება. სამუშაოდ მას სერვისებზე ავტორიზაცია და სისტემის ნებართვები სჭირდება: ფაილები, მიკროფონი, კამერა, ლოკაცია, კალენდრები — წვდომა, რომელსაც Apple ჩვეულებრივ ინსტალირებული აპებისგან ხურავს.

ხარვეზი

Meta-მ ნებისმიერ ლოკალურად შესრულებულ კოდს, ამ ნებართვების მიუხედავად, მრავალი არადოკუმენტირებული პარამეტრის შეცვლის საშუალება მისცა. უმეტესობა უწყინარია, მაგალითად მუქი რეჟიმი. ერთი კი განსაზღვრავს მისამართს, სადაც ტრანსკრიფცია ხდება — ჩვეულებრივ ეს Meta-ს სერვერია. თავდამსხმელის მანქანაზე გადამისამართებით იქ მოხვდება ანგარიშის ავტორიზაციის ტოკენიც.

„შეგვიძლია აგენტის მანიპულირება და მისი პრივილეგიებით სასურველის კეთება, — განაცხადა პატრიკ ვარდლმა, macOS-ის უსაფრთხოების ექსპერტმა, რომელმაც ხარვეზი აღმოაჩინა. — სრულფასოვანი Mac-მავნებლის წერის ნაცვლად, უბრალოდ თავად AI ასისტენტს ვიყენებთ.“ მისი PoC შეტევები დისკზე მავნე ფაილებს წერდა და ფოტოებს იღებდა, ხშირად შეუმჩნევლად. Meta-ს წარმომადგენლებმა კითხვებს არ უპასუხეს.

საკმარისია ClickFix

ვარდლი ხარვეზს ორ დიზაინის გადაწყვეტილებას უკავშირებს: Muse დიქტოვკას ღრუბელში ამუშავებს, სადაც Meta მას აღრიცხავს, და არა მოწყობილობაზე, როგორც macOS იძლევა საშუალებას; ამასთან, ნებისმიერ აპს ყველა არადოკუმენტირებული პარამეტრის შეცვლა შეუძლია. მისი თქმით, საკმარისი იყო ClickFix-ის მარტივი ვარიაცია — ტექნიკა, რომელიც მომხმარებლებს ატყუებს და თავად ატარებინებს თავდამსხმელის ბრძანებებს. დეტალებს ის ნოემბერში, Objective by the Sea-ზე წარადგენს.

Amazon-მა Muse ჩაკეტა

დაახლოებით 12 საათით ადრე Amazon-მა მომხმარებლებს თავის საიტზე Muse-ით შოპინგი აუკრძალა და ის „არაავტორიზებულ AI აგენტად, რომელიც Amazon-ის გამოყენების პირობებს არღვევს“ მოიხსენია. კომპანიამ განაცხადა, რომ მომხმარებლის სახელით მოქმედი აპები „ღიად უნდა მუშაობდეს და პატივი სცეს სერვისის მიმწოდებლის გადაწყვეტილებას მონაწილეობაზე“, და Meta-ს Amazon-ის ამოღება სთხოვა. პუბლიკაცია ორი Meta-ს განმარტების შემდეგ გამოდის, რომლებშიც კომპანია ასისტენტის დიზაინს იცავს.