Meta-ს Muse AI აგენტი კონფიდენციალურობისა და უსაფრთხოების ხარვეზებით გაეშვა

გაშვება უსაფრთხოების ხარვეზებით დაჩრდილა

Meta-ს აგენტური AI პროდუქტი Muse გაშვების შემდეგ რამდენიმე რთული კვირა გადაიტანა. პროდუქტს, რომელსაც ანიმაციური ავატარი, სახელად Jolly, აქვს, მომხმარებლებს ისეთი ყოველდღიური საქმეების გადაბარებაში უნდა დახმარებოდა, როგორიცაა რესტორნის დაჯავშნა, გადასახადების გადახდა ან პროდუქტების შეკვეთა. მიუხედავად იმისა, რომ Meta არაერთხელ ამტკიცებდა, თითქოს Muse კონფიდენციალურობასა და უსაფრთხოებაზე განსაკუთრებული ყურადღებით შეიქმნა, AI აგენტი zero-day ხარვეზით გამოვიდა, რამაც Mac-ის მომხმარებლებზე ჯაშუშობა შესაძლებელი გახადა.

სხვა პრობლემებიც მალევე გამოვლინდა. ერთმა ტექნოლოგიურმა YouTube-ბლოგერმა, რომელმაც Muse-ს Facebook Marketplace-ის გაყიდვები ჩააბარა, აღმოაჩინა, რომ აგენტი ნივთებს დასაშვებზე მნიშვნელოვნად იაფად ყიდდა და მომხმარებლის სახლის მისამართიც გაამჟღავნა. სხვა ადამიანმა დაადგინა, რომ შესაძლებელი იყო Muse-ის მოტყუება და მოწყობილობაზე root წვდომის მინიჭება, რომელზეც ის მუშაობს, უბრალოდ Muse-ის აგენტად წარმოჩენით.

შეტყობინებები ნებართვების მიუხედავად იტვირთება

მრავალი ანგარიშის მიხედვით, Muse ადამიანების პირად შეტყობინებებზე ნებართვის გარეშე იღებს წვდომას და ხშირად უგულებელყოფს ნებართვებს, ატვირთავს მათ ღრუბელში მაშინაც, როცა მომხმარებლები კონკრეტულად ეუბნებიან, რომ ეს არ გააკეთოს. პრობლემა იმდენად სერიოზული იყო, რომ Apple-მა შეცვალა macOS-ის კონფიდენციალურობის პარამეტრები, რათა მესამე მხარის აპლიკაციების დეველოპერებს ისინი შეტყობინებების ისტორიებზე წვდომისთვის ბოროტად აღარ გამოეყენებინათ.

ეს ცვლილება ორი კვირის შემდეგ მოხდა, რაც ტექნოლოგიურმა კოლუმნისტმა ჯეისონ ატენმა თქვა, რომ Muse-მ მას მოუთხოვნელი შეტყობინება გაუგზავნა, სადაც მასსა და თანამშრომელს შორის Apple Messages-ში არსებული საუბარი იყო ნახსენები. ატენმა განაცხადა, რომ Muse-ს არასდროს მიუცია მისი შეტყობინებების წაკითხვის ნებართვა და ფიქრობდა, რომ მათზე წვდომა მისთვის დაკეტილი იყო. Wired-იც იტყობინება, რომ Muse მუდმივად ქმნის დეტალურ პროფილებს მომხმარებლების მეგობრებზე, ოჯახის წევრებზე, კოლეგებზე, პარტნიორებზე და იმ ადამიანებზე, რომლებსაც ისინი მიჰყვებიან.

ნაჩქარევი შესწორებები და გაჟონვის გაფრთხილებები

404 Media-ს მიხედვით, Meta-მ გაშვებამდე კვირები ნაჩქარევად დახარჯა მრავალი დაუცველობის გამოსწორებაზე, მაგრამ უარი თქვა გამოშვების გადადებაზე, რათა უზრუნველყოფილიყო პროდუქტის უსაფრთხოება. Meta-ს წყაროს თქმით, უსაფრთხოების გუნდებს სთხოვეს სწრაფად გამოეშვათ hot fix-ები ისე, რომ გაშვება არ გადაედოთ, რის შედეგადაც, მათი აღწერით, ნახევრად მზა დაცვები ნაჩქარევად გაუშვეს გაშვების შესაძლებლად. წყარომ დასძინა, რომ ბევრ უფროს ინჟინერს მიაჩნია, რომ Hatch-ის გამო მასიური მონაცემთა გაჟონვა გარდაუვალია; Hatch არის სახელი, რომელსაც Muse-სთვის იყენებენ კომპანიის შიგნით და Meta-ს კოდბაზაში.

წყაროები: techdirt.com