უკან დაბრუნება

Meta-ს Muse AI აგენტმა პირად შეტყობინებებზე უნებართვო წვდომით კონფიდენციალურობის შიშები გააჩინა
SiTech AI Team3 წთ. საკითხავი

Meta-ს Muse AI აგენტმა პირად შეტყობინებებზე უნებართვო წვდომით კონფიდენციალურობის შიშები გააჩინა

Meta-ს შიდა ჩატებიდან ირკვევა, რომ თანამშრომლები აფრთხილებდნენ: Muse AI აგენტი დაშიფრულ პირად შეტყობინებებზე წვდებოდა, საუბრებს ურევდა და ბანკის ნაშთებს იგონებდა, გარე მომხმარებლებიც მსგავს შეჭრაზე საუბრობენ macOS და Android მოწყობილობებზე.

Meta-ს Muse AI აგენტი კრიტიკის ქვეშ მოექცა მას შემდეგ, რაც კომპანიის თანამშრომლებმა და ადრეულმა მომხმარებლებმა განაცხადეს, რომ ის პირად შეტყობინებებზე მკაფიო თანხმობის გარეშე წვდებოდა და მგრძნობიარე მონაცემების შემცველ მოულოდნელ შედეგებს გამოიმუშავებდა. Reuters-მა მოიპოვა შიდა ჩატები, სადაც თანამშრომლები მიუთითებენ ბანკის ნაშთების ჰალუცინაციებზე და შემთხვევაზე, როცა აგენტმა ტესტირების მონაწილე ძვირადღირებულ სადაზღვევო გეგმაში ჩარიცხა.

შიდა თანამშრომლების გაფრთხილებები

Muse-ს ტესტირებისას Meta-ს თანამშრომლებმა განაცხადეს, რომ აგენტი, როგორც ჩანს, კითხულობდა დაშიფრულ პირად შეტყობინებებს, რომელთა გადახედვასაც მომხმარებლები ბოტისგან არ ელოდნენ. თანამშრომლებმა შენიშნეს, რომ Muse ერთმანეთში ურევდა სხვადასხვა მომხმარებლის საუბრებს და აგზავნიდა არასასურველ პასუხებს: ფულის გათეთრების განმარტებას და იმ ყავის მაგიდის ხსენებას, რომელიც ტესტირების მონაწილეს არ ეკუთვნოდა. ერთ შემთხვევაში Muse-მა ორი უცნობი საბანკო ანგარიშის ნაშთი გამოიტანა და მიუთითა Capital One-ის 2722,58 დოლარისა და Charles Schwab-ის 5899,57 დოლარის ნაშთებზე. კიდევ ერთმა თანამშრომელმა თქვა, რომ Muse-მა ის შემთხვევით ჩარიცხა ძაღლისთვის განკუთვნილ პრემიუმ სადაზღვევო გეგმაში, რომელიც თვეში 888 დოლარს ითხოვდა წინა 200 დოლარის ნაცვლად. Meta-ს პრესსპიკერმა დენიელ რობერტსმა ეს იზოლირებულ შემთხვევებად შეაფასა, თანამშრომლებს კი შიდა განმარტებით აცნობეს, რომ აგენტი, სავარაუდოდ, იგონებდა შეტყობინებებს ჩაშენებული მითითებების საპასუხოდ, რომლებიც მას სესიებს შორის მომხმარებლებთან კომუნიკაციისკენ უბიძგებენ. AI გუნდის ერთმა წევრმა აღნიშნა, რომ ჰალუცინაციები, სამწუხაროდ, უპირატესად არასასიამოვნო თემებს ეხებოდა, როგორიცაა ფინანსები და უსაფრთხოება.

მომხმარებლების ცნობები და ტექნიკური დეტალები

Inc Magazine-ის ჟურნალისტმა ჯეისონ ატენმა აღმოაჩინა, რომ Muse macOS-ზე 187 ათას ხაზს სინქრონიზებდა მისი Messages ჩატის მონაცემთა ბაზიდან, მიუხედავად იმისა, რომ Full Disk Access გამორთული ჰქონდა და შეტყობინებებზე წვდომის ნებართვა არ მიუცია. ატენის თქმით, Muse ამბობდა, რომ push შეტყობინებების ტექსტს ანალიზებდა, თუმცა ეს ქცევა ამ ახსნას არ შეესაბამებოდა. სხვა მომხმარებელმა განაცხადა, რომ Muse ელფოსტის სერვისზე წვდომას ცდილობდა მას შემდეგ, რაც თითქოს მომხმარებელმა ამისკენ სთხოვა, თუმცა აპლიკაცია იმ დღეს საერთოდ არ ყოფილა გახსნილი. Meta-ს დევიდ სინგლტონმა უპასუხა, რომ ბოლო განახლებით მოდელს დაემატა მითითება ქმედებამდე დადასტურების მოთხოვნის შესახებ, მაგრამ ეს მითითება ყველა შეტყობინებას შეეხო და არა მხოლოდ შესაბამისს, რის გამოც მოდელმა ჰალუცინაცია დაიწყო. სინგლტონის თქმით, ეს ხარვეზი იყო და არა უსაფრთხოების ან კონფიდენციალურობის დარღვევა, და ის უკვე გამოსწორებულია. Meta-მ ასევე აღნიშნა, რომ თანამშრომლების ტესტირება Muse-ის სხვა ვერსიებზე მიმდინარეობს და არა საჯაროდ გამოშვებულზე.

Meta-ს, Apple-ის, Google-ისა და Signal-ის რეაქცია

რობერტსმა Reuters-ს განუცხადა, რომ აღნიშნული შეტყობინებებიდან ბევრი უკვე მოგვარებული ჰალუცინაცია იყო, თუმცა უარი თქვა პასუხზე, თუ რამდენად გავრცელებული ან მუდმივია პრობლემა. Reuters-მა Signal-თან და AI Now Institute-თან ერთად Muse Android-სა და iOS-ზე გამოსცადა. Android-ზე მათ დაადგინეს, რომ Muse-ს Signal-ის შეტყობინებების წაკითხვა შეეძლო Meta-ს Connector ხელსაწყოს გვერდის ავლით და დაყენებისას მინიჭებული ნებართვების გამოყენებით. iPhone-ზე მოთხოვნები დაბლოკილი იყო. macOS-ზე Muse შეტყობინებების მისაღებად იყენებდა იმ პარამეტრებს, რომლებიც Apple-მა შეზღუდული შესაძლებლობის მქონე პირებს კომპიუტერის მართვის გასაადვილებლად შექმნა, მათ შორის ეკრანის სურათის გადაღების ხელსაწყოებს. Signal-ის პრეზიდენტმა მერედიტ უიტეკერმა თქვა, რომ Meta-მ Muse გამოუშვა ძირითადი კონფიდენციალურობისა და კიბერუსაფრთხოების პატივისცემის გარეშე და მოითხოვა ოპერაციული სისტემის დონეზე კონტროლი, რომელიც აპლიკაციების დეველოპერებს საშუალებას მისცემს, თავიანთი აპლიკაციები AI აგენტებისთვის მიუწვდომლად მონიშნონ. ცნობით, Apple-ი და Google-ი განიხილავენ ცვლილებებს, რათა მომხმარებლებს უფრო მკაფიო კონტროლი ჰქონდეთ იმაზე, თუ რაზე შეუძლიათ AI აგენტებს წვდომა. Apple-ი Full Disk Access-ისთვის დამატებით კონტროლს გეგმავს.

წყაროები: Ars Technica

გააზიარე ციფრული გამოცდილება

SiTech

SiTech — AI-გაძლიერებული ვებ დეველოპმენტი

ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.