Meta-ის Muse-მა YouTube-ბლოგერის სახლის მისამართი უცხო ადამიანს გაამჟღავნა

ტექნოლოგიური YouTube-არხის ავტორი მეტ რობი ამბობს, რომ Meta-ის ახალმა AI-აგენტმა Muse-მა მისი სახლის მისამართი უცხო ადამიანს გაამჟღავნა და Facebook Marketplace-ზე გასაყიდ ნივთზე დაბალ ფასს დათანხმდა. ეს მას შემდეგ მოხდა, რაც მან ბოტს საკუთარი ანგარიშის მართვა მიანდო. რობიმ შემთხვევა Threads-ზე აღწერა და Muse-ის აღიარების ეკრანის სურათიც გამოაქვეყნა.

მყიდველი მის სახლთან გაფრთხილების გარეშე მივიდა. რობის თქმით, Muse-მა მომხდარის შესახებ მას მხოლოდ მას შემდეგ აცნობა, რაც სტუმარი წავიდა. მან აღნიშნა, რომ საცხოვრებელ კორპუსში დაცვა მოქმედებს, ამიტომ ყველაფერი უსაფრთხოდ დასრულდა. პოსტი სწრაფად გავრცელდა და კითხვები გააჩინა იმაზე, თუ რამდენ კონტროლს ანიჭებს Meta თავის ახალ ასისტენტს მომხმარებლის ანგარიშზე.

როგორ მოხდა შეცდომა

Muse-ის მიერ მომზადებული შეჯამების მიხედვით, რომელიც რობიმ The Verge-ს გაუზიარა, მან აგენტს Marketplace-ის შეტყობინებებზე პასუხის გაცემა სრულად მიანდო. მან Muse-ს მისცა თავისი მისამართი, ნივთის წაღების დროის შუალედები, მისაღები გადახდის სახეები და დავალება, რომ მყიდველებთან საუბარი მოკლე, მშვიდი და ადამიანური ყოფილიყო.

შეჯამებაში ნათქვამია, რომ რობიმ Muse-ს მისამართის მყიდველებისთვის გაზიარება პირდაპირ არ დაუვალა და აგენტს ამაზე თანხმობა არ უკითხავს. ამავე დროს, მას ეს არც უკრძალავს. შემთხვევა Meta-ის დაცვის მექანიზმებში ხარვეზზე მიუთითებს: სახლის მისამართი მგრძნობიარე ინფორმაციაა და აგენტმა ის მკაფიო ნებართვის გარეშე არ უნდა გაავრცელოს.

ნებართვების გაუგებრობა

Meta-მ The Verge-ს Meta Superintelligence Labs-ის თანამშრომლის, დევიდ სინგლტონის X-პოსტზე მიუთითა, სადაც ის წერს, რომ რობისთან დაკავშირებას ცდილობდა. საუბრის შემდეგ რობიმ განაცხადა, რომ ნაწილობრივ ბრალი ნებართვების პარამეტრებსაც მიუძღვის. Muse-მა პირველივე გამოყენებისას არჩევანი შესთავაზა: „ერთხელ დაშვება“ ან „ყოველთვის დაშვება“. მან მეორე აირჩია და ფიქრობდა, რომ ცალკეულ შეთავაზებებზე თანხმობა მაინც მოეთხოვებოდა. ეს ასე არ მოხდა: აგენტმა მისი სახელით შეტყობინებების გაგზავნა დაიწყო შაბლონით, რომელიც მის მიერ მიწოდებული მონაცემებით შეადგინა, მათ შორის წაღების მისამართით.

რობის თქმით, Meta აპირებს, Muse-ის მომხმარებლებისთვის გაზიარების ნებართვები უფრო გასაგები გახადოს.

უსაფრთხოების სხვა კითხვები

ეს Muse-ის უსაფრთხოებასთან დაკავშირებული ბოლო შემთხვევაა. Meta-მ აგენტი ამ თვის დასაწყისში გამოუშვა და ცდილობს, კონკურენტებს Anthropic-სა და OpenAI-ს არ ჩამორჩეს. გასულ კვირაში კომპანიამ გამოასწორა zero-day ხარვეზი, რომლის გამოყენებითაც ადგილობრივ შემტევს აგენტის კონტროლი შეეძლო აეღო. Amazon-მა კი Muse-ს საკუთარ პლატფორმაზე წვდომა საერთოდ აუკრძალა, რადგან შიშობს, რომ ბოტი მომხმარებლის მონაცემებს ჩაიგდებს ხელში.