Muse ყველა მეგობარზე და ოჯახის წევრზე დეტალურ პროფილებს ქმნის

Meta-ს AI აგენტი Muse ვირუსული ჰიტი გახდა: მილიონობით ადამიანმა ჩამოტვირთა და დაუკავშირა საბანკო ანგარიშები, შეტყობინებები თუ ჯანმრთელობის მონაცემები. აპლიკაციიდან ამოღებული ფაილები აჩვენებს, როგორ აწყობს აგენტი ინფორმაციას მომხმარებლის გარშემომყოფებზე.

ბოლო დღეებში რამდენიმე მკვლევარმა Muse-ის შიდა ფაილები ამოიღო და აგენტის ოპერაციული ინსტრუქციები გამოაქვეყნა. დამოუკიდებელი AI უსაფრთხოების მკვლევრის, კარან ჯოშის, თქმით, ინსტრუქციები ჩვეულებრივი ჩატის ინტერფეისით ამოიღო: Muse-ს საკუთარი ფაილების დაკოპირება სთხოვა. Meta ამბობს, რომ ეს ფაილები გამჭვირვალობისთვის იყო ხელმისაწვდომი.

პროფილი ყველა ადამიანისთვის, ვინც მომხმარებლის ცხოვრებაშია

ერთი ინსტრუქციის მიხედვით, Muse საათში ერთხელ ქმნის „გვერდს ყოველი ადამიანისთვის, ვინც მომხმარებლის ცხოვრებაშია“: აგროვებს მონაცემებს ოჯახის წევრებზე, პარტნიორებზე, მეგობრებზე, კოლეგებზე, „თანამშრომლებზე“ და მათზე, ვისაც მიჰყვება. მეხსიერებაზე დაყრდნობით რჩევებს აძლევს: როგორ გააუმჯობესოს ურთიერთობა ან სად წაიყვანოს ყავის მოყვარული მეგობარი საუზმეზე.

გვერდი თავიდან „მწირია“ და თანდათან ივსება; მასში შეიძლება იყოს სექციები Facts, History, The relationship, In common, Open threads და Strengthening. მოდელი მხოლოდ ხელმისაწვდომ „მტკიცებულებებს“ იყენებს; გამოგონილი დეტალი ცარიელ გვერდზე უარესია. გვერდზე იწერება, სად ცხოვრობს ადამიანი, რას საქმიანობს, განმეორებადი თემები (ბინის გადაცვლა, საერთო დანაზოგის მიზანი) და „მნიშვნელოვანი თარიღებიც“, მაგალითად დაბადების დღეები. Strengthening კი გაუმჯობესების გზებს გვთავაზობს, დარეკვის მიზეზიდან დასამახსოვრებელ თარიღამდე.

რატომ აღელვებს ეს მკვლევრებს

„ჩემთვის ასე ჩანს: ყველა ამ პრომპტიდან, უნარების მონაცემებიდან და იმ ინფორმაციიდან, რასაც Muse-ს აწოდებენ, მათ სურთ გაიგონ, რა ურთიერთობები გაქვთ რეალურ ადამიანებთან. ისინი ცდილობენ, შენ მეგობარივით გიცნობდნენ, რაც, გულწრფელად რომ ვთქვათ, საკმაოდ არასასიამოვნოა“, ამბობს ჯოში.

ჩატბოტები სოციალურ ინფორმაციას ადრეც აღრიცხავდნენ, თუმცა Muse-ს შემთხვევა განსაკუთრებულია Meta-ს ისტორიისა და სოციალურ ქსელზე ფართო წვდომის გამო. ოქსფორდის AI-ის ეთიკის ინსტიტუტის ასოცირებული პროფესორი კარისა ველისი ამბობს, რომ ინფორმაციის ნაკადი ცალმხრივია: „AI სისტემებს ჩვენზე ბევრად მეტ ინფორმაციას ვაძლევთ, ვიდრე ისინი გვაძლევენ“.

Meta-ს პასუხი და დაცვის მექანიზმები

Center for Democracy and Technology-ის AI-ის მმართველობის ლაბორატორიის დირექტორი მირანდა ბოგენი ამბობს, რომ Muse კონკურენტებთან შედარებით უფრო მეტ ყურადღებას უთმობს ურთიერთობებსა და პირად კონტაქტებს. ასისტენტები კი მომხმარებლებს მეტი მონაცემის გაზიარებისკენ უბიძგებენ: „ეს ხელსაწყოები აქტიურად სთხოვენ მომხმარებლებს, მთელი ცხოვრება ჩასვან სისტემაში: ელფოსტა, კალენდრები, ფინანსური ინსტიტუტები, ყველაფერი, რომ დახმარება სასარგებლო იყოს“.

„ნებისმიერი აგენტისთვის, რომ ის სასარგებლო იყოს და მიზნების მიღწევაში დაგეხმაროთ, საჭიროა კონტექსტი თქვენსა და მათ შესახებ, ვისთანაც ურთიერთობთ“, განუცხადა WIRED-ს Meta-ს წარმომადგენელმა დანიელ რობერტსმა. კომპანიის თქმით, ყოველ მომხმარებელს საკუთარი ვირტუალური მანქანა აქვს, სხვა აგენტებისთვის მიუწვდომელი; მეხსიერების წაშლა ან გარე სერვისების გათიშვა ნებისმიერ დროს შეიძლება. Muse შესყიდვამდე ან ელფოსტის გაგზავნამდე დადასტურებას ითხოვს და აუდიტის ჟურნალს ინახავს.