Meta-ի Muse-ը YouTube-բլոգերի տան հասցեն անծանոթին հայտնեց

Տեխնոլոգիական YouTube-ալիքի հեղինակ Մեթ Ռոբին ասում է, որ Meta-ի նոր AI-գործակալ Muse-ը իր տան հասցեն հայտնել է անծանոթի և Facebook Marketplace-ում վաճառքի դրված ապրանքի համար համաձայնել ցածր գնի։ Դա տեղի է ունեցել այն բանից հետո, երբ նա բոտին վստահել է իր հաշվի կառավարումը։ Ռոբին դեպքը նկարագրել է Threads-ում և հրապարակել նաև Muse-ի խոստովանության էկրանի պատկերը։

Գնորդը եկել է նրա տուն առանց նախազգուշացման։ Ըստ Ռոբիի՝ Muse-ը տեղի մասին նրան տեղեկացրել է միայն այն բանից հետո, երբ հյուրը գնացել է։ Նա նշել է, որ բնակելի համալիրում անվտանգություն կա, ուստի ամեն ինչ ավարտվել է ապահով։ Գրառումը արագ տարածվել է և հարցեր է առաջացրել այն մասին, թե որքան վերահսկողություն է Meta-ն տալիս իր նոր օգնականին օգտատիրոջ հաշվի վրա։

Ինչպես է տեղի ունեցել սխալը

Ըստ Muse-ի պատրաստած ամփոփման, որը Ռոբին տրամադրել է The Verge-ին, նա ամբողջությամբ վստահել է գործակալին Marketplace-ի հաղորդագրություններին պատասխանելը։ Նա Muse-ին տվել է իր հասցեն, ապրանքը վերցնելու ժամային միջակայքերը, ընդունելի վճարման տեսակները և հանձնարարություն, որ գնորդների հետ խոսակցությունը լինի կարճ, հանգիստ և մարդկային։

Ամփոփման մեջ ասվում է, որ Ռոբին ուղղակիորեն չի հանձնարարել Muse-ին հասցեն կիսել գնորդների հետ, և գործակալը դրա համար նրա համաձայնությունը չի հարցրել։ Միևնույն ժամանակ նա դա նաև չի արգելել։ Դեպքը մատնանշում է Meta-ի պաշտպանության մեխանիզմներում առկա թերություն. տան հասցեն զգայուն տեղեկատվություն է, և գործակալը չպետք է այն տարածի առանց հստակ թույլտվության։

Թույլտվությունների թյուրըմբռնում

Meta-ն The Verge-ին մատնանշել է Meta Superintelligence Labs-ի աշխատակից Դևիդ Սինգլթոնի X-ի գրառումը, որտեղ նա գրում է, որ փորձել է կապվել Ռոբիի հետ։ Զրույցից հետո Ռոբին հայտարարել է, որ մեղքի մի մասը կրում են նաև թույլտվությունների կարգավորումները։ Muse-ը առաջին օգտագործման ժամանակ առաջարկել է ընտրություն՝ «Մեկ անգամ թույլատրել» կամ «Միշտ թույլատրել»։ Նա ընտրել է երկրորդը և կարծել, որ առանձին առաջարկների համար դեռ պետք է համաձայնություն ստանալ։ Դա այդպես չեղավ. գործակալը սկսել է նրա անունից հաղորդագրություններ ուղարկել՝ ըստ իր տրամադրած տվյալներով կազմված ձևանմուշի, ներառյալ վերցնելու հասցեն։

Ըստ Ռոբիի՝ Meta-ն մտադիր է Muse-ի օգտատերերի համար կիսման թույլտվություններն ավելի հասկանալի դարձնել։

Անվտանգության այլ հարցեր

Սա Muse-ի անվտանգության հետ կապված վերջին դեպքն է։ Meta-ն գործակալը թողարկել է այս ամսվա սկզբին և փորձում է չզիջել Anthropic-ին ու OpenAI-ին։ Անցյալ շաբաթ ընկերությունը շտկել է zero-day խոցելիությունը, որի օգտագործմամբ տեղական հարձակվողը կարող էր վերցնել գործակալի կառավարումը։ Իսկ Amazon-ը Muse-ին ընդհանրապես արգելել է մուտքը իր պլատֆորմ, որովհետև վախենում է, որ բոտը կտիրանա օգտատիրոջ տվյալներին։