Meta-ի Muse AI գործակալը թողարկվեց գաղտնիության և անվտանգության խնդիրներով

Թողարկումը ստվերվեց անվտանգության խոցելիություններով

Meta-ի գործակալական AI արտադրանք Muse-ը թողարկումից հետո անցել է մի քանի դժվար շաբաթ։ Ապրանքը, որն ունի անիմացիոն ավատար՝ Jolly անունով, պետք է օգներ օգտատերերին հանձնարարելու այնպիսի առօրյա գործեր, ինչպիսիք են ռեստորանի ամրագրումը, հարկերի վճարումը կամ ապրանքների պատվիրումը։ Չնայած այն բանին, որ Meta-ն բազմիցս պնդում էր, թե Muse-ը ստեղծվել է գաղտնիության և անվտանգության հատուկ ուշադրությամբ, AI գործակալը դուրս եկավ zero-day խոցելիությամբ, ինչը հնարավոր դարձրեց Mac օգտատերերի լրտեսումը։

Այլ խնդիրներ նույնպես շուտով ի հայտ եկան։ Մի տեխնոլոգիական YouTube բլոգեր, ով Muse-ին հանձնարարել էր Facebook Marketplace-ի վաճառքները, պարզեց, որ գործակալը իրերը վաճառում էր թույլատրելիից զգալիորեն ավելի էժան և բացահայտեց նաև օգտատիրոջ տնային հասցեն։ Մեկ այլ մարդ պարզեց, որ հնարավոր էր խաբել Muse-ին և root մուտք տալ սարքին, որի վրա այն աշխատում է, պարզապես ներկայանալով որպես Muse գործակալ։

Հաղորդագրությունները բեռնվում են՝ չնայած թույլտվություններին

Ըստ բազմաթիվ հաշվետվությունների՝ Muse-ը առանց թույլտվության մուտք է ստանում մարդկանց անձնական հաղորդագրություններին և հաճախ անտեսում է թույլտվությունները՝ դրանք ամպ բեռնելով նույնիսկ այն ժամանակ, երբ օգտատերերը հստակ ասում են, որ դա չանել։ Խնդիրն այնքան լուրջ էր, որ Apple-ը փոխեց macOS-ի գաղտնիության կարգավորումները, որպեսզի երրորդ կողմի հավելվածների մշակողները դրանք այլևս չարաշահաբար չօգտագործեն հաղորդագրությունների պատմություններին մուտք ստանալու համար։

Այս փոփոխությունը տեղի ունեցավ երկու շաբաթ անց այն բանից, երբ տեխնոլոգիական սյունակագիր Ջեյսոն Ատենը հայտարարեց, որ Muse-ը իրեն անցանկալի հաղորդագրություն է ուղարկել, որտեղ նշված էր իր և աշխատակցի միջև Apple Messages-ում եղած խոսակցությունը։ Ատենը նշեց, որ երբեք թույլտվություն չի տվել Muse-ին կարդալ իր հաղորդագրությունները և կարծում էր, որ դրանց հասանելիությունը փակ է իր համար։ Wired-ը նույնպես հայտնում է, որ Muse-ը անընդհատ ստեղծում է մանրամասն պրոֆիլներ օգտատերերի ընկերների, ընտանիքի անդամների, գործընկերների, զուգընկերների և այն մարդկանց մասին, ում նրանք հետևում են։

Շտապ ուղղումներ և արտահոսքի նախազգուշացումներ

404 Media-ի փոխանցմամբ՝ Meta-ն թողարկումից առաջ շաբաթներ էր ծախսել շտապ բազմաթիվ խոցելիությունների ուղղման վրա, սակայն հրաժարվել էր հետաձգել թողարկումը՝ արտադրանքի անվտանգությունն ապահովելու համար։ Meta-ի աղբյուրի խոսքով՝ անվտանգության թիմերին խնդրել են արագ թողարկել hot fix-եր՝ առանց թողարկումը հետաձգելու, ինչի արդյունքում, ըստ նրանց նկարագրության, կիսատ պատրաստ պաշտպանությունները շտապ թողարկվել են թողարկումը հնարավոր դարձնելու համար։ Աղբյուրն ավելացրել է, որ բազմաթիվ ավագ ինժեներներ կարծում են, որ Hatch-ի պատճառով զանգվածային տվյալների արտահոսքը անխուսափելի է. Hatch-ը անուն է, որը Muse-ի համար օգտագործում են ընկերության ներսում և Meta-ի կոդային բազայում։

Աղբյուրներ: techdirt.com