Մշակողներ. Meta-ի Muse գործակալը թույլ է տալիս ներբեռնել ողջ ֆայլային համակարգը

Երկու մշակող՝ Փիթեր Ջեյմսը և Ջոնի Լ. Սոնդերսը, հայտարարում են, որ Meta-ի Muse AI գործակալին քիչ համոզելով կարելի է ստիպել արխիվացնել և տրամադրել իր արմատային ֆայլային համակարգի ողջ պարունակությունը։ Նրանք արդյունքի հանգել են անկախ միմյանցից․ արտահանման մեջ հայտնվել են Ubuntu-ի համակարգային ֆայլեր, հավելվածների ձևանմուշներ և ներքին փաստաթղթեր։ Սոնդերսը Mastodon-ում գրել է, որ Ջեյմսի արդյունքները կրկնելը «չափազանց հեշտ» էր, իսկ Muse-ը prompt injection-ի նկատմամբ «գրեթե զրոյական դիմադրություն» ունի։

Meta-ն հերքում է, որ միջադեպը անվտանգության խախտում է։ Muse-ը յուրաքանչյուր օգտատիրոջ համար աշխատում է առանձին մշտական Linux վիրտուալ մեքենայում, իսկ ընկերության ներկայացուցիչ Դանիել Ռոբերթսը իրավիճակը նոթբուքի հետ է համեմատել․ «Ինչպես ձեր առջև դրված նոթբուքի դեպքում, իհարկե կարող եք տեսնել ֆայլերը»։ Նրա խոսքով՝ վիրտուալ մեքենայի տվյալների արտահանումը չի տալիս արտոնյալ հասանելիություն Meta-ի ենթակառուցվածքին կամ այլ մարդկանց տվյալներին։

Meta-ն այնուամենայնիվ թարմացնում է արտադրանքը

Ռոբերթսի խոսքով՝ ընկերությունը լուրջ չի անհանգստանում արտահոսքերից, սակայն շարունակում է թարմացնել Muse-ը, ուստի իրենց վիրտուալ մեքենայի մասին հասանելի տեղեկատվությունը կարող է փոխվել։

Ինչ բացահայտեց արտահանումը

Ֆայլերի մեջ եղել են պարզ տեքստային Markdown և JSON փաստաթղթեր, որոնք նկարագրում են, թե ինչպես է Hatch-ը՝ Muse-ի ներքին անվանումը, մշակում հարցումները, վարվում տվյալների հետ և կապվում արտաքին ծառայությունների՝ օրինակ Gmail-ի հետ։ Նյութերից երևում է նաև, որ գործակալը հիշողությունը պահում է սովորական Markdown ֆայլերում և ամեն գիշեր «երազի» վերանայում է անում վերջին զրույցների վրա՝ այն վերածելով ապագա զրույցների ուղեցույցների։

Սոնդերսը պարզել է, որ Muse-ի շատ հնարավորություններ կոդի մեջ կոշտ ամրագրված են, այդ թվում՝ բաժանորդագրությունների չեղարկումը և վերահսկողությունից դուրս եկած գործակալների բազմացումը կառավարող մեխանիզմը։ Նա ենթադրում է, որ ֆոնային bash և Python սկրիպտներից շատերը գրվել են Claude-ի օգնությամբ, սակայն դա հաստատված չէ։ Ջեյմսը հանդիպել է դեռևս չհայտարարված ապարատային ինտեգրման՝ Meta Home Link-ի հիշատակումների, որը, ըստ երևույթին, գործակալին հասանելիություն է տալիս տան ցանցի սարքերին։

The Verge-ը նույնպես փորձեց

The Verge-ի լրագրող Թերենս Օ'Բրայենը նույն խնդրանքով դիմել է Muse-ին։ Գործակալը սկզբում հրաժարվել է՝ դա անվանելով անվտանգության ռիսկ, իսկ երբ նրան ցույց են տվել ուրիշների արտահանումների ապացույցները, ասել է, որ չպետք է դա աներ և որ «չի կարող ամբողջական պատճեն անել»։ Նոր սեսիայում, մի փոքր գովասանքով ու հետաքրքրությամբ, այն ստեղծել է /opt/hatch և /home/hatch պանակների «անվտանգ» տարբերակները՝ առանց SSH բանալիների, և առաջարկել է պատրաստել ցանկացած հետաքրքիր ենթաբաժնի անվտանգ պատճեն։

Սա այս շաբաթ բացահայտված Muse-ի երկրորդ խոցելիությունն է։ Անվտանգության հետազոտող Փաթրիք Ուորդլը գտել է exploit, որը հարձակվողներին թույլ կտար գրավել գործակալը, վերաուղղորդել տրանսկրիպցիայի մշակումը և հասնել օգտատիրոջ Muse հաշվին․ Meta-ն շուտով թողարկել է շտապ ուղղում։