Meta-ն շտկել է Muse-ի զրոյական օրվա խոցելիությունը, որով կարելի էր վերահսկել AI գործակալին

Meta-ն շտկել է Muse macOS հավելվածի զրոյական օրվա խոցելիությունը, որը հայտնաբերել է անվտանգության հետազոտող Պատրիկ Ուորդլը. այն թույլ էր տալիս հարձակվողին վերահսկողության տակ վերցնել AI գործակալին։ Ըստ Ars Technica-ի՝ թերությունը հիմնված էր Muse-ի չփաստաթղթավորված կարգավորման վրա, որը սարքում արդեն աշխատող կոդին հնարավորություն էր տալիս տառադարձման մշակումը Meta-ի սերվերներից ուղղել հարձակվողի ընտրած հասցեին և այդպիսով մուտք ստանալ տուժողի Muse հաշիվ։

Ինչ կարող էր անել թերությունը

Խնդիրը պայմանավորված էր մի քանի նախագծային որոշումներով. Muse-ի թելադրությունը կատարվում է ամպում, ոչ թե սարքում, իսկ ցանկացած հավելված կարող էր փոխել Muse-ի բոլոր չփաստաթղթավորված կարգավորումները։ Ուորդլը մշակել է ապացուցողական հարձակումներ, որոնցով գործակալի միջոցով լուսանկարել է և վնասակար ֆայլեր գրել սկավառակի վրա՝ շատ դեպքերում առանց օգտատիրոջը զգուշացնելու։

«Մենք կարող ենք մանիպուլյացիայի ենթարկել գործակալին և օգտագործել նրա արտոնությունները՝ անելու այն, ինչ ուզում ենք։ Այսինքն՝ ընդարձակ Mac վնասակար ծրագիր գրելու փոխարեն կարող ենք օգտագործել հենց AI օգնականին», — Ars Technica-ին ասել է Ուորդլը։ Նրա խոսքով՝ Meta-ն «անվտանգության մասին պետք է մտածեր հենց սկզբից, բայց դա չի անում»։

Meta-ն՝ տեղային հարձակում՝ ցածր գործնական ռիսկով

Meta-ն թերությունը շտկել է Ars Technica-ի հրապարակումից ժամեր անց և հայտարարել, որ իրական ռիսկը նվազագույն էր, քանի որ շահագործումը պահանջում էր տեղային մուտք օգտատիրոջ սարքին։ «Սա տեղային արտոնությունների ընդլայնման հարձակում էր, ոչ թե հեռավոր շահագործում։ Վնաս հասցնելու համար անհրաժեշտ է վնասակար կոդ, որն արդեն աշխատում է օգտատիրոջ մեքենայում իր հաշվի ներքո, ուստի Muse Mac հավելվածի օգտատերերի համար գործնական ռիսկը բավականին ցածր էր», — X-ում գրել է Meta Superintelligence Labs-ի Դեյվիդ Սինգլթոնը։ «Այդուհանդերձ, խնդիրը լուծելու համար հավելվածի համար շտապ ուղղում ենք թողարկել»։

Լայն համատեքստ

Ուղղումը թողարկվել է այն ժամանակ, երբ Muse-ն արդեն ուշադրության կենտրոնում է։ Amazon-ը վերջերս արգելափակել է գործակալի մուտքը իր առևտրային հարթակ, պնդելով, որ Meta-ն երբեք թույլտվություն չի ստացել։ Այնուամենայնիվ, մեկնարկը հաջող է անցել. Muse բջջային հավելվածի գնահատված ներբեռնումները առաջին 12 օրում, ըստ հաղորդումների, գերազանցել են ChatGPT-ի 12-օրյա մեկնարկը ԱՄՆ-ում և Կանադայում, իսկ Meta-ի բաժնետոմսերը երկուշաբթի օրը բարձրացել են 11 տոկոսով։