Muse-ը մանրամասն պրոֆիլներ է ստեղծում բոլոր ընկերների և ընտանիքի անդամների մասին

Meta-ի AI գործակալ Muse-ը վիրուսային հիթ դարձավ. միլիոնավոր մարդիկ ներբեռնել են այն և միացրել բանկային հաշիվներ, հաղորդագրություններ կամ առողջության տվյալներ։ Հավելվածից հանված ֆայլերը ցույց են տալիս, թե ինչպես է գործակալը տվյալներ հավաքում օգտատիրոջ շրջապատի մասին։

Վերջին օրերին հետազոտողները հանել են Muse-ի ներքին ֆայլերը և հրապարակել գործակալի հրահանգները։ Անկախ AI անվտանգության հետազոտող Քարան Ջոշիի խոսքով՝ դրանք հանել է սովորական չաթի ինտերֆեյսով. Muse-ին խնդրել է պատճենել իր ֆայլերը։ Meta-ն ասում է, որ դրանք հասանելի էին թափանցիկության համար։

Պրոֆիլ յուրաքանչյուր մարդու համար, ով օգտատիրոջ կյանքում է

Ըստ հրահանգի՝ Muse-ը ամեն ժամ ստեղծում է «էջ յուրաքանչյուրի համար, ով օգտատիրոջ կյանքում է». հավաքում է տվյալներ ընտանիքի անդամների, պարտնյորների, ընկերների, կոլեգաների, «աշխատակիցների» և նրանց մասին, ում հետևում է։ Հիշողության հիման վրա խորհուրդներ է տալիս՝ ինչպես բարելավել հարաբերությունները կամ ուր տանել սուրճ սիրող ընկերոջը նախաճաշի։

Էջը սկզբում «աղքատիկ է» և աստիճանաբար լցվում է. այնտեղ կան բաժիններ Facts, History, The relationship, In common, Open threads և Strengthening։ Մոդելը օգտագործում է միայն հասանելի «ապացույցները». հորինված մանրամասնությունը դատարկ էջից վատ է։ Գրվում է, թե որտեղ է ապրում մարդը, ինչով է զբաղվում, կրկնվող թեմաները (բնակարան, խնայողության նպատակ) և «կարևոր ամսաթվերը», օրինակ՝ ծննդյան օրերը։ Strengthening-ը առաջարկում է բարելավման ուղիներ՝ զանգից մինչև հիշեցման ամսաթիվ։

Ինչո՞ւ է սա անհանգստացնում հետազոտողներին

«Ինձ թվում է՝ այս բոլոր հուշումներից և Muse-ին տրամադրվող տվյալներից նրանք ուզում են հասկանալ, թե ինչ հարաբերություններ ունեք իրական մարդկանց հետ։ Նրանք փորձում են ձեզ ճանաչել ընկերոջ նման, ինչը, անկեղծ ասած, տհաճ է»,— ասում է Ջոշին։

Չաթբոթերը սոցիալական տվյալներ էին գրանցում նաև ավելի վաղ, սակայն Muse-ի դեպքն առանձնահատուկ է Meta-ի պատմության և սոցիալական ցանցին լայն հասանելիության պատճառով։ Օքսֆորդի AI էթիկայի ինստիտուտի ասոցացված պրոֆեսոր Քարիսա Վելիսն ասում է, որ հոսքը միակողմանի է. «Մենք AI համակարգերին մեզ մասին շատ ավելի շատ տեղեկատվություն ենք տալիս, քան նրանք՝ մեզ»։

Meta-ի պատասխանը և պաշտպանության մեխանիզմները

Center for Democracy and Technology-ի AI կառավարման լաբորատորիայի տնօրեն Միրանդա Բոգենն ասում է, որ Muse-ը մրցակիցներից ավելի շատ ուշադրություն է դարձնում հարաբերություններին ու անձնական կապերին։ Օգնականները մղում են օգտատերերին ավելի շատ տվյալներ կիսել. «Այս գործիքները խնդրում են ամբողջ կյանքը մուտքագրել համակարգ՝ էլ. փոստ, օրացույցներ, ֆինանսական հաստատություններ, ամեն ինչ, որ օգնությունը օգտակար լինի»։

«Որպեսզի գործակալն օգտակար լինի և օգնի հասնել նպատակներին, անհրաժեշտ է համատեքստ ձեր և ձեր շփվողների մասին»,— WIRED-ին ասել է Meta-ի ներկայացուցիչ Դանիել Ռոբերտսը։ Ընկերության խոսքով՝ յուրաքանչյուր օգտատեր ունի իր վիրտուալ մեքենան, անհասանելի այլ գործակալների. հիշողությունը կարելի է ջնջել կամ արտաքին ծառայություններն անջատել ցանկացած պահի։ Muse-ը գնումից կամ էլ. փոստ ուղարկելուց առաջ պահանջում է հաստատում և պահում է աուդիտի մատյան։