Meta-ն անտողական AI ենթակերպման հզորությունը վերածեց ավելի լավ գովազդային ռեկոմենդացիոն

Ենթակերպման հզորության պարադոքսը

Meta-ն ստեղծել է համակարգ, որը գովազդի ռեկոմենդացիաները բարելավում է իր ֆլոտում գտնվող անտողական ենթակերպման հզորության օգտագործմամբ։ Ենթակերպման ֆլոտները հանդիպում են հզորության պարադոքսի հետ. հնարավոր է դրանք լինեն գլոբալ սահմանափակված, երբ հզորության զգալի մասերը տեղական մակարդակում անտողական են մնում։ Հաճախ հանդիպող պատճառներն են պիկային ապահովման և պահանջման փոփոխականության անհամապատասխանությունը, մոդելների մշակման և հզորության առաջարկման ժամանակի անհամապատասխանությունը, ռեգիոններում ռեսուրսների համամասնության անհամապատասխանությունը ևացելերատորի տեսակի անհամապատասխանությունը։ Meta-ի մասշտաբով այս ժամանակավոր խոցերը միասին զգալի հզորություն են ներկայացնում և անվտանգ օգտագործման դեպքում ավելի լավ գովազդային ռեկոմենդացիաներ են ստեղծում։

Էլաստիկության երկու սահմանափակում

Համակարգը օգտագործում է երկու համատեղելի սահմանափակում։ Rank More Ads (RMA)-ն կանոնավորում է ռանժիրումների փուլերի կողմից գնահատված թեկնածուների քանակը, երբ անտողական հզորությունը հասանելի է, և մեծացնում է օգտատերերի համար համապատասխան գովազդների որոնման հավանականությունը։ RMA-ն պահանջում է ինչպես CPU-ի, այնպես էլացելերատորի ավելորդ ռեսուրսները։ Serve Better Models (SBM)-ն կանոնավորում է ավելի ուժեղ մոդելի վրա վերահասցեավորված հարցումների տոկոսը ըստացելերատորի հզորության փոփոխությունների՝ պահպանելով ռանժիրումների փուլերում մուտք գործող գովազդների քանակընթացիկը, որպեսզի CPU-ի պահանջումը կայուն մնա։ Դրանով է որ SBM-ն կարող է օգտագործել միայնացելերատորի ավելորդ ռեսուրսները, որոնք RMA-ն չի կարող օգտագործել։ Մոդելի ուղղորդիչ բաղադրիչը օգտագործում է հարցման արժեքության ազդանշանները՝ առաջնահերթություն տալով նման հարցումներին, որոնք, ըստ ենթադրության, ամենաշատ են շահում ավելի ուժեղ մոդելից։

Հիմնական տրաֆիկի պաշտպանությունը

Ֆիզիկական և լոգիկական իզոլյացիան պաշտպանում է հիմնական ծառայությունների համար վերապահված հզորությունը։ SBM-ն օգտագործում է ֆիզիկական իզոլյացիան. հիմնական և ավելի ուժեղ մոդելները ռոուտինգի առանձնացված նպատակներ են օգտագործում՝ հիմնականի համապատասխան վերարտադրությամբ և ավելի ուժեղ մոդելի համապատասխան անտողական վերարտադրությամբ։ RMA-ն օգտագործում է լոգիկական իզոլյացիան. համակարգը հաշվում է, թե քանի լրացուցիչ թեկնածուների ռանժիրումները կարող են իրականացնել անտողական վերարտադրությունը և սահմանում է գլոբալ բյուջեը։ RMA-ն օգտագործում է փակ հետադարձ կապի կլորը կենտրոնական PID կանտրոլերի և հաճախորդի կողմնակի իրականացմամբ, որը հիմնված է դիտված կոդի դադարի վրա։ SBM-ն օգտագործում է համապատասխան կլորը, որտեղ կենտրոնական կանտրոլերը սահմանում է նպատակի ծածկումը, իսկ հաճախորդի կողմնակի ուղղորդիչը արժեքների հաշվի առնելով իրականացնում է ընտրություն explore-and-exploit գործընթացով։ Բազմաստիճան արժեքների հաշվի առնելով ծանրաբեռնվածության բաշխումը, ինչպես սերվերների, այնպես էլ հաճախորդների վրա, միլիվայրկյաններում է արձագանում, երբ հզորությունը հանկարծակի շրջվում է։

Ինչը կլինի հաջորդը

Meta-ն նախատեսում է մեծացնել ծանրաբեռնվածության էլաստիկությունը՝ RMA-ի և SBM-ի աշխատանքի դիապազոնը ընդլայնելով և նոր սահմանափակումներ մշակելով, ինչպիսի են նախապես հաշվարկման էլաստիկությունը, որը աշխատանքն է կատարում պահանջման ժամանակից առաջ։ Ընկերությունը նաև ընդլայնում է մոդելների տեղաշարժությունը և տարածաշրջանային ենթակերպումը՝ ընդլայնելու ընթեռնելի հզորության պուլը և ստեղծում է օպտիմիզացիայի վրա հիմնված համակարգ, որը ինքնաբերաբար կանոնավորում է հզորության բաշխումը էլաստիկության սահմանափակումների միջև՝ օգտագործողների և գովազդատուների շահի հաշվի առնելով։

Նյութերի աղբյուրներ՝ Meta Engineering