Alibaba-ի Qwen3.8 մոդելը վերավարժեցվել է ավելի արևմտյան աշխարհայացքով

Nous Research-ը Alibaba-ի բաց կշիռներով Qwen3.8-27B մոդելը վերավարժեցրել է Arete-ի, որը նախատեսված է արևմտյան արժեքները ուժեղացնելու չինական վարժեցված մոդելի վրա։ Տեխաս նահանգի Օսթին քաղաքում գտնվող լաբորատորիան ասում է, որ հետվարժեցման գործընթացը մոդելի փաստային միավորը 5 միավորանոց սանդղակով 2,32-ից 2,98-ի է բարձրացրել և քարոզչություն պարունակող պատասխանները 22 տոկոսից իջեցրել 1 տոկոսի՝ համահունչ նրա փորձարկած արևմտյան մոդելներին։ Ընկերությունը նաև ասում է, որ քարոզչության շերտը մակերեսային է և համեմատաբար հեշտ է հեռացնել 50 միլիոն թոքեն վերահսկվող ուսուցմամբ։

Ինչու է Nous-ը վերավարժեցրել մոդելը

Nous Research-ը՝ Hermes Agent-ի ստեղծողը, ասում է, որ բաց կշիռներով չինական մոդելները ամենաուժեղներից են, բայց ունեն պետությանը համահունչ վարք, որը ներկառուցված է կշիռներում։ Ընկերությունը ասում է, որ մտահոգությունը ծագում է տեխնոլոգիական ոլորտում չինական ազդեցության ավելի լայն քննարկման ֆոնին, որը սրվել է Nvidia-ի գործադիր տնօրեն Ջենսեն Հուանգի հրաժարականից հետո՝ կապված վեճի հետ, որում ներգրավված է մի կին, որին ԱՄՆ հետախուզությունը մեղադրում է Չինաստանի օգտին լրտեսության մեջ։ Qwen3.8-27B-MLX-6bit տարբերակի մոդելը տեղում փորձարկվել է. 1989 թվականի Տյանանմենի հրապարակի իրադարձությունների մասին հարցին այն կամ հրաժարվել է քննարկել թեման, կամ տվել է էվֆեմիստական պատասխան։ Anthropic-ը պնդում է՝ Alibaba-ի Qwen լաբորատորիայի հետ կապված օպերատորները Claude մոդելների ելքերն օգտագործել են մրցակցային AI մոդելներ վարժեցնելու համար՝ դիստիլյացիայի միջոցով։

Nous-ի և Hirundo-ի նշած այլ ռիսկերը

Nous-ը ասում է, որ չինական արտադրության AI մոդելների ռիսկը գերազանցում է Պեկինի աշխարհայացքի տարածումը։ Booz Allen Hamilton-ի ուսումնասիրության համաձայն՝ որոշ «Միջին թագավորության» մոդելներ որոշ պայմաններում ավելի խոցելի կոդ են արտադրել։ Hirundo-ն՝ որը ասում է, որ կառուցում է առաջին Machine Unlearning Platform-ը՝ ապահովելու համար, որ AI մոդելները գիտեն միայն այն, ինչ պետք է իմանան, նույն փաստարկն է անում։ Ընկերությունը նաև նշում է, որ Qwen3.6-35B-A3B-ի վրա unlearning կիրառելու իր ջանքերը հանգեցրել են Չինաստանի կոմունիստական կուսակցության նախընտրած գրաքննություն, քարոզչական հաղորդագրություններ կամ կողմնակալություն արտացոլող պատասխանների կտրուկ անկման՝ 89,8 տոկոսից մինչև 2,8 տոկոս։ Nous-ը նման կտրուկ արդյունքներ չի ստացել, բայց նկատել է քարոզչություն համարվող տեսակետների ընդհանուր նվազում։

Ինչպես է կատարվել վերավարժեցումը

Nous-ը կարճ ժամանակով քննարկել է Nvidia-ի Nemotron 3 Ultra-ն, բայց ասում է, որ գտել է ապացույցներ, որ այն ևս ունեցել է խնդրահարույց ռեկորդ Չինաստանի հետ կապված թեմաներում։ Ընկերությունը ասում է, որ տեսականորեն Nemotron-ին հաղորդված կողմնակալությունը ծագել է վարժեցման ընթացքում չինական բաց մոդելների հետ աշխատելուց։ Ի վերջո, ընկերությունը ընտրեց Inkling-ը՝ ԱՄՆ-ում գտնվող Thinking Machines Lab-ի բաց կշիռներով մոդելը, որպես ուսուցող մոդել։ Այն, թե ինչն է համարվում արևմտյան արժեք, մնում է մեկնաբանության հարց։

Աղբյուրներ՝ The Register