
Հետազոտությունը հայտնաբերել է հազարավոր անզտված մեծ լեզվային մոդելներ հոսթինգ հարթակներում
22,096 անզտված մեծ լեզվային մոդելների ուսումնասիրությունը ցույց տվեց, որ դրանք հեշտ է ստանալ խոշոր հոսթինգ հարթակներից, հաճախ տեղափոխվում են կայքերի միջև առանց ռիսկի տեղեկության և կարող են չարաշահվել վնասակար հարցումների համար։
Իլինոյսի Ուրբանա-Շամպեյնի համալսարանի և Նանյանգի տեխնոլոգիական համալսարանի հետազոտողները վերլուծել են 22,096 անզտված մեծ լեզվային մոդել, որոնք հավաքվել են հինգ խոշոր հոսթինգ հարթակներից։ Նրանք պարզել են, որ այս մոդելները հեշտ է ձեռք բերել այնպիսի կայքերից, ինչպիսիք են Hugging Face, Kaggle, John Snow Labs, OpenCSG և ModelScope, իսկ որոշները հետագայում տեղակայվում են հավելվածներում կամ ծառայություններում, որտեղ օգտատերերը կարող են չիմանալ հիմքում ընկած մոդելի բնույթը։
Հետազոտության արդյունքները
«Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks» վերնագրով հոդվածում անզտված մեծ լեզվային մոդելները նկարագրվում են որպես մոդելներ, որոնց բովանդակության ֆիլտրացիան կամ մերժման պաշտպանությունները բացակայում են, հեռացված են կամ թուլացված են։ Zilong Lin, Zichuan Li, Xiaojing Liao և XiaoFeng Wang հեղինակներն ասում են, որ այս մոդելները կարող են պատասխանել այն հարցումներին, որոնք հավասարեցված մոդելները կարող են մերժել։ Zilong Lin՝ գլխավոր հեղինակ և University of Missouri-Kansas City համալսարանի համակարգչային գիտության ասիստենտ պրոֆեսոր, ասել է, որ անվտանգության հավասարեցումը դժվար է գնահատել միայն մոդելի ֆայլերից և սովորաբար պահանջում է մոդելի տեղակայում ու փորձարկում։
Ինչպես են տարածվում մոդելները
Lin բլոգային գրառման մեջ գրել է, որ 11,000-ից ավելի ULLM հայտնվել է մի քանի հարթակներում, իսկ Hugging Face հարթակը եղել է գերիշխող վերին աղբյուրը։ Միայն մոտ 13 տոկոսն էր կրում մոդերացիայի նախազգուշացումներ, իսկ անվտանգության սպառնալիքի ցուցանիշները հարթակներում միատեսակ չէին պահպանվում։ Հեղինակները սա նկարագրում են որպես մատակարարման շղթայի խնդիր, քանի որ մոդելը կարող է պատճենվել, իսկ ռիսկի վերաբերյալ տեղեկությունը՝ կորել։ Արդյունքները պատասխանատու կերպով բացահայտվել են Hugging Face, John Snow Labs, OpenCSG, Kaggle, ModelScope և Open Router ընկերություններին։ OpenCSG ընկերությունը գնահատանք է հայտնել և խոստացել է բարելավել իր ծառայությունը՝ հիմնվելով արդյունքների վրա։
Ռիսկեր, չարաշահում և աճ
Գնահատված ULLM-ները ընդհանուր առմամբ ավելի հավանական էր, որ համապատասխանեին վնասակար հարցումներին և առաջացնեին վնասակար բովանդակություն, քան ոչ անզտված մոդելները՝ 11 կատեգորիաներում, այդ թվում երեխաների նկատմամբ բռնություն, անօրինական գործունեություն և խարդախություն։ Անզտված մոդելները կարող են չարաշահվել՝ անօրինական գործունեության վերաբերյալ ցուցումներ տալու, վնասակար ծրագրերի մշակումը աջակցելու կամ վնասակար, չարամիտ կամ մանիպուլյատիվ բովանդակություն արտադրելու համար։ Համեստ տեխնիկական հմտություններ ունեցող օգտատերերը կարող են կիրառել այնպիսի տեխնիկաներ, ինչպիսիք են toxic կամ de-aligned fine-tuning-ը կամ refusal-direction ablation-ը՝ մերժման վարքագիծը նվազեցնելու կամ հեռացնելու համար։ Փոքր մասը՝ 27 մոդել, որոնք ներբեռնվել են 136,000 անգամ, անվտանգության սկանավորումներից սպառնալիքի ցուցանիշներ է ցույց տվել, ստորագրություններով, որոնք կապված են վնասակար ծրագրերի, կասկածելի բինար օրինաչափությունների կամ անապահով դեսերիալիզացիայի մեխանիզմների հետ։ ULLM-ների թիվը 2023 թվականի մայիսին ամսական մոտ 100-ից աճել է մինչև ամսական 1,000-ից ավելի։ Անզտված dolphin-2.9.1-yi-1.5-34b մոդելը ունի 53 միլիոնից ավելի ներբեռնում, այդ թվում անցած ամսվա 4.8 միլիոնից ավելի։ Մոդելները գնահատվել են տեքստային ելքի, ոչ թե պատկերների համար։
Կոմերցիոն մոդելներ և կառավարում
Նույնիսկ հայտնի կոմերցիոն մեծ լեզվային մոդելները, որոնք ենթադրաբար հավասարեցված են, կարող են պատասխանել հարցումներին վնասակար համարվող բովանդակությամբ։ ԱՄՆ Կառավարության հաշվետվողականության գրասենյակի զեկույցը պարզել է, որ Claude, Grok, ChatGPT և Gemini համակարգերը կարելի է համոզել տրամադրել տեղեկություն, որը կօգներ ահաբեկչական հարձակում ծրագրելու հարցում։ Զեկույցը նշում է նորությունների հաղորդագրությունները, որոնց համաձայն գեներատիվ արհեստական բանականությունը օգնել է 2025 թվականի հունվարին Լաս Վեգասի հյուրանոցի վրա հարձակման ժամանակ պայթուցիկ սարքի ստեղծմանը և 2026 թվականի փետրվարին Բրիտանական Կոլումբիայում, Կանադա, զանգվածային կրակոցի ծրագրմանը։ Անզտված կամ պակաս սահմանափակ մոդելները ևս ունեն օրինական կիրառություններ։ Hugging Face ընկերությունը օգտագործել է Z.ai ավելի քիչ կանոնակարգված GLM-5.2 մոդելը՝ իր ենթակառուցվածքի վրա OpenAI արհեստական բանականության գործակալների կողմից կատարված հաքերային հարձակման վերլուծության համար։ Շատ ULLM-ներ խախտում են այն մոդելների լիցենզիայի պայմանները, որոնց վրա հիմնված են։ Lin ակնկալում է, որ մոդելների մեծ թափանցիկությունը, աուդիտը և ստուգումը կօգնեն։ Օրինակ, EU AI Act օրենքը պահանջում է, որ ընդհանուր նշանակության արհեստական բանականության մոդելների մատակարարները պահեն տեխնիկական փաստաթղթեր, իսկ Colorado AI Act օրենքը մոդելային քարտերը և տվյալների քարտերը ճանաչում է որպես հնարավոր փաստաթղթեր։
Աղբյուրներ՝ The Register
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։