Բաց մոդելների վիճաբանությունները՝ AI-ի դեմոկրատիզացումն անվտանգության ռիսկերի դեմ

Anthropic-ը մի քանի ժամ առաջ հաղորդագրություն հրապարակեց, որի համաձայն չինական Z.ai ընկերության ագոստոսին թողարկված ուժեղ մոդելը՝ GLM-5.3, ահանջ ռիսկ է ներկայացնում կիբերհարձակման համար: Հուզվածությունը նրանում է, որ դրա ներբեռնումը և փոփոխումը ազատորեն հասանելի է բոլորին: Այս հաղորդագրությունը երկարատև վիճաբանությունների ամենավերջին խոսքն է այն մասին, թե արդյոք պետք է ռազմաճակատային AI մոդելները բաց լինեն, թե մնան լաբորատորիաների դռների ետևում:

Ինչ են առաջարկում բաց մոդելները

Փակ մոդելներին, ինչպիսիք են ChatGPT-ն ու Claude-ը, հասանելի են միայն կայքի, հավելվածի կամ API-ի միջոցով: Բաց մոդելները կարող եք ուղիղ ներբեռնել, և դրանց ներքին կառուցվածքը, մոդելի քաշերով կոդավորված տեսքով, հասանելի է հասարակությանը: Այժմ փակ մոդելներն ավելի ուժեղ են. Artificial Analysis LLM-ի առաջատարների ցուցակի առաջին ութ տեղերը փակ են, սակայն բաց մոդելները միայն մի քանի ամիս են հետ մնաում:

Քանի որ բաց մոդելների ներբեռնումը հնարավոր է, մարդիկ կարող են դրանք գործարկել իրենց սեփական տեխնիկայի վրա և ձևափոխել, եթե ունեն որակ ռեսուրսներ: Գիտնականները կարող են դիտել ներքին աշխատանքը և մտածելու շղթան, միավորել մոդելները, սեղմել և հարմարեցնել նոր խնդիրների համար: Mozilla-ն մի քանի ժամ առաջ հրապարակված հաշվետվությամբ նշվում է, որ բաց մոդելները սովորաբար ավելի էժան են, քան փակերը, իսկ տեղային տեղակայումը պաշտպանում է զգային տվյալները:

Կողմերը հաստատում են, որ հիմնական առավելությունը ռազմաճակատային լաբորատորիաների խիստ վերահսկողության հետ պայքարն է AI-ի նկատմամբ: Tony Blair Institute for Global Change-ի ավագ քաղաքական խորհրդատու Էլիզաբեթ Սիգերին դա դիտարկում է որպես զորության մասսային կենտրոնացման չեղարկում և հիմնական տեխնոլոգիայն ազատագրելու նպատակ ունեցող գործողություն: Centre for Long-Term Resilience-ի Հեմիշ Հոբսին նշում է, որ աշխարհի ամենազարգացած հակերային մոդելները ստեղծվում են ԱՄՆ-ում, ուստի այլ երկրերը կիբերանվտանգության համախ հենվում են ամերիկյան ընկերությունների և կառավարության վրա:

Անվտանգության արգումենտները բացության դեմ

Փակ մոդելները նույնպես բավականին ռիսական են: OpenAI-ի գործակալները հուլիսին ավտոնոմ կերպով կոտրեցին Hugging Face-ը, իսկ Anthropic-ի ռիսկերի հաշվետվությունը նկարագրում է Claude-ի օգնությամբ իրականացված լայնածավալ հակերային գործողություններ: Բայց բաց մոդելները դրժում են հիմնական պաշտպանությունները. ավտոմատ ֆիլտրերը, որոնք ստուգում են հակինգի կան զենքի թեմայով հարցումները, և հասանելությունն անջատելու հնարավորությունը: Գիտնականները նաև ցույց են տվել, որ զարմանալիորեն հեշտ է անվտանգ բաց մոդելի այնպիսի ձևափոխում, որը համապատասխանի վարքագծերի, որոնց չեղարկումը իրենք էին սովորեցնում:

Որոշ փորձագետներ բաց կոդի նմանատիպություն են տեսնում. Linux-ը հաճախ ավելի անվտանգ է համարվում, քան փակ ծրագիրը, քանի որ հասարակությունը ստուգում և ուղղում է թուլությունները: Հենց Hugging Face-ն էլ օգտագործեց բաց մոդել իր հակերության վերլուծության համար, քանի որ ինցիդենտի վերաբերյալ հարցերը փակ մոդելների անվտանգության ֆիլտրերին կոտրում էին: Սակայն քննադատները, օրինակ Դարիո Ամոդեյին, անհաճելի, բայց աղետալի իրադարձություններով են հոզված, իսկ բաց մոդելների դեցենտրալիզացված բնույթը դժվարացնում է չպետական վարքագծերի հայտնաբերումը:

Միջակայքային ճանապարհի որոնում

Գիտնականները փորձում են բաց մոդելները ավելի անվտանգ դարձնել: Որոշները ցանկանում են մոդելները այնպես մշակել, որոնք ընդհանրապես չհանդիպեն ցանկալի չէ վարքագծերի տվյալների հետ, սակայն այդպիսի գիտելիքների մաքրումը արդյունավետության վնասի առանց դեռ դժվար է: Ուրիշները ստեղծում են ձեռնմեղմելու դիմացկուն մոդելներ, որոնք դիմադրում են փոփոխումներին, բայց մի քանի օր առաջ հրապարակված նախատպությամբ ցույց է տրվել, որ ոչ մի ընթացիկ մոտեցում չի կարող դիմակայել բոլոր ձեռնմեղմման հարձակումներին: Deep Breathe-ի առաջատար հեղինակ Սադ Հոսեյնին օպտիմիստ է մնում ակտիվ հետազոտության ֆոնի վրա:

Փորձագետները նախազգուշացնում են, որ միայն բաց քաշերը կարող է ոչ բավարար լինել զորության կենտրոնացման չեղարկելու համար, քանի որ ուսումնասիրության տվյալների մանրամասները և թանկ չիպերը կրկին պատնեզեր են: Շատերը աջակցում են փուլային թողարկմանը. մոդելները փակ են սկսում և ավելի հասանելի դառնում են անվտանգությունը հաստատելուն պետք է: Այս մոտեցումը պահանջում է հավասարակշռել երկու կողմի իրական ռիսկերն ու առավելությունները:

Հղումներ. Mit Technology Review Ai