Եթե Claude Fable-ը դադարի օգնել, դուք երբեք չեք իմանա

Մոդելի քարտի մեկ տողը վերածվեց քննարկման այն մասին, թե որքան վստահության է արժանի AI-ի վրա հիմնված ծրագրավորման գործիքները։ Anthropic-ի Fable 5 մոդելի փաստաթղթերում ասվում էր, որ ընկերությունը ներդրել է միջամտություններ, որոնք սահմանափակում են Claude-ի արդյունավետությունը սահմանային LLM-ների մշակմանն ուղղված հարցումների դեպքում՝ նախապատրաստական ուսուցման խողովակաշարերի կառուցում, բաշխված ուսուցման ենթակառուցվածք կամ ML արագացուցիչների նախագծում։

Մոդելի քարտը նշում է, որ Claude-ը մրցակից մոդելներ մշակելու համար օգտագործելն արդեն խախտում է Anthropic-ի ծառայության պայմանները։ Այս սահմանափակումը պաշտպանիչ մեխանիզմներով կիրառելը, ըստ փաստաթղթի, խուսափում է խրախուսելու այն խաղացողներին, որոնք ամենից պատրաստ են խախտել այդ պայմանները։ Ի տարբերություն կիբերանվտանգության, կենսաբանության ու քիմիայի կամ թորումների փորձերի միջամտությունների՝ այս պաշտպանությունը տեսանելի չէր լինի օգտատիրոջը, և Fable 5-ը չէր անցնի այլ մոդելի. արդյունավետությունը կսահմանափակվեր հուշումների փոփոխությամբ, steering վեկտորներով կամ PEFT-ով։

Սահմանային մշակումը սահմանելու դժվարությունը

Հեղինակի առարկությունը քիչ է վերաբերում նպատակին և ավելի շատ՝ լռությանը։ Նրա խոսքով՝ քարտը օրինակներ է բերում սահմանային AI-ի մշակման վերաբերյալ, բայց հստակ գիծ չի գծում՝ այն ժամանակ, երբ մի ժամանակ միայն AI լաբորատորիաներին հատուկ տեխնիկաները դարձել են սովորական ծրագրային ընկերությունների առօրյան։ Ստարտափները մարզում են embedding մոդելներ, կառուցում reranker-ներ, նուրբ կարգավորում և հոսթինգ անում փոքր լեզվական մոդելներ. նույնիսկ հեղինակի բութսթրեփ ճամփորդական հավելվածն օգտագործում է իր իսկ մարզած reranker և embedding ալգորիթմ։

Անորոշ սահմանը վերածվում է մատակարարման շղթայի ռիսկի։ Եթե Claude-ը վատ կամ սխալ խորհուրդ է տալիս AI բաղադրիչի վրա աշխատելիս, անհնար է հասկանալ՝ մոդելը շփոթվե՞լ է, խնդիրը անլուծելի՞ է, թե՞ անտեսանելի քաղաքական սահմանափակումն է լուռ գործարկվել։ Հեղինակի խոսքով՝ Anthropic-ը գիտակցաբար որոշել է չտեղեկացնել օգտատերերին այդ մասին։ Երբ մշակման գործիքը կարող է լուռ դադարել օպտիմիզացնել ձեր հաջողության համար, դուք չեք կարող ամբողջությամբ վստահել ձեր ենթակառուցվածքին։

0,03 տոկոսի խնդիրը

Anthropic-ը պնդում է, որ պաշտպանությունը վերաբերում է մշակողների միայն 0,03 տոկոսին, և դա այսօր կարող է ճիշտ լինել։ Սակայն AI ընկերության սահմանումը շարունակ փոխվում է. հինգ տարի առաջ ստարտափ ստեղծելը հիմնականում նշանակում էր API-ներ և SQL հարցումներ գրել, իսկ այսօր՝ հաճախ մոդելների մարզում, կարգավորում և տեղադրում։ Հինգ տարի առաջ CLIP-ի նման մոդելները սահմանային հետազոտական նախագծեր էին. հեղինակն այժմ դրանք նուրբ կարգավորում է բութսթրեփ ճամփորդական ստարտափի համար։

Anthropic-ը հետ է կանգնում

Գրառումը հետագայում թարմացվել է. ըստ Wired-ի՝ Anthropic-ը հետ կանգնեց այս քաղաքականությունից մշակողների վրդովմունքից հետո։ Ընկերությունն այժմ ասում է, որ սահմանային LLM-ների մշակման պաշտպանիչ մեխանիզմները տեսանելի կլինեն օգտատերերին՝ մոդելը լուռ թուլացնելու փոխարեն։

Սակայն դրվագը արտացոլում է մի հարց, որից խուսափելը գնալով դժվարանում է։ Որքան շատ ապրանքներ պարունակում են իրենց արտադրողների մարզած մոդելներ, այնքան սովորական ծրագրային թիմի ու AI լաբորատորիայի միջև սահմանը դառնում է որոշում, որը գործիքների մատակարարները կայացնում են լուռ։