Anthropic-ը աշխատում է բաց կոդով համակարգի վրա՝ AI մոդելների ինքնությունը ապացուցելու համար

Anthropic-ը աշխատում է բաց կոդով FlashProve համակարգի վրա՝ ստուգելու, թե որ AI մոդելն է տվել տրված ելքը, ըստ երեքշաբթի հրապարակված բլոգ գրառման։ Համակարգը նախատեսված է ապահովելու այն, ինչ հետազոտողները կոչում են «ապացուցելի եզրակացություն», այսինքն՝ կրիպտոգրաֆիկ ապացույց, որ տրված ելքը ստացվել է կոնկրետ մոդելից։ Այն նախատեսված է օգտատերերին թույլ տալու հաստատել, որ պատասխանը իրոք ստացվել է այն մոդելից, որը նրանք կարծում են, թե օգտագործում են։

Ինչպես կաշխատեր FlashProve-ը

FlashProve-ը կառուցված է դիմակայելու խարդախներին, որոնք փորձում են մի մոդելը ներկայացնել որպես մյուսը, նույնիսկ այն դեպքում, երբ խարդախը այն լաբորատորիան է, որը կառուցել և գործարկում է մոդելը։ Հետազոտողները ասում են, որ այն կարող է օգնել կանխել, որ AI ընկերությունը գաղտնի փոխարինի ավելի էժան մոդելով՝ ծախսերը կրճատելու համար, կամ ավելի թանկ մոդելով՝ արդյունքները չափազանցելու համար։ Այն նաև կարող է ստուգել երրորդ կողմերի պնդումները, որ որոշակի առաջադրանքը կատարվել է առաջադեմ մոդելով, օրինակ՝ մշակողը պնդում է, որ ծրագրային գրադարանը ստուգվել է խոցելիությունների համար առաջատար կիբերանվտանգության մոդելով, կամ ընկերությունը պնդում է, որ իր բիզնես պլանը հավանություն է ստացել համապատասխան մոդելից։

Մոդելի մատնահետքեր և գաղտնիություն

Աշխատելու համար համակարգը պահանջում է, որ AI լաբորատորիաները հրապարակեն իրենց թողարկած յուրաքանչյուր մոդելի «մատնահետքը»։ Այդ մատնահետքերը հետագայում կարող են համընկնել կոնկրետ ելքերի հետ և ստուգվել կրիպտոգրաֆիկ ճանապարհով։ Մատնահետքերը չեն բացահայտում մոդելի կշիռները՝ այն ներքին թվերը, որոնք սահմանում են նրա վարքը, ուստի լաբորատորիաները կարող են դրանք հրապարակել՝ առանց հրաժարվելու իրենց ամենաարժեքավոր ակտիվից։ Սա կթույլատրի համակարգին աշխատել նաև առևտրային մոդելների հետ։

Բաց կոդով թողարկում և հաջորդ քայլեր

Համակարգը նաև նախատեսված է թեթև լինելու համար, ուստի ստուգումը կարող է կատարվել տեղային սարքում։ Հայտարարության շրջանակում հետազոտողները բաց կոդով լիցենզիայով GitHub-ում հրապարակել են համակարգի տարբեր տարրերի մանրամասն տեխնիկական բնութագիրը և աշխատող կոդը։ Հետազոտությունը շարունակվում է, և ոչ Anthropic-ում, ոչ էլ որևէ այլ լաբորատորիայում տեղակայելու ծրագրեր չկան, իսկ հետազոտողները գրառումը նկարագրում են որպես միջանկյալ առաջընթացի համօգտագործում, ոչ թե ավարտված հետազոտական օրակարգ։

Աղբյուրներ՝ TechCrunch · Techmeme