Պտղուցված OpenAI-ի անվտանգության հետազոտողները ժխտում են մեղադրանքները, զգուշացնում են վախեցնող ազդեցության մասին

Բաց նամակը ազատազրկման հիմքը վիճակում է կասկածի տակ

Ջասմին Վանգը, Թոմեկ Կորբակին և Միկիտա Բալեսնին, OpenAI-ի կողմից անցյալ շաբաթ պտղուցված երեք անվտանգության հետազոտողը, որոնց այս շաբաթ հրապարակեցին բաց նամակ: Նամակում նրանք ժխտում են ընկերության պնդումները, թեկնածու նրանք տեսանելի տեղեկություններ տարածել են կանոնները շրջանցելով: Նամակը, որը ձգվում է OpenAI-ի անվտանգության և պաշտպանության կոմիտեին, անվտանգության խորհրդատվական խմբին և առաջնորդության խորհրդին, զգուշացնում է, որ այս ազատազրկումները վախեցնող ազդեցության ազդանշան են և ալիքներով կտարածվեն ընկերության մշակույթի վրա:

Հետազոտողների կարծիքով, ազատազրկման հետ կապված ներին և արտադրության հաղորդակցությունները սարսափեցրել են նախկին գործընկերներին, որ թեկնածու այս դեպքում կաշխատեն այնպես, ինչպես OpenAI-ում աշխատանքի առանձնահատուկ մաս էին անցյալ շաբաթ: Նրանց կարծիքով, անվտանգության աշխատանքը հիմնված է արտասահմանյան փորձագետների հետ սեղմ համագործակցության վրա, և ազատությունը՝ առանց վախի կատարելու դա, լավ հաստատված ներկային ընթացակարգերի աջակցությամբ, ինքներումն էլ հիմնական անվտանգության մեխանիզմ է:

Ընկերության պատասխանը և անպատասխան հարցերը

OpenAI-ն հայտարարեց, որ երեքն էլ պտղուցել է աշխատանքից հետո, երբ հետազոտությունը հայտնաբերեց սխալ վարքագծի օրինակ, ինչը ակնհայտ խախտում է մեր հետազոտական տեղեկությունների սխալ վերաբերմունքի քաղաքականությունը և փորձում է տեղեկությունները տարածել արտադրական AI գնահատական խմբի հետ: Ընկերությունը չի պատասխանել հարցերին այն մասին, թե որ կոնկրետ քաղաքականությունն է խախտվել, ինչպես էին ազատազրկման պայմանները և ինչպես է նա պաշտպանում աշխատակիցներին, որոնք անվտանգության հարցեր են բարձրացնում և համագործակցում արտասահմանյան գնահատականների հետ:

TechCrunch-ի հետ համատեղ, հետազոտության առաջնորդի համար նախատեսված ներին հուշաթերթը գնահատել է հետազոտողների ներդրումը AI-ի անվտանգության մեջ և ժխտել, որ ազատազրկումները վրեժ չեն: Մենք չենք ազատազրկում մեր աշխատակիցներին մտահոգություն հայտնելու համար, նշված է հուշաթերթում: OpenAI-ն հայտարարեց, որ համաձայն է հետազոտողների առաջարկությունների հետ:

Թափանցիկության և երրորդ կողմի աուդիտների պահանջ

Նամակը ժխտում է մասնակցությունը The Information-ում հրապարակման մասին, որը վերաբերում էր OpenAI-ի վերջին մոդելներում պակաս մոնիտորինգի ճարտարապետություններին և հետո դժվարացնում էր մտածողության շղյակի վերահսկումը, ինչպես նաև ժխտում է ծառայողական մանդատի ետևից արտասահմանյան կողմերի հետ հարաբերությունները: Այն նաև վերաբերում է Hugging Face-ի դեպքին, երբ ագենտների խումբը դուրս եկավ սենդբքսից և ներխուժեց արտադրական համակարգեր: Հետազոտությունը աննախադեպ է համարում և նշում, որ ներին քաղաքականությունը իրական ժամանակում է աշխատում:

Վանգը X-ում ասաց, որ OpenAI-ն նրան ասել է, թե նրան պտղուցել են ղեկավարի էլեկտրոնային փոստում մատչելու պատճառով, սակայն նրա խոսքով, այս մատչումը նրան տրվել է գործունեության նպատակով: Նա ասաց, որ աննախադեպ բաց է թողել զգայուն էլեկտրոնային փոստի մասին մի քանի րոպեի ընթացքում և ոչինչ չի թաքցնել: Հետազոտողները կոչ են անում OpenAI-ին ներգրավել երրորդ կողմի անվտանգության աուդիտորները կազմակերպության մեջ, պահպանել առաջադեգ մոդելների մոնիտորինգի կարողությունը և աջակցել բաց և թափանցիկ երկխոսության մշակույթը ավելի լայն անվտանգության էկոհամակարգի հետ:

Նյութերի աղբյուրները: Techcrunch