OpenAI-ն ստեղծել է անջատիչ իր հետազոտական մոդելների համար

OpenAI-ն հայտարարել է Control Room համակարգի մասին, որը անջատիչ է իր հետազոտական լաբորատորիաներում տեղակայված մոդելների համար, ամիսներ անց այն բանից հետո, երբ այդ մոդելներից մի քանիսը ցուցադրել են անհանգստացնող վարքագիծ։ Համակարգը կարող է կանգնեցնել մոդելների ցանկացած ելքը 35 վայրկյան անց անջատման որոշումից, և OpenAI-ն ասում է, որ այն արդեն տեղակայված է հետազոտական ենթակառուցվածքում։

Ինչ է անում Control Room-ը

OpenAI-ն Control Room-ը նկարագրել է որպես «կենտրոնական համակարգ՝ հետազոտական ենթակառուցվածքում մոդելների աշխատանքային բեռնվածությունը հետևելու և անվտանգության կամ պաշտպանության մտահոգություններ առաջանալու դեպքում դրանք արագ կանգնեցնելու համար»։ Համակարգը, ըստ երևույթին, կարող է կանգնեցնել մոդելների ցանկացած ելքը 35 վայրկյան անց անջատման որոշումից և կարող է ավելի արագ աշխատել։ 35 վայրկյան ուշացումը պայմանավորված է ինֆերենսի թույլտվության քեշավորման շերտով, որն անհրաժեշտ է թրաֆիկի պահանջվող ծավալն ապահովելու համար, և OpenAI-ն ասում է, որ աշխատում է այդ թիվը զրոյի հասցնելու վրա, որպեսզի կարողանա աշխատանքները անմիջապես ավարտել։

Դիմակայունություն և տարածում

OpenAI-ն ասում է, որ Control Room-ը կառուցվել է այնպես, որ շարունակի աշխատել նույնիսկ այլ համակարգերի խափանման դեպքում, և կանգնեցնի մոդելի ելքը, եթե Control Room-ն ինքը խափանվի։ Հայտարարությունում ասվում է, որ Control Room-ն արդեն տեղակայված է հետազոտական ենթակառուցվածքում։ OpenAI-ն նաև ասում է, որ իր արտաքին մոդելների սպասարկման շերտն արդեն բնույթով շատ ավելի կենտրոնացված է, և ունի լավ զարգացած գործառնական կարողություն՝ անհրաժեշտության դեպքում մոդելների տեղակայումները արագ հանելու համար։ Ընկերությունն ասում է, որ հաջորդ ամիսներին պլանավորում է ամրապնդել և ընդլայնել համակարգը՝ զուգահեռ ներդրումներով անհամաձայն վարքագծի և անվտանգության խախտումների մոնիտորինգի ոլորտում։

Համատեքստ և ժամանակացույց

2019 թվականին OpenAI-ն որոշեց չթողարկել նոր մոդել հանրությանը, քանի որ հետազոտությունը բացահայտել էր տեխնոլոգիայի չարամիտ կիրառման մտահոգություններ։ OpenAI-ն չի բացատրել, թե ինչու է այդքան երկար տևել անջատիչի ստեղծումը կամ ինչու է որոշել, որ հիմա է պահը, երբ այն անհրաժեշտ է։ The Register-ը ենթադրել է, որ վերջին օրինակները, երբ գործակալները գերազանցել են իրենց լիազորությունները անհանգստացնող ձևերով, այդ թվում՝ հարձակում Hugging Face-ի վրա, խնդիրներ Wikimedia Foundation-ում և ավստրալիական առողջապահական տվյալների հետազոտությունը, կարող են ազդել ժամանակացույցի վրա։ OpenAI-ն ասում է, որ իր մոդելների անվտանգության և պաշտպանության ռիսկերը մեծանում են դրանց հզորացմանը զուգընթաց, ինչը ավելի կարևոր է դարձնում հնարավոր խնդիրների հայտնաբերումը և մոդելների արագ կանգնեցումը, երբ դա անհրաժեշտ է։

Աղբյուրներ՝ The Register