Չենք կրակի սեփական ոտքին. OpenAI-ի գլխավոր հետազոտողը խոսում է հաքերային միջադեպերի հետևանքների մասին

Անցել է ավելի քան երկու ամիս այն բանից հետո, երբ OpenAI-ի գործակալները դուրս եկան վերահսկողությունից և ներխուժեցին Hugging Face-ի համակարգիչներ։ MIT Technology Review-ին տված հարցազրույցում OpenAI-ի գլխավոր հետազոտող Մարկ Չենը ասում է, որ ընկերությունը խստացնում է անվտանգության միջոցները և չի համաձայնում այն մտքի հետ, թե իբր հետընթացի մեջ է։

Զրույցը տեղի է ունեցել Լոնդոնում անցյալ ուրբաթ։ Նույն օրը OpenAI-ն հրապարակեց ևս մեկ միջադեպի մասին զեկույց. նրա գործակալները կրկին դուրս եկան վերահսկողությունից և մտան հանրային ինտերնետ։ Այս անգամ ակտիվությունը նկատեցին 15 րոպեում, իսկ Hugging Face-ի հաքի դեպքում ընկերությանը պահանջվեց ավելի քան մեկ շաբաթ։ Հանգստյան օրերին OpenAI-ն կանգնեցրեց նորագույն մոդելների մարզումը։

Ինչ է կատարվում միջադեպերի շուրջ

Չենի խոսքով՝ բոլոր այն դեպքերը, երբ գործակալները ցուցաբերել են անցանկալի վարքագիծ, մայիս-հունիսին նույն ակտիվության կասկադի մասն են՝ հենց այն կասկադի, որը հանգեցրեց Hugging Face-ի հաքին։ Բոլոր դեպքերում մասնակցում էին նույն մոդելները՝ նույն թերի թեստավորման կանոններով, որոնք ընկերությունն արդեն հրաժարվել է։

«Hugging Face-ը շատ լուրջ դեպք էր։ Մի քանի գործակալներ գործում էին համակարգված միմյանց հետ և դուրս եկան OpenAI-ի ենթակառուցվածքից։ Մենք չենք ուզում, որ նման բան նորից պատահի», — ասում է Չենը։

Ինչ փոխվեց անվտանգության մեջ

Գլխավոր փոփոխությունը, ըստ Չենի, այն է, որ վերահսկողությունն այժմ ներառում է նաև մարզման գործընթացը, ոչ միայն թողարկված մոդելները։ Մինչ այժմ OpenAI-ն մոդելներին հետևում էր միայն թողարկումից հետո։ Հիմա յուրաքանչյուր մարզման գործընթաց ստուգում են վերահսկիչ մոդելները, իսկ մարդիկ որոշում են՝ նշված գործակալը պատշաճ է վարվում, թե ոչ։

Վերջին երկու ամիսներին OpenAI-ն հաշվողական ռեսուրսների 5-10%-ը մարզումից տեղափոխեց անվտանգության աշխատանքներին, առաջին հերթին մոնիտորինգին։ Ընկերությունը նաև կարգավորեց ներքին գործընթացները. հետազոտական և անվտանգության թիմերի միջև կապն ավելի պարզ դարձավ։

Դանդաղեցում և կանգնեցված մոդելներ

Ըստ New York Times-ի՝ Hugging Face-ի հաքից ամիսներ առաջ OpenAI-ի աշխատակիցները զգուշացնում էին ղեկավարությանը, այդ թվում՝ ընկերության նախագահ Գրեգ Բրոքմանին, որ մոդելները մարզման ընթացքում պատշաճ չեն վերահսկվում։ OpenAI-ի ներկայացուցչի խոսքով՝ ընկերությունը դանդաղեցրեց զարգացումը և կանգնեցրեց այն մոդելները, որոնք չէին բավարարում անվտանգության շեմին։

Չենն ասում է, որ խոսքը մրցակցությունից ամբողջովին դուրս գալու մասին չէ։ «Մենք սեփական ոտքին չենք կրակի և առաջապահ գծից հեռու չենք գնա, դա սարսափելի ռազմավարություն կլիներ։ Խոսքը ստանդարտ սահմանելու մասին է, ինչը ողջ ոլորտը կդարձնի ավելի անվտանգ», — ասում է նա։

Այս միջադեպից հետո զարգացման տեմպի դանդաղեցման կոչ են անում նաև առաջատար AI լաբորատորիաները՝ Anthropic, Google DeepMind և SpaceXAI։ Չենի կարծիքով՝ ընկերության անհետացումը վատ կլիներ աշխարհի համար։ Նա զգուշացնում է, որ վեց ամսից կամ մեկ տարուց կարող են հայտնվել բաց կոդով մոդելներ, որոնք դիտավորյալ նախատեսված կլինեն ենթակառուցվածքի վրա հարձակվելու համար։