Ինչու՞ այս ամառվա ԱԲ աղմուկը չի դիմանում փորձագիտական ստուգմանը

MIT Technology Review-ում սեպտեմբերի 22-ին հրապարակված կարծիքի հոդվածում DAIR-ի գործադիր տնօրեն Թիմնիթ Գեբրուն և լեզվաբան Էմիլի Մ. Բենդերը պնդում են, որ այս ամռան ԱԲ հայտարարությունների ալիքը չի դիմանում փորձագիտական ստուգմանը։

Բարձրաձայն հայտարարությունների ամառ

Հեղինակները վերականգնում են հաջորդականությունը. ապրիլի վերջին Anthropic-ը հայտարարեց, որ Claude Mythos մոդելը ծրագրային խոցելիությունները գտնում է անվտանգության փորձագետների մեծ մասից լավ։ Այնուհետև տեղի ունեցավ OpenAI–Hugging Face-ի կիբերհարձակման դեպքը, որից հետո Anthropic-ը «հպարտորեն», իսկ Meta-ն՝ «դժկամությամբ» հայտնեցին նման դեպքերի մասին։ Հետո Anthropic-ը հայտարարեց մաթեմատիկական առաջընթացի մասին, և շուտով OpenAI-ն էլ նման հայտարարություն արեց։ Վերջերս Anthropic-ի ինժեներ Ջեյքոբ Կոքսոնը վիրուսային դարձավ՝ հայտարարելով ընկերությունից հեռանալու մասին. ըստ նրա՝ երկու ընկերություններն էլ «ուղիղ ընթանում են դեպի ինքնազարգացող գերբանականություն և խաղադրույք անում մեր կյանքերով»։

Ինչ գտան փորձագետները

Աղմուկը ինտենսիվ լուսաբանվեց, սակայն փորձագիտական ուսումնասիրությունից հետո ի հայտ եկող պատկերն ավելի քիչ ուշադրություն է ստանում։ Կիբերանվտանգության մասնագետները դա հիմնականում OpenAI-ի անփութություն և հիմնական անվտանգության պրակտիկաների բացթողում են համարում, ոչ թե «վերահսկողությունից դուրս եկած մոդելներ»։ Մաթեմատիկոսները, ովքեր սկզբում ապշել էին մամուլի հաղորդագրությունից, թե Astra չաթբոտը լուծել է տասնամյակ բաց մնացած խնդիրներ, հետագայում եզրակացրին, որ արդյունքները նույնքան նոր չէին, որքան թվաց, և մեղադրեցին ընկերությանը հետազոտական անբարեխիղճ վարքագծի և գրագողության մեջ։ OpenAI-ի հաջորդ հայտարարությունից երկու օր առաջ NYU-ի Courant ինստիտուտի պրոֆեսոր Տրիստան Բաքմաստերը հայտարարություն հրապարակեց, ըստ որի ընկերությունը ուրիշների աշխատանքը սխալ է վերագրել։

«Գերբանականությունը»՝ որպես մարքեթինգ և վահան

Ըստ հեղինակների՝ վտանգավոր գերբանականության մասին խոսքը հիմնված չէ լավ գիտության կամ ինժեներիայի վրա, այլ տրանսհումանիզմի, եվգենիկայի և երևակայական թվային մարդկանց մասին ցանկալի մտածողության վրա։ Համակարգերը «գերբանականություն» կամ «անկառավարելի մոդելներ» անվանելը գործակալականություն է վերագրում ապրանքներին, ոչ թե դրանք ստեղծող ընկերություններին. ապրանքը վաճառվում է որպես «գերմարդկային», իսկ ընկերությունները խուսափում են պատասխանատվությունից։ Հարյուրավոր մաթեմատիկոսների ստորագրած հայտարարությունը զգուշացնում է «տեխնոլոգիական ոլորտի ուժեղ առևտրային շահից՝ չափազանցելու ապրանքների հնարավորությունները» և կոչ է անում քաղաքական գործիչներին խորհրդակցել փորձագետների հետ, ոչ թե մամուլի հաղորդագրությունների։ Հոդվածը քննադատում է նաև ոլորտի փորձը՝ հակա-տվյալակենտրոն ակտիվիզմը ներկայացնել որպես «շեղում». հանրությունից պահանջվում է վախենալ հորինված մեքենա-աստծուց ավելի, քան տվյալակենտրոնների կլիմայական ազդեցությունից, հարևանների ասթմայից կամ հովացման ջրից։ Եզրակացությունը՝ լավագույն արդյունքը թերահավատության պահպանումն է։