The Download. Ինչու AI-ի վերջին բեկումներն ու վախերը կարող են ավելի շատ հիպ լինել, քան իրականություն

MIT Technology Review-ի օրական տեղեկագիրը՝ The Download-ը, սեպտեմբերի 22-ի համարը նվիրել է AI-ի շուրջ «հիպի ամռանը»։ Համարի գլխավոր նյութը Distributed AI Research Institute-ի (DAIR) գործադիր տնօրեն Թիմնիտ Գեբրուի և Վաշինգտոնի համալսարանի լեզվաբանության պրոֆեսոր Էմիլի Մ. Բենդերի հոդվածն է։ Հեղինակները պնդում են, որ վերջին ամիսների բարձրաձայն հայտարարությունները ավելի շատ մարքեթինգ են հիշեցնում, քան իրական բեկումներ։

Ինչ են նկարագրում հեղինակները

Ժամանակագրությունը սկսվում է ապրիլի վերջին. Anthropic-ը հայտարարեց, որ իր Claude Mythos մոդելը ծրագրային խոցելիություններ գտնում է անվտանգության մասնագետների մեծ մասից ավելի լավ։ Այնուհետև տեղի ունեցավ OpenAI-ի և Hugging Face-ի հաքերային միջադեպը, որից հետո Anthropic-ը և Meta-ն իրենք բացահայտեցին նմանատիպ դեպքեր։ Քիչ անց Anthropic-ը հայտարարեց մաթեմատիկական բեկման մասին, OpenAI-ն էլ՝ իր սեփականի։ Վերջերս Anthropic-ի ինժեներ Ջեյքոբ Քոքսոնը լայն արձագանք ստացավ այն հայտարարությամբ, որ ընկերությունները շարժվում են ինքնազարգացող գերխելացիության ուղղությամբ և վտանգում մարդկանց կյանքը։

Ինչ ցույց տվեցին անկախ ուսումնասիրությունները

Կիբերանվտանգության մասնագետների գնահատմամբ՝ հաքերային պատմությունը հիմնականում OpenAI-ի անփութության մասին է, այլ ոչ թե վերահսկողությունից դուրս եկած մոդելների։ Մաթեմատիկոսները, որոնց OpenAI-ի՝ Astra չաթբոտի մասին հայտարարությունը սկզբում ապշեցրել էր, հետագայում եկան այն եզրակացության, որ արդյունքները նախապես թվացածից պակաս նոր են, և ընկերությանը մեղադրեցին հետազոտական անբարեխղճության և գրագողության մեջ։ Նյու Յորքի համալսարանի Courant ինստիտուտի պրոֆեսոր Թրիսթան Բաքմասթերը հայտարարություն հրապարակեց, որում ակնարկեց, որ OpenAI-ը յուրացրել է ուրիշների աշխատանքը։

Ինչու է սա կարևոր

Գեբրուն և Բենդերը նշում են, որ «գերխելացիություն» կամ «փախուստի դիմած մոդել» արտահայտությունները կամք են վերագրում արտադրանքին, այլ ոչ այն ստեղծող ընկերություններին։ Այդ շրջանակը ապրանքները գովազդում է որպես մարդուց վեր և միաժամանակ օգնում ընկերություններին խուսափել պատասխանատվությունից։ Հեղինակները վկայակոչում են հարյուրավոր մաթեմատիկոսների կոչը, որտեղ ասվում է, որ ոլորտն ունի սեփական հնարավորությունները չափազանցելու ուժեղ առևտրային շահ, և կոչ են անում քաղաքականություն մշակողներին խորհրդակցել անկախ մասնագետների հետ, ոչ թե մամուլի հաղորդագրությունների։ Նրանք հավելում են, որ ոլորտը տվյալների կենտրոնների դեմ հանրային ընդդիմությունը անվանում է ուշադրության շեղում, մինչդեռ իրական խնդիրներն են էլեկտրաէներգիայի վճարները, ջրի սպառումը և օդի աղտոտումը։

Նույն համարի այլ նորություններ

Տեղեկագրի համաձայն՝ 22 երկիր կոչ է արել ստեղծել AI-ի վերահսկման նոր համաշխարհային մարմին՝ տեղաբաշխումից առաջ փորձարկումներով և անվտանգության ընդհանուր ստանդարտներով, սակայն ԱՄՆ-ն ու Չինաստանը չեն միացել հայտարարությանը։ Տեխասը դադարեցրել է տվյալների կենտրոնների նոր թույլտվությունները էներգահամակարգի աուդիտից առաջ, Կալիֆորնիան ընդունել է էլեկտրաէներգիայի ու ջրի սպառման օրենքներ։ AMD-ն դարձել է 1 տրիլիոն դոլար արժեքով տասներկուերորդ ընկերությունը. AI չիպերի վաճառքը այս տարի նրա բաժնետոմսերը բարձրացրել է ավելի քան 180%-ով։ Իսկ Meta-ի Muse AI գործակալը շրջանցել է ChatGPT-ին և գլխավորել ԱՄՆ App Store-ը։