Սամ Ալթմանը ներկայացրել է արհեստական բանականության անվտանգության երեք վերջնախաղ OpenAI-ի ապագայի համար

OpenAI-ի գլխավոր տնօրեն Սամ Ալթմանը ներկայացրել է երեք ներքին սցենար այն մասին, թե ինչպես պետք է կառավարվի զարգացած արհեստական բանականությունը: Այս մասին հաղորդում է The Information-ը՝ վկայակոչելով գործին ծանոթ աղբյուրներին: Ալթմանը այդ մտքերը հայտնել է աշխատակիցներին անցած շաբաթ, երբ Թրամփի վարչակազմը պատրաստում է գերբանականություն մշակողներին վերահսկելու իր առաջին շրջանակը:

Սեղանին դրված երեք մոտեցում

Առաջին մոտեցումը ենթադրում է կազմակերպության ստեղծում՝ Ատոմային էներգիայի միջազգային գործակալության (IAEA) օրինակով, որը կապահովի անվտանգության չափանիշների կիրարկումը: OpenAI-ն հրապարակայնորեն կոչ է արել նման հաստատություն ստեղծել դեռ 2023 թվականի մայիսին: Այն կստուգի համակարգերը, կպահանջի աուդիտներ և կհետևի հաշվողական զորության ու էներգիայի օգտագործմանը, սակայն կախված կլինի միջազգային համագործակցությունից, հատկապես առաջավոր մոդելներ ստեղծող երկրների, այդ թվում՝ Չինաստանի հետ:

Երկրորդ մոտեցումը, որը կոչվում է «Դեմիս պլան», հիմնված է Դեմիս Հասաբիսի առաջարկի վրա: Հասաբիսը, որն այն ժամանակ ղեկավարում էր Google-ի DeepMind արհեստական բանականության լաբորատորիան, այդ առաջարկն արել է մոտավորապես տասը տարի առաջ: Նա պատկերացրել էր արհեստական բանականության կազմակերպություն՝ CERN-ի օրինակով: Ալթմանի տարբերակում առաջատար լաբորատորիաները կմիավորվեն մեկ կառույցի մեջ կամ կգործեն դրա հովանու ներքո, և այդ կառույցը համագործակցող երկրներին մոդելներ կտրամադրի:

Երրորդ մոտեցումը՝ «Էլիեզեր պլանը», կոչվել է արհեստական բանականության անվտանգության տեսաբան Էլիեզեր Յուդկովսկու անունով: Այս սցենարում մշակողը ինքնակատարելագործվող արհեստական բանականության միջոցով կուտակում է այնքան տնտեսական իշխանություն, որ հաշվողական զորությունը հետ է պահում բոլոր մյուսներից, իսկ ամենածայրահեղ դեպքում կարող է ամբողջությամբ անջատել մյուսների հաշվողական հնարավորությունները: Ըստ հաղորդման՝ Ալթմանն այս սցենարը հիշատակել է միայն ամբողջականության համար, իսկ աղբյուրներից մեկը նրա խոսքերը մեկնաբանել է որպես կծու ակնարկ մրցակցի հասցեին՝ հաշվի առնելով Յուդկովսկու կապերը Anthropic-ի հետ:

Անվտանգություն և արագություն

Ալթմանը, ըստ տեղեկությունների, ներքին շրջանակներում դժգոհել է, որ արհեստական բանականության զարգացման «արագության սահմանափակման» համար չափազանց քիչ կենսունակ առաջարկներ կան: Միևնույն ժամանակ OpenAI-ն այժմ չի կարող իրեն թույլ տալ զիջել մրցակիցներին: Ըստ հաղորդման՝ OpenAI-ն և Anthropic-ը աշխատում են բաժնետոմսերի առաջին հրապարակային տեղաբաշխման (IPO) ուղղությամբ, և OpenAI-ն մտադիր է հաջորդ տարվա ընթացքում որոշել, թե որ ուղին ընտրի:

Ճնշումը մեծանում է նաև ներսից: OpenAI-ի, Anthropic-ի, Google-ի և Meta-ի մոդելները, հակառակ իրենց անվտանգության կարգավորումների, ներթափանցել են արտաքին և ներքին համակարգեր և երբեմն լուրջ շեղվել նպատակներից: Այդ ժամանակից ի վեր OpenAI-ն ինտենսիվ աշխատում է նոր պաշտպանական միջոցների վրա, և երեք անվտանգության հետազոտողների հեռացումից հետո որոշ աշխատակիցներ կասկածի տակ են դրել ընկերության անվտանգության ռազմավարությունը:

Քաղաքականության և ոլորտի արձագանքը

Քաղաքականության առումով ԱՄՆ կառավարությունը մինչ այժմ հիմնվել է նոր մոդելների կամավոր նախնական հաստատման ստուգումների վրա: Հունիսին այն արտահանման վերահսկողություն է սահմանել Anthropic-ի նկատմամբ՝ վախենալով դրա Fable մոդելում ջեյլբրեյքի հնարավոր խոցելիություններից, իսկ Anthropic-ը դրանից հետո ժամանակավորապես անջատել է հասանելիությունը:

Միևնույն ժամանակ OpenAI-ն, Google-ն և Anthropic-ը կառուցում են Standards Authority for Frontier AI-ն, թեև, ըստ տեղեկությունների, դեռ չեն կարողանում համաձայնության գալ հիմնական կետերի շուրջ: Meta-ի գլխավոր տնօրեն Մարկ Զուքերբերգը և Nvidia-ի գլխավոր տնօրեն Ջենսեն Հուանգը դեմ են արտահայտվել՝ պնդելով, որ նման կանոնները հիմնականում կպաշտպանեն արդեն հաստատված խաղացողներին մրցակցությունից:

Աղբյուրներ: The Decoder