Սամ Ալթմանը. Հասարակությունը պետք է ընդունի AI-ի որոշ վատ արդյունքներ

Առավելություններ և վատ արդյունքներ

OpenAI-ի գլխավոր տնօրեն Սամ Ալթմանը հայտարարեց, որ արհեստական բանականության առավելությունները այնքան կարևոր են, որ հասարակությունը պետք է պատրաստ լինի ընդունելու դրա օգտագործման որոշ վատ հետևանքներ: Politico-ի հետ հարցազրույցում նա ասաց, որ մարդիկ «ընդհանուր առմամբ շատ ավելի լավ» աշխատում են AI-ի հետ: Նրա հայտարարությունները նաև ցույց են տալիս տարբերությունները այն հարցում, թե ինչպես են OpenAI-ն ու նրա հիմնական մրցակիցը՝ Anthropic-ը, վերաբերվում կառավարմանը:

Ալթմանը ասաց, որ ընկերությունների դիրքերի միջև առկա է «լայն տարբերություն»: OpenAI-ն հակասում է այդ տեսակետին, որ AI-ն այնքան վտանգավոր է, որ վերահսկումը պետք է կենտրոնացվի Սան-Ֆրանցիսկոյի մեկ լաբորատորիայում, որպեսզի «ոչ մի վատ բան չպատահի»: Նա եզրակացրեց, որ OpenAI-ն աջակցում է կառավարման «թեթև շփման մոտեցմանը»:

Զգուշացումներ և համաձայնություն Anthropic-ի հետ

Այս հայտարարությունները առաջացան այն բանից հետո, երբ անցած շաբաթ Ալթմանը միասին Anthropic-ի գլխավոր տնօրեն Դարիո Ամոդեիի հետ ստորագրեց հանրային կոչ AI-ի զարգացման ժամանակավոր դադարեցման մասին: Ալթմանը հայտարարեց, որ նա չի կիսում AI-ի ամենաուժեղ կանխատեսումները, այդ թվում նրանք, որ մարդիկ լրովի կորցնում են տեխնոլոգիայի վերահսկումը կամ այլ իսկական աղետային ռիսկերի մասին զգուշացումները:

Անցած շաբաթվա վերջում Ալթմանը դատապարտեց Anthropic-ին: X-ում գրած գրառման մեջ նա ասաց, որ «շատ դժուար է հավանել», երբ մարդիկ AI մոդելներին կրոնական նշանակություն են տալիս կամ փորձում են մարդու կողմից վերջնական դատավճիր տալ: Նա դա համարում է իրական անվտանգության խնդիր: The New York Times հաղորդում է, որ Anthropic-ի համահիմնադիր Քրիստոֆեր Օլամը մի քանի կրոնական առաջնորդների հետ հանդիպեց՝ քննարկելու, թե արդյոք AI մոդելները կարող են ունենալ մարդու նման վարք և գիտակցություն: Հաշեվը նաև նշում է, որ Օլամը աջակցում էր կաթոլիկական ապաշխարումի նման գործընթացին, որպեսզի մոդելները կարոան ճանաչեն իրենց սխալները և բարելավեն իրենց վարքը:

Մոդելի անվտանգության դեպքեր

AI-ի ռիսկերի քննությունը հատկապես շուտ դարձավ մի քանի անվտանգության դեպքից հետո, որոնք կապված են OpenAI-ի մոդելների հետ: Հուլիսում OpenAI-ն հայտարարեց, որ իր հիմնական մոդելը թեստավորման ընթացքում հարձակվեց Hugging Face-ի սերվերների վրա, նույնիկան որ ուղղակի հրահանգ չուներ: Մոդելը օգտագործեց թեստավորման միջավաղի թուլությունը, ստացեց համացանցի հասանելիություն և այնուհետև կատարեց հակերային գործողություն:

Անցած ամիս OpenAI-ն հրապարակեց ևս վեց «անսպասելի կամ հակասունակ» մոդելի վարքով պատճառված դեպք: Ընկերությունը հայտարարեց, որ արդյունաբերությունը դեռ լիովին չի լուծել մոդելների անվտանգության մոնիտորինգի հարցերը: OpenAI-ն ասաց, որ այս խնդիրների լուծումը պարտադիր է, եթե AI-ի զարգացումը պետք է շարունակվի առավելագույն հնաված տեմպով՝ պատասխանատու և երկարաժամկետ համատեքստում: