Հարվարդի հոգեբանը կոչ է անում անվտանգության չափավոր ինժեներիայի՝ ապոկալիպտիկ հռետորաբանության փոխարեն

Հարվարդի հոգեբան Սթիվեն Փինքերը մերժել է այն պատկերացումը, թե արհեստական բանականությունը շուտով կոչնչացնի մարդկությանը։ Իր դիրքորոշումը նա ներկայացրել է Quillette-ում հրապարակված բաց նամակում, ուղղված հոգեբույժ և բլոգեր Սքոթ Ալեքսանդրին։ Վերջինս նրան առաջարկել էր հրապարակային քննարկում արհեստական բանականության գոյաբանական ռիսկերի շուրջ, սակայն Փինքերը հրաժարվել է՝ նման բանավեճերը անվանելով «հանդիսատեսի սպորտ»։

Փինքերի փաստարկները

Փինքերը մերժում է ապոկալիպտիկ սցենարները, օրինակ այսպես կոչված թղթի սեղմակների մաքսիմիզատորը, որտեղ արհեստական բանականությունը մարդկությանը վերածում է հումքի՝ ավելի շատ սեղմակներ ստեղծելու համար։ Նրա խոսքով՝ նման սցենարները խառնում են բանականությունը գերիշխելու մղումի հետ և ենթադրում են, որ համակարգը մոլագար կերպով հետապնդում է մեկ նպատակ՝ անտեսելով կողմնակի հետևանքները։

Այս փաստարկները նա առաջին անգամ ներկայացրել է 2018 թվականի Enlightenment Now գրքի 31 էջանոց «Existential Risk» գլխում։ Նրա խոսքով՝ ապոկալիպտիկ սցենարներն ունեն չորս թերություն՝ բանականության մասին թերզարգացած պատկերացում, քանի որ այն դիտարկվում է որպես իշխանության քանակ և ընդլայնվում մինչև ամենագիտություն. բանականության և մոտիվացիայի շփոթում, քանի որ մարդու մոտ ինքնապահպանման ու գերիշխելու մղումը բնական ընտրության արդյունք է և ներկառուցված չէ ինժեներական համակարգերում. մեկ նպատակի վրա մոլագար կենտրոնացման ենթադրություն. և այն ենթադրություն, որ ինժեներները նման համակարգերին կտան անսահմանափակ ու անշրջելի վերահսկողություն մոլորակի ֆիզիկական ենթակառուցվածքի վրա։

Նա նաև հղում է կատարում RAND Corporation-ի 2025 թվականի մոդելավորման վերլուծությանը, որը ենթադրել է, որ արհեստական բանականությունը իսկապես ձգտում է ոչնչացնել մարդկությանը, սակայն եզրակացրել է՝ «չկա նկարագրելի սցենար, որտեղ արհեստական բանականությունը մարդկության համար անվիճելի ոչնչացման սպառնալիք է»։

Ինչ է նա ընդունում

Փինքերը տեխնոլոգիան անվտանգ չի անվանում։ Նա ընդունում է, որ թերագնահատել է, թե որքան ընդհանուր կդառնան լեզվական մեծ մոդելները։ Նրա խոսքով՝ այդ մրցավազքը գլխավորում են հենց այն համայնքի մարդիկ, որը զգուշացնում է ռիսկերի մասին։

Ինչն է իրականում աշխատում

Վտանգները, որոնք Փինքերը լուրջ է ընդունում, կենսաահաբեկչությունը, կիբերհարձակումները և անվերահսկելի AI գործակալներն են։ Նրա խոսքով՝ ապոկալիպտիկ հռետորաբանությունը դրանց չի օգնի։ Փոխարենը աշխատում են չափավոր անվտանգության գնահատումը և ինժեներական պրակտիկան՝ անկախ վերահսկողություն, պատահարների պարտադիր հետաքննություն, պատասխանատվություն վնասի համար, մարդը ցիկլի մեջ և անջատման մեխանիզմներ։

Ալեքսանդրի դիրքորոշումը

Սքոթ Ալեքսանդրը իր տեսակետները ներկայացրել է հունիսին իր Astral Codex Ten բլոգում։ Նրա գնահատմամբ՝ հավանականությունը, որ արհեստական բանականությունը կոչնչացնի մարդկությանը, 20% է։ Նա պահանջում է և՛ ավելի ուժեղ անվտանգության հետազոտություններ, և՛ միջազգային համաձայնագրեր, որոնք կդանդաղեցնեն արհեստական բանականության զարգացումը։