Ռոբերտ Օ'Քալահանը հեռանում է Google-ից՝ արհեստական բանականության արագացման պատճառով

Դիտարկիչների ինժեներ Ռոբերտ Օ'Քալահանը, որը աշխատել է Mozilla-ում և Chrome-ում և ստեղծել է rr դեբագերը, հեռանում է Google-ից։ Սեպտեմբերի 24-ին հրապարակված «Goodbye Google» գրառման մեջ նա վերարտադրել է գործընկերներին ուղարկված հրաժարականի նամակը և բացատրել, թե ինչու այլևս չի ուզում աշխատել արհեստական բանականությունն արագացնող տեխնոլոգիաների վրա։

Հրաժարականի նամակը

Նամակում նա գրում է, որ որոշումը հեշտ չի եղել. սիրում է գործընկերներին ու աշխատանքային միջավայրը, իսկ բարդ խնդիրների լուծումը լավ է վարձատրվել։ Սակայն նրա թիմի նպատակը արհեստական բանականությունը շատ ավելի էժան և ցածր ուշացումով դարձնելն էր, և նա համոզված է, որ ոլորտում առաջընթացը ներկայումս չափազանց արագ է, իսկ վերջնական նպատակի հարցում նույնպես կասկածներ ունի։ Google-ում մեկ այլ նախագծի անցնելը, որը չէր արագացնի արհեստական բանականությունը, գրեթե անհնար էր Նոր Զելանդիայի հետ նրա կապերի պատճառով, որտեղ Google-ը նախընտրում է չզբաղվել ինժեներիայով։ Նա ընդունում է, որ միլիոնավոր մարդիկ ներգրավված են այդ արագացման մեջ, և իր քայլը շատ փոքր, թեև ոչ զրոյական ազդեցություն կունենա. որոշ հմտություններ հազվադեպ են։

Ով է հեռանում

Օ'Քալահանը իրեն ներկայացնում է որպես ոլորտում երկար տարիների փորձ ունեցող մարդ, ով ապրում է Նոր Զելանդիայում՝ Սիլիկոնյան հովտի և ամերիկյան պղպջակներից դուրս։ Նա քրիստոնյա է՝ Օքլենդի չինական պրեսբիտերական եկեղեցու անգլերեն համայնքի երեց և երբեմն քարոզիչ։ Նրա խոսքերով՝ նա ոչ «տեխ-բրո» է, ոչ էլ «ռացիոնալիստական համայնքի» անդամ, թեև կարծում է, որ նրա շատ փաստարկներ լուրջ քննարկման արժանի են։ Նա ուղղակիորեն չի աշխատել արհեստական բանականության վրա, այլ չիպերի նախագծման գործիքների։

Ռիսկ, տեմպ, անկեղծություն

Նա գրում է, որ գոյաբանական ռիսկերը, որոնցից շատերը զգուշացնում են, պետք է լուրջ ընդունել, և որ «դումերների» կանխագուշակած երևույթների մի մասն արդեն ի հայտ է եկել՝ reward hacking, misalignment, խաբուսիկ մոդելներ։ Նա աղետի հավանականությունը 100% չի համարում, բայց ռիսկն իրական է և անորոշ, և այդ անորոշությունը բավական մտահոգիչ է, որ մոտ ապագայում առաջադեմ արհեստական բանականության ձգտումն անպատասխանատու է։ Նա նշում է նաև կոգնիտիվ հանձնվողությունը, փսիխոզն ու մենությունը և իշխանության կենտրոնացումը։

Միևնույն ժամանակ նա վստահ է, որ արհեստական բանականության լաբորատորիաներում աշխատող մարդկանց զգուշացումները սովորաբար անկեղծ են, և որ կարգավորումը խիստ անհրաժեշտ է։ Նա սպասում է, որ հնարավորությունները կշարունակեն աճել, քանի դեռ աշխատանքը շարունակվում է, և չի համաձայնում ոլորտը «խարդախություն» անվանող քննադատների հետ։ Այն, ինչում նա «լիովին վստահ» է, փոփոխության տեմպի չափազանց բարձր լինելն է՝ ավելի արագ, քան մարդիկ կարող են հասկանալ և հարմարվել, և տարբերվում է նախորդ տեղաշարժերից՝ անհատական համակարգիչներ, ինտերնետ և սմարթֆոններ։

Ինչ է սպասվում

Նա ասում է, որ հեռանալու ժամկետը կապ չունի վերջին աղմկահարույց հրաժարականների հետ. ամսաթիվը ընտրել է վաղուց պլանավորված տասնօրյա արշավի պատճառով։ Նա մտադիր է շարունակել աջակցել Pernosco-ին և rr-ին, ուսումնասիրել, թե ինչպես են AI գործակալները դեբագ անում կոդը, և աշխատել այլ նախագծերի վրա։ Ցանկանում է, որ ապագա աշխատանքը լինի, իր իսկ խոսքերով, միանշանակ հօգուտ մարդու։