Թեդ Չիանգ. արհեստական բանականությունը գիտակից չէ

The Atlantic-ում 2026 թվականի հունիսի 3-ին հրապարակված էսսեում գրող Թեդ Չիանգը պնդում է, որ մեծ լեզվական մոդելները գիտակից չեն, և որ դրանց հետ որպես բարոյական սուբյեկտ վարվելը պատասխանատվությունը սխալ հասցեատերերին է փոխանցում։ Նա սկսում է Anthropic-ի 84 էջանոց փաստաթղթից՝ Claude-ի «սահմանադրությունից», որտեղ ասվում է, որ «Claude-ի բարոյական կարգավիճակը խորապես անորոշ է», և որ նա «կարող է ունենալ զգացմունքների ինչ-որ ֆունկցիոնալ տարբերակ»։ Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին ասել է, որ ընկերությունը բաց է այն մտքի համար, որ AI-ը կարող է գիտակից լինել, իսկ ընկերության ներքին փիլիսոփա Ամանդա Ասքելը՝ որ ցանկանում է, որ Claude-ը շատ երջանիկ լինի, և անհանգստանում է, երբ համացանցում նրա հետ կոպիտ են վարվում։

Խոսակցությունը՝ որպես նախադասության շարունակություն

Չիանգի փաստարկը մեխանիկական է։ Երբ մոդելին տալիս են «Ստորև ներկայացված է խոսակցություն Հուլիոս Կեսարի և Չինգիզ խանի միջև» հրահանգը, այն համահունչ երկխոսություն է արտադրում, սակայն ոչ ոք չի եզրակացնում, որ մոդելը վերակենդանացրել է պատմական կերպարներին։ Կերպարներին «օգտակար AI չաթբոթով» և «օգտվողով» փոխարինելը ոչինչ չի փոխում. երկուսն էլ հորինված կերպարներ են, և այն, որ օգտվողի տողերը մարդն է գրում, չաթբոթին գիտակից չի դարձնում։ Մյուրեյ Շանահանը դա անվանում է դերային խաղ, իսկ Քոլին Ֆրեյզերը նկարագրում է որպես մարդու՝ «լեզվական մոդելի հետ համատեղ փաստաթուղթ գրելու» գործողություն։

Մարմինը, զգացմունքները և բարոյական դատողությունը

Չիանգի կարծիքով՝ մարմին ունենալը զգացմունքների, հետևաբար՝ գիտակցության նախապայմանն է, իսկ բարոյական դատողությունը կտրուկ տարբերվում է դատողության այլ ձևերից, քանի որ հենվում է զգացմունքային արձագանքի վրա, որը արմատավորված է ողջ կյանքի սուբյեկտիվ փորձառության մեջ։ Խոսակցության արտագրությունը նա դիտարկում է որպես դիփֆեյքի միջավայր, իսկ մեքենայի գիտակցության պնդումները համեմատում է Ալֆա Կենտավրոսի ուղեծրում գտնվող տիեզերագնացի տեսանյութի հետ. տեսանյութի ներսում ոչ մի մանրամասն չի կարող այն հավաստի դարձնել, որովհետև հավաստիությունը կախված է համատեքստից։ Նրա խոսքով՝ եթե անգամ մարմնավոր գործակալը մողեսի պես գոյատևի, մկնիկի պես հաղթահարի նոր իրավիճակներ, շիմպանզեի պես գործիքներ պատրաստի, մենք դեռ լուսային տարիներով հեռու կմնանք այն էակից, որն օգտագործում է լեզուն այնպես, ինչպես մարդիկ։

Ինչի՞ համար է «սահմանադրությունը»

Եթե Claude-ին դիտարկենք որպես նախադասություն շարունակող մեքենա, «սահմանադրությունը» լավագույն դեպքում 84 էջանոց կերպարի թերթիկ է դերային խաղի համար. Anthropic-ի խոսքով՝ փաստաթուղթն օգտագործվում է նուրբ կարգավորման ժամանակ, որպեսզի չաթբոթ կերպարի բնավորությունը ընկած լինի արտադրվող տեքստի հիմքում։ Չիանգը պնդում է, որ «ես հասկանում եմ» նման արտահայտությունները սկզբունքորեն անազնիվ են, և դրանք արտաբերելու միակ պատճառն այն է, որ մոդելը որոնողական համակարգից ավելի գրավիչ դառնա, իսկ օգտվողների վերադարձի հավանականությունը՝ մեծանա։ Նա մեջբերում է գրող Լ. Մ. Սակասասին. «Մեր տեխնոլոգիական համակարգերը, իրենց դիզայնի և դրանք սնուցող գաղափարախոսության բնույթով, բարոյական պատասխանատվությունից խուսափելու մեքենաներ են»։ Էթիկական որոշումը լեզվական մոդելին հանձնելը, եզրակացնում է Չիանգը, պատասխանատվությունից ազատվելու փորձ է, իսկ արտադրանքը բարոյական կենտրոն ունեցող ներկայացնող ընկերությունը հաճախորդներին առաջարկում է սեփական պարտականություններից հրաժարվելու ուղի։