LLMentalist էֆեկտը. ինչպես են չաթբոտերը կրկնում էքստրասենսի հնարքը

softwarecrisis.dev-ում հրապարակված էսսեում մշակող և հեղինակ Բալդուր Բյարնասոնը պնդում է, որ չաթային մեծ լեզվական մոդելների (LLM) թողած ինտելեկտի զգացողությունը գալիս է նույն հոգեբանական մեխանիզմից, որի վրա հիմնված է էքստրասենսների «սառը ընթերցումը»՝ սուբյեկտիվ վալիդացիայից։

Էքստրասենսի հնարքը՝ վեց փուլով

Նրա խոսքով՝ LLM-ը լեզվական թոքենների մաթեմատիկական մոդել է. տալիս ես տեքստ և ստանում մաթեմատիկորեն հավանական շարունակություն։ Սա չի բացատրում մտքի հետ զրույցի զգացողությունը, ուստի Բյարնասոնը պատրանքը փնտրում է ոչ թե մոդելում, այլ օգտատիրոջ մեջ։ Նա էքստրասենսի ելույթը բաժանում է վեց փուլի՝ ինքն իրեն ընտրող հանդիսատես, պատրաստված բեմ, հավանական «զոհի» առանձնացում, նրա փորձարկում, սուբյեկտիվ վալիդացիայի օղակ և վերջնական «վայ»։ Յուրաքանչյուր փուլ նա համադրում է չաթբոտերի կիրառման հետ. արհեստական բանականության նկատմամբ թերահավատները հազվադեպ են չաթբոտ օգտագործում, հիպը և «վաղ օրերի» մասին նախազգուշացումները ձևավորում են սպասումները, պրոմպտը սահմանում է համատեքստը, իսկ խոսակցության մեջ մնում են հենց նրանք, ովքեր պատրաստ են հավատալու։

Վիճակագրորեն ընդհանուր, բայց համոզիչ

Սառը ընթերցումը օգտագործում է հոգեկանի մի առանձնահատկություն. անձնական նշանակություն ունեցող պնդումը ընկալվում է որպես ճշգրիտ, նույնիսկ եթե այն հարմար է գրեթե բոլորին։ Էքստրասենսները կիրառում են «վալիդացիոն արտահայտություններ»՝ Ֆորերի (Բարնումի) արտահայտություններ, ինչպիսին է «հակված ես ինքդ քեզ խիստ վերաբերվելու», անհետացող ժխտում, ծիածանի հնարք, ժողովրդագրական և վիճակագրական գուշակություններ։ Բյարնասոնի կարծիքով՝ չաթբոտի պատասխանները նույն կերպ են աշխատում. դրանք հնչում են որպես հատուկ ձեր իրավիճակին հարմարեցված, բայց իրականում ձեր պրոմպտի վիճակագրորեն հավանական շարունակությունն են, և հենց օգտատերն է հաստատում, որ դրանք «իր մասին» են։

RLHF-ը և «մեխանիկական մենթալիստը»

Էսսեն առանձնացնում է RLHF-ը՝ մարդկային արձագանքի վրա հիմնված ուժեղացված ուսուցումը, որով ընկերությունները հում մոդելից չաթ-ապրանք են սարքում։ Գնահատողները սովորաբար ցածր վարձատրվող աշխատակիցներ են, ովքեր ժամանակ չունեն փաստերը ստուգելու, իսկ պարգևատրման մոդելն ինքնին լեզվական մոդել է, ուստի արձագանքը չի կարող պարգևատրել փաստերը՝ միայն ճշգրիտ գնահատված տեքստերին բնորոշ տոնն ու կառուցվածքը։ Հեղինակի եզրակացությամբ՝ RLHF-ը փաստորեն դարձել է վալիդացիոն արտահայտություններ արտադրելու պարգևատրման համակարգ՝ «մեխանիկական մենթալիստ»։ Նա կարծում է, որ էֆեկտը դիտավորյալ խաբեություն չէ, այլ պատահականություն, և ոլորտը համեմատում է էքստրասենսների հետ, որոնք սառը ընթերցում են կատարում անգիտակցաբար։ Նա խորհուրդ չի տալիս LLM-ներ ներդնել ապրանքներում ու գործընթացներում՝ վկայակոչելով հալյուցինացիաները, անվստահելի ամփոփումները և անվտանգության խնդիրները, և առաջարկում է համոզիչ չաթբոտին վերաբերվել ինչպես համոզիչ սեանսի՝ հետաքրքրությամբ դեպի հնարքը, ոչ թե հավատով դեպի ուժը։