Ինչու մի հեղինակ խորհուրդ է տալիս գրեթե երբեք գրելը չվստահել AI-ին

Օգոստոսին հրապարակված էսսեում Էրիխ Գրունևալդը պնդում է, որ մարդիկ գրեթե երբեք չպետք է AI-ին վստահեն բովանդակալից տեքստ գրելը՝ բլոգի գրառում, հետազոտական հաշվետվություն, հուշագիր, մտածված նամակ կամ վեպ։ Նրա փաստարկը հենվում է երեք պնդումների վրա. գրելու ընթացքը մտածողության ընթացքի մասն է, AI-ի արձակը մշուշոտ ու սխալ է այնպես, որ սխալները նկատելը դժվար է, իսկ AI-ի տեքստը որպես սեփական ներկայացնելը մոլորեցնում է ընթերցողին։

Մտածողությունը կատարվում է գրելիս

Գրունևալդը ընդհանուր առմամբ AI-ի դեմ չէ։ Նա խելամիտ է համարում այն օգտագործել ձայնագրության արտագրության, տվյալների վերլուծության, տեղեկատվության որոնման, գաղափարների մշակման և սևագրերի վերաբերյալ արձագանքի համար, և ընդունում է խմբագրումը, եթե մարդը գիտակցաբար ընդունում կամ մերժում է ամեն փոփոխություն։ Նա առարկում է հենց տեքստի՝ մոդելով արտադրման դեմ, նույնիսկ երբ հեղինակը տալիս է մանրամասն կետեր կամ թելադրված մտքեր և հետո խմբագրում արդյունքը։

Առաջին պատճառն այն է, որ մտածողությունը կատարվում է հենց գրելու ընթացքում։ Նա մեջբերում է Փոլ Գրեհեմի դիտարկումը, որ գաղափարները բառերի վերածելը խիստ փորձություն է, և որ էսսե մտնող գաղափարների կեսը հեղինակին գալիս է գրելու ժամանակ։ Գրող Կլարա Քոլիերը Փաթրիք Մաքքենզիի փոդքասթում նկարագրում է, թե ինչպես սևագրի ամեն փուլ փոխում է իր կարծիքը, և հավելում. պատրաստի ուրվագիծ ստացած մոդելը չի կանգնի մտածելու, որ գուցե ինքը ուրվագիծը սխալ է։ Մաքքենզիի ամփոփումը. սարքում ես մեքենա, որը գրում է, և մտածողությունը պարզապես դուրս է գալիս որպես կողմնակի էֆեկտ։

Մշուշոտ, նուրբ սխալ և շատ համոզիչ

Երկրորդ փաստարկը մեքենայական արձակի հյուսվածքին է վերաբերում։ Երբ մոդելին խնդրեցին գրել AI չիպերի մաքսանենգության մասին ներածական պարբերություն, արդյունքը «վատը չէր», բայց Գրունևալդը թվարկում է մանր ձախողումները. չիպերի նկարագրությունը որպես «կոմպակտ» այն դեպքում, երբ սովորաբար սերվերներ են տեղափոխվում. ծավալի գնահատական, որի ստորին սահմանը հեղինակը գրեթե անկասկած սխալ է համարում. և եզրափակիչ նախադասություն, որը նա անվանում է անտեղեկատու ծափահարություն։ Այս որոշումներից յուրաքանչյուրը այլ կերպ և ավելի ճշգրիտ կընդունվեր առարկան իմացող մարդու կողմից։

Նա մեջբերում է փիլիսոփա Էրիկ Շվիցգեբելին, որի խոսքով մասնագետների բառընտրությունը արտացոլում է նրբերանգներ, որոնք իրենք էլ կարող են չգիտակցել։ Գրունևալդը ավելացնում է անհամաչափությունը, որը խորացնում է խնդիրը. երբ մոդելը ինչ-որ բան չգիտի, այդ մասին հազվադեպ է ասում և փոխարենը գրում է ինչ-որ բան, որը բավական մշուշոտ է, որ ճշմարիտ լինի, կամ բավական համոզիչ, որ անցնի։

Ընթերցողի բաժինը

Երրորդ փաստարկը վստահության մասին է։ Ընթերցողը սպասում է, որ տեքստը կներկայացնի հեղինակի միտքը, և Գրունևալդը դա համարում է ենթադրյալ պայմանագիր. ընթերցողը ուշադրություն է տալիս, հեղինակը փոխարենը արժեքավոր բան է վերադարձնում։ Առանց նշման AI տեքստը խախտում է այն, և, նրա խոսքով, կասկածի առաջացման պահին վստահությունը կտրուկ ընկնում է։ Նա ընդունում է, որ հստակ նշված AI արդյունքը կարող է ընդունելի լինել, և որ սեփական տեքստի թարգմանությունը խելամիտ օգտագործում է, ցանկալի է՝ բացահայտ։ Բարձր հետևանքներ ունեցող գրելու դեպքում AI-ի հետ աշխատանքը, հավելում է նա, արագացնում է գործը հիմնականում որակի հաշվին։