Ընթերցողի ապստամբությունը՝ ինչու է LLM-ով գրված տեքստը կորցնում ընթերցողին

Ինժեներ Բրայան Քանտրիլը՝ DTrace-ի հեղինակներից մեկը և Oxide Computer-ի համահիմնադիրը, իր բլոգում հրապարակել է հոդված, որտեղ պնդում է, որ ընթերցողները բաց ապստամբության մեջ են լեզվական մեծ մոդելներով գրված տեքստերի դեմ։ Նրա խոսքով՝ նման տեքստը հեշտ է ճանաչել, և այդ պրակտիկան քանդում է հեղինակի ու ընթերցողի միջև եղած սոցիալական պայմանագիրը։

Հոդվածում նկարագրվում է, որ լեզվական մոդելների ոճական նշաններն այնքան գրգռիչ են, որ ընթերցողներն իսկ թողնում են տեքստը նախադասության կեսին։ Քանտրիլը հղում է անում Սինթիա Դանլոփի հարցմանը, որին 668 ծրագրավորող պատմել է, թե ինչպես է արձագանքում արհեստական բանականությամբ ստեղծված բլոգ-գրառումներին։

Ինչ ցույց տվեց հարցումը

Քանտրիլի բերած թվերի համաձայն՝ հարցվածների 78%-ը դադարում է կարդալ հենց որ նկատում է լեզվական մոդել, իսկ 71%-ը գնում է ավելի հեռու և ապագայում խուսափում է այդ հեղինակից։ Նա ընդգծում է, որ ընթերցողները լեզվական կատարելություն չեն փնտրում. 98%-ը նախընտրել է հեղինակի սեփական, անկատար տեքստը մոդելով հղկված տարբերակին։

Քանտրիլը զգուշացնում է հարցվածներին ինքնընտրված խումբ չհամարել։ Սոցիալական ցանցերում ակտիվ ընթերցողները հենց այն մարդիկ են, ովքեր ամենից հաճախ կիսվում են իրենց դուր եկած տեքստերով՝ առցանց արձակի վաղ ընդունողներն ու ճաշակի սահմանողները։

Pangram-ը և Oxide-ի քաղաքականությունը

Նրա խոսքով՝ հայտնաբերման վաղ փորձերը վստահելի չէին. որպես դետեկտոր օգտագործված մոդելները շատ դեպքեր բաց էին թողնում, իսկ մակերեսային նշանների որոնումը չափազանց լայն էր, որ օգտակար լիներ։ Գնահատմամբ՝ Pangram Labs-ի անցյալ տարի թողարկված Pangram 3 մոդելը մեծ առաջընթաց էր, իսկ մոտ մեկ ամիս առաջ ներկայացված Pangram 4-ը՝ իսկական թռիչք՝ կեղծ դրական և կեղծ բացասական ցածր ցուցանիշներով։

Oxide-ն ընդլայնել է իր ներքին RFD 576 փաստաթուղթը. այժմ ընկերության անվան տակ հրապարակվող բաց տեքստերը պետք է Pangram-ից ստանան մարդու կողմից գրված լինելու եզրակացություն։ Քանտրիլը խորհուրդ է տալիս ինստիտուցիոնալ ձայնի ինքնատիպությունը գնահատող կազմակերպություններին նման քաղաքականություն որդեգրել։

Զուգահեռ սպամի հետ

Քանտրիլը լեզվական մոդելով գրված տեքստերը համեմատում է էլ. փոստի սպամի հետ։ 2000-ականների սկզբին, հիշեցնում է նա, իրական մտավախություն կար, որ սպամը կոչնչացնի էլ. փոստը. տասնամյակի վերջում զտումը այնքան լավացավ, որ քանդեց սպամի տնտեսությունը, իսկ որպես սպամ նշվելը դարձավ իսկապես կործանարար լեգիտիմ բիզնեսի համար։

Նրա կարծիքով՝ նույն դինամիկան այժմ կարող է կիրառվել արհեստական բանականությամբ գրված արձակի նկատմամբ. եթե ընթերցողները որոշեն անտեսել հեղինակին, հեղինակն ինքը կքանդի հրապարակման ողջ իմաստը։ Խորհուրդը պարզ է՝ օգտագործեք լեզվական մոդելը որպես խմբագիր, ոչ թե հեղինակ, որովհետև prompt-ը հոդված չէ։