Pydantic-ի հոդվածը՝ մարդը հանգույցում հոգնել է

Հսկողության հոգնածություն

Pydantic-ի աշխատակից Լորա Սամերսը հրապարակել է «The Human-in-the-Loop is Tired» շարադրությունը, որտեղ պնդում է, որ խոշոր լեզվական մոդելներով ծրագրավորումը միաժամանակ իսկապես օգտակար է և իսկապես ապակայունացնող, և որ այդ պնդման երկրորդ մասի անտեսումը կավարտվի մշակողների այրմամբ։ Pydantic-ը մշակում է տվյալների վալիդացիայի գործիքներ և AI-գործակալների շրջանակ։

Հոդվածի կենտրոնում այն է, ինչ Սամերսն անվանում է հսկողության հոգնածություն։ Նրա գործընկեր Douwe-ն, ով պահպանում է Pydantic AI շրջանակը, պատմում է, որ ամեն առավոտ արթնանում է մոտ երեսուն pull request-ով, որոնցից յուրաքանչյուրը գիշերը բացել է ինչ-որ մեկի AI-ը, և պետք է արագ որոշում կայացնի բոլորի վերաբերյալ։ Վերանայումը մոդելին հանձնելու գայթակղությունը մեծ էր, բայց, նրա բառերով՝ «այդ դեպքում ես ի՞նչ եմ անում այստեղ»։

Սամերսը հիշում է, որ գրեթե երկու ամբողջ օր ծախսել է մոդելի համար պլան գրելու վրա՝ անընդհատ ճշգրտելով ու վերաձևակերպելով, սակայն մոդելը միևնույն է React-ի hook-ը տեղափոխել է սխալ ֆայլ կամ հորինել է չգոյություն ունեցող բաղադրիչներ։ Սրանք ոչ թե կարողության, այլ հետևողականության սխալներ են. մոդելը կարող է համոզիչ կոդ արտադրել, բայց բարդ փոփոխության ընթացքում միշտ չէ, որ պահում է մեկ ամբողջական մտադրություն։

Պարգևատրման ֆունկցիայի խնդիրը

Մեխանիզմը, որ ընկած է այս ամենի հիմքում, Սամերսն անվանում է մարդկային պարգևատրման ֆունկցիայի խնդիր։ Մեքենայական ուսուցման մեջ պարգևատրման ֆունկցիան գործակալին ասում է, թե ինչն է լավը. կոդը ձեռքով գրելը երբեք հեշտ չի եղել, բայց լի էր փոքր պարգևներով՝ տեսնել կոմպիլյացիան, զգալ վերահսկողությունը։ LLM-ի օգնությամբ աշխատանքը ավտոմատացնում է դրա մեծ մասը և փոխարինում վերանայումով ու հսկողությամբ. հաճելի մասը փոքրանում է, հոգնեցուցիչը՝ աճում։

Ինտենսիվությունը նույնպես աճում է։ Սամերսը հղում է անում Berkeley Haas-ի հետազոտությանը, ըստ որի AI-ը ոչ թե նվազեցնում, այլ ուժեղացնում է աշխատանքը, և հիշում է, թե ինչպես prompt-ներ էր գրում գրեթե մինչև գիշերվա երկուսը, որովհետև պլանը «համարյա պատրաստ» էր թվում։ Գործընկերոջ կատակը՝ միաժամանակ բացիր Claude-ի հինգ սեսիա, լավ է նկարագրում պահը. սկսելի գործերի թիվը կտրուկ աճել է, իսկ մտածված ավարտելիներինը՝ ոչ, որովհետև դրա համար դեռ մեկ ուղեղ է պետք։

Նախադեպը և այն, ինչ մնում է

Սամերսը այս պահը համեմատում է 2009 թվականի անցման հետ՝ ֆիքսված լայնության դասավորություններից դեպի ադապտիվ դիզայն։ Դիզայներներն ատում էին պիքսելային մակարդակով վերահսկողության կորուստը, բայց արհեստը չմեռավ՝ համաչափության զգացումը, հիերարխիան, համակարգային մտածողությունը և անորոշության համար նախագծելը դարձան ավելի արդիական։ Այսօրվա փոփոխությունն ավելի արագ է, սակայն օրինաչափությունը նույնն է մնում։

Երբ համոզիչ կոդը էժան է, տարբերողը դառնում են ճաշակը, նրբերանգը, հասուն ճարտարապետական դիրքորոշումները և իսկական փորձից եկած ոչ ստանդարտ որոշումները։ Նոր պրակտիկաներ նույնպես ի հայտ են գալիս՝ օրինակ «pre-mortem», երբ նոր սեսիան ենթադրում է, որ պլանը աղետալիորեն ձախողվել է, և փնտրում պատճառները։ Եզրակացությունը զուսպ է. շշի վիզը երբեք կոդը չի եղել, այլ մարդկային ուշադրությունը և ինժեներական դատողությունը։ Մարդիկ դեռ հանգույցում են՝ ուղղակի հոգնած։