Ծրագրային ճարտարագիտության հիմքերն ավելի կարևոր են, քան երբևէ

Իր Rhonabwy բլոգում օգոստոսի 15-ին հրապարակված գրառման մեջ ծրագրավորող և հեղինակ Ջոզեֆ Հեքը (heckj) պնդում է. քանի դեռ AI գործակալների գործիքները աշխատող կոդ գրելը էժան են դարձնում, ծրագրային ճարտարագիտության հիմքերը՝ առաջին հերթին այն, թե ինչպես է համակարգը միացված միմյանց, ավելի կարևոր են, քան երբևէ։

«Հնարավո՞ր է» ռուբիկոնի հատումը

Ըստ Հեքի՝ վերջին մեկ տարվա ընթացքում գործակալային harness-երը հատել են այդ սահմանը։ Ամենատպավորիչ աշխատանքը, նրա դիտարկմամբ, անում են ոչ թե մասնագիտության ավարտի մասին բարձրաձայն խոսողները, այլ նրանք, ովքեր գտել են լծակը։

Տնտեսության հարցում նա ավելի սկեպտիկ է. իր տեսած բոլոր զեկույցներով խոշոր մոդելներ մատուցող ընկերությունների բիզնես մոդելները կենսունակ չեն, սակայն հնարավորությունները չեն անհետանում՝ արագորեն էժանանում են։ Բաց կշիռներով մոդելներն արդեն հզոր անհատական համակարգիչը դարձնում են նույն գործը կատարելու ունակ մեքենա, թեև մի փոքր ավելի թույլ արդյունքով։

«Աշխատում է»-ը միայն սկիզբն է

Հեքը սա համեմատում է իր փորձի հետ. քսան տարեկանում, երբ եռակցում էր սովորում, արագ ստեղծեց իրեր, որոնք ոչ կարող էր բարձրացնել, ոչ էլ արհեստանոցի դռնից դուրս բերել։ Դասը նույնն է այլ ոլորտում էլ՝ ամեն ինչ որոշվում է նրանով, թե ինչպես են մասերը միացված միմյանց։ Որոշ կանխատեսումով գործակալային harness-երը տալիս են ոչ միայն «աշխատող», այլ նաև «թեստավորելի» կոդ — նա ինքը հաճախ օգտագործում է «develop with red/green TDD» հրահանգը — սակայն այդ մակարդակից բարձր քիչ բանի են հասնում։ Ծրագրի «կարերը»՝ թե ինչպես է աշխատում կոդը, որն է նրա API-ն և ինչպես է այն տեղավորվում այլ ծրագրերի հետ, այնքան արվեստ է, որքան գիտություն, և հենվում է փորձի, դատողության ու ենթադրությունների վրա՝ այն մասին, թե ինչպես է այս ծրագիրն ապրելու տարիներ շարունակ։

Որտեղ են մոդելները զիջում

Ծրագիրը դարձնել վրիպազերծելի, պահպանելի, շերտավորված ու բաղադրելի մինչև այժմ էլ բարդ խնդիր է, և դրա մեծ մասը պահանջում է երկար, խորը դատողություն — հենց այստեղ են զիջում այսօրվա մոդելները։ Ըստ Հեքի՝ LLM-ները չեն «դատում» — նրանք կանխատեսում են, իսկ մոդելներն ըստ էության մարդկային գիտելիքի սեղմված պատկերն են, և կոդավորված դատողության կրկնությունը դատողություն չէ։ Նա հիշատակում է «The Illusion of Thinking» հետազոտությունը և մատնանշում գործողությունների արդյունքները կանխատեսելու ուղղությունը (JEPA մոդելներ, LeWorld Model, Յան Լեկունի վերջին ելույթները)։

Ինչպես ավելի արդյունավետ դարձնել գործիքները

Դեռ շատ ուղիներ կան մոդելներն ավելի արդյունավետ դարձնելու համար. լավ, հակիրճ տվյալներ ճիշտ պահին, դետերմինիստական ստուգման գործիքներ և բնական լեզվով արձագանք, որով մոդելն ինքն իրեն ուղղում է։ Նրան ամենից շատ տպավորում է ոչ թե տեքստի կանխատեսումը, այլ այն, թե որքան լավ են մոդելները կանչում գործիքներ և կատարում հրահանգներ։

Սակայն այս հրահանգապահությանը բնորոշ է նաև մութ կողմ։ Հեքը հիշում է Սայմոն Ուիլիսոնի «մահացու եռյակը» (lethal trifecta). մոդելները չեն տարբերում լավ խորհուրդը վատից և սկզբունքորեն ի վիճակի չեն հետևողականորեն կանխել prompt injection հարձակումները։ Համապատասխանեցումը, անվտանգության շրջանակներն ու sandbox-երը լրացուցիչ պատնեշներ են ստեղծում, սակայն հիմնարար բացերը մնում են — և այն, ինչ անխոնջ կատարում է հրահանգներ առանց լավ դատողության, նրա խոսքով, մղձավանջի նյութ է։

Նա հույս ունի, որ մոտ ապագայում post-training-ը և RLHF-ը կամրապնդեն դատողության հետքերը՝ մաքուր ինտերֆեյսների ու վրիպազերծելիության շուրջ։