Proqram mühəndisliyinin əsasları hər zamankından daha vacibdir

Tərtibatçı və müəllif Cozef Hek (heckj) avqustun 15-də öz Rhonabwy bloqunda yazdığı postda belə bir fikri irəli sürür: AI agent alətləri işlək kod yazmağı ucuzlaşdırdıqca, proqram mühəndisliyinin əsasları — ilk növbədə sistemin necə bir araya gətirilməsi — hər zamankından daha vacib olur.

"Görəsən mümkündürmü" rubikonunun keçilməsi

Hekin qiymətləndirməsinə görə, son bir ildə agent alətləri (harness) məhz bu həddi aşıb və model ilə birləşmiş harness həqiqətən güclü bir alətdir. Onun müşahidəsinə görə, ən təsirli işləri peşənin sonunu proqnozlaşdıranlar deyil, rıçağı tapıb dayaq axtaranlar görür.

İqtisadiyyat baxımından isə o, daha skeptikdir: gördüyü bütün hesabatlara görə, böyük model provayderlərinin biznes modelləri davamlı deyil, lakin imkanlar yoxa çıxmır — sürətlə ucuzlaşır. Açıq çəkili modellər artıq güclü şəxsi kompüteri eyni işi görən maşına çevirir, nəticə isə bir qədər zəif olur.

"İşləyir" — bu, yalnız başlanğıcdır

Hek bunu iyirmi yaşında qaynaq öyrənməsi ilə müqayisə edir: tezliklə qaldıra bilmədiyi, emalatxananın qapısından çıxara bilmədiyi əşyalar düzəltmişdi. Dərs eynidir: hər şeyi hissələrin necə birləşməsi həll edir. Müəyyən uzaqgörənliklə agent harnessləri yalnız "işləyən" deyil, "test edilə bilən" kod da verir — müəllif özü tez-tez "develop with red/green TDD" promptundan istifadə edir — amma bundan yuxarı çox az şey əldə olunur. Proqramın "tikişləri" — kodun necə işləməsi, onun API-si və digər proqramlarla necə uyğunlaşması — elm qədər sənətdir və sistemlə illər boyu necə yaşamaq barədə təcrübəyə, mühakiməyə və ehtimallara əsaslanır.

Modellərin zəif qaldığı yer

Proqramı sazlanabilən, dəstəklənə bilən, qatlı və birləşdirilə bilən etmək hələ də çətin işdir və bunun böyük hissəsi uzun, dərindən düşünmə tələb edir — bugünkü modellər məhz burada geri qalır. Hekin sözlərinə görə, LLM-lər "düşünmür", onlar proqnozlaşdırır; modellər mahiyyət etibarilə insan biliklərinin sıxılmış formasıdır və kodlanmış düşünmənin təkrarı düşünmək deyil. O, "The Illusion of Thinking" araşdırmasını xatırladır və hərəkətlərin nəticələrinin proqnozlaşdırılması istiqamətinə (JEPA modelləri, LeWorld Model, Yan Lekunun son çıxışları) işarə edir.

Alətlərdən daha çox fayda götürmək — və hədlər

Modelləri daha effektiv etməyin hələ çox yolu var: düzgün anda yaxşı və yığcam məlumat vermək, həmçinin özünü düzəltməsi üçün deterministik yoxlama alətləri və təbii dildə geri bildirim təqdim etmək. Onu ən çox mətnin proqnozlaşdırılması deyil, modellərin alətləri çağırma və təlimatları yerinə yetirmə bacarığı heyran edir.

Təlimatlara bu yaxınlığın qaranlıq tərəfi də var. Hek Saymon Uilisonun "ölümcül üçlüyünü" (lethal trifecta) xatırladır: modellər yaxşı məsləhəti pisdən ayıra bilmir və prompt injection hücumlarının ardıcıl qarşısını almaq qabiliyyətindən əsaslı şəkildə məhrumdur. Alignement işləri, təhlükəsizlik çərçivələri və sandboxlar ən pis nəticələrə qarşı əlavə baryerlər yaradır, lakin fundamental boşluqlar qalır — və yaxşı düşünmədən yorulmadan təlimatları yerinə yetirən bir şey, onun sözləri ilə desək, kabus məzmunudur.

O ümid edir ki, yaxın dövrdə post-training və RLHF təmiz interfeyslər və dəstəklənə bilən dizayn barədə düşünməni gücləndirəcək.