AI ilə proqram təminatı hazırlığı getdikcə biftek bişirməyə bənzəyir

Proqram təminatı mühəndisi iddia edir ki, süni intellekt proqram hazırlamağı asanlaşdırıb, lakin nəticəni etibarlı şəkildə yaxşı etməyib. Söhbət iyul ayında dərc olunmuş və "Almost No Skill Required to Cook a Steak (Though You Probably Can't Make a Decent One)" adlanan bloq yazısından gedir. Müəllif Yurii Sidorets yazır ki, biftek bişirmək demək olar ki, bacarıq tələb etmir: əti qaynar tavaya qoy, bir az gözlə, çevir — texniki olaraq yeməli bir şey alınır. Lakin həqiqətən yaxşı biftek — kənardan kənara medium-rare və sabit dadda — tamam başqa məsələdir. Onun sözlərinə görə, AI ilə proqram hazırlamaq da getdikcə məhz buna bənzəyir.

Dayanmadan qurmaq

Yazıda təsvir olunur ki, tərtibatçılar artıq "dayanmadan qurur": AI ilə, AI-sız, yolda — agentlər, alətlər, promptlar və əks əlaqə dövrləri yaradır, sonra hər şeyi modelə atıb təsəvvür etdikləri nəticəni gözləyirlər — "bütün bunların əslində necə işlədiyini anlamağa heç vaxt ehtiyac duymadan". İstənilən nəticə mükəmməl biftekdir: işləyən, yaxşı görünən, cilalanmış təəssürat yaradan və tam təsəvvür edildiyi kimi gələn proqram — hər dəfə eyni nəticə ilə. Sidoretsə görə, əldə olunan isə buna yaxın deyil: bəzən model heyrətamiz dərəcədə yaxşı nəticə verir, bəzən isə "üzərinə bir budaq kəklikotu qoyulmuş kömürü" inamla medium-rare kimi təqdim edir.

"Restorana getmək" niyə kömək etmir

Adi reaksiya problemi pulla aradan qaldırmaqdır: premium AI məhsulu, agentlik, daha bir kod asistenti, peşəkar nəticə vəd edən yeni freymvork. Müəllif qeyd edir ki, bəzən kimsə problemi artıq həll edib, çox vaxt isə yox. Onun arqumenti belədir: AI aşpaz deyil. "Ən yaxşı halda o, biftek maşınıdır". Resepti yerinə yetirə bilər — temperaturu izləmək, lazımi anda çevirmək — və bunu böyük miqyasda sürətlə təkrarlaya bilər. Amma nə istədiyini bilmir, əgər bunu tələblərə, məhdudiyyətlərə, nümunələrə, testlərə və əks əlaqəyə çevirməsən. O halda belə imkanları, kontekst pəncərəsi və ətrafında qurulmuş sistemin keyfiyyəti ilə məhdudlaşır.

Müəllifin analogiyasında bahalı restoran da həmin yanmış bifteyi təqdim edir, çünki xərclərin optimallaşdırılması naminə "şəhərdəki hər restoran eyni AI aşpazını işə götürüb". Hiss edən isə bunu həqiqətən yaratmaq istəyən adam olacaq.

Nəticə: bişirməyi öyrən

Sidorets AI-dan imtina etməyi deyil, bəxtə daha az güvənməyi təklif edir. AI tərtibatçını sürətləndirir: təkrarlanan işləri avtomatlaşdırır, başlanğıc nöqtəsi verir, kodu izah edir — amma mühakiməni əvəz edə bilmir. Keyfiyyəti sənin yerinə müəyyən edə bilmir, hansı güzəştlərin məqbul olduğunu qərarlaşdıra bilmir və bir şeyin texniki cəhətdən doğru, amma vacib olan hər şeydə yanlış olduğu anı həmişə tuta bilmir. "AI ilə yaxşı proqram qurmaq üçün yenə də proqramlaşdırmanı başa düşməlisən", — yazır o: nə istədiyini, geri dönən nəticəni necə qiymətləndirəcəyini və maşının nə vaxt "sənə inamla kömür təqdim etdiyini" bilməlisən.